Прошле године је Фацебоок створио две цхатботе и замолио их да почну да разговарају једни са другима, практикујући своје преговарачке вештине. Испада да су ботови били прилично добри у преговорима - али то су учинили користећи свој сопствени измишљени језик који је људима био неразумљив.
Сличан садржај
- Овај уметник живи у тајном свету класификованих тајни и надзора
Овде иде свет. Рачунари стварају садржај једни за друге, а не за нас. Слике праве рачунари, а други рачунари за преглед и тумачење. Све се одвија тихо, често без нашег знања или пристанка.
Дакле, учење како видети као рачунар - чинећи ове комуникације машина-машина видљивима - можда је најважнија вештина 21. века.
25. октобра 2018., квартет Кроноса - Давид Харрингтон, Јохн Схерба, Ханк Дутт и Сунни Ианг - одсвирао је концерт у америчком музеју уметности Смитхсониан. Гледало их је 400 људи и десетак алгоритама вештачке интелигенције, потоњи љубазношћу Тревора Паглена, уметника иза изложбе „Ситес Унсеен“, који се тренутно налази у музеју.
Док су музичари свирали, екран изнад њих показао нам је људе шта рачунари виде.
Док је Кронос пролазио кроз оплакивани комад пореклом из Отоманског царства, на екрану су надземни алгоритми откривали лица музичара, обрисујући усне, очи и нос сваке особе (и повремено су видели "духова" лица тамо где их није било - често у Крп длаке оснивача Харрингтона). Како су алгоритми постајали све напреднији, видео феед се одмицао све док нису остале само неонске линије на црној позадини. Коначно, обриси лица су изблиједјели све док није преостало апстрактно распоређивање линија - вјероватно сав рачунар потребан за разумијевање "лица", али потпуно неразумљив за људе.
"Сигхт Мацхине", Тревор Паглен, Квартет Кронос (Бруце Гутхрие) 
"Сигхт Мацхине", Тревор Паглен, Квартет Кронос (Бруце Гутхрие) 
"Сигхт Мацхине", Тревор Паглен, Квартет Кронос (Бруце Гутхрие) 
"Сигхт Мацхине", Тревор Паглен, Квартет Кронос (Бруце Гутхрие) 
"Сигхт Мацхине", Тревор Паглен, Квартет Кронос (Бруце Гутхрие) 
"Сигхт Мацхине", Тревор Паглен, Квартет Кронос (Бруце Гутхрие) 
"Сигхт Мацхине", Тревор Паглен, Квартет Кронос (Бруце Гутхрие) 
"Сигхт Мацхине", Тревор Паглен, Квартет Кронос (Бруце Гутхрие) 
"Сигхт Мацхине", Тревор Паглен, Квартет Кронос (Бруце Гутхрие) 
"Сигхт Мацхине", Тревор Паглен, Квартет Кронос (Бруце Гутхрие) 
„Машина за нишање“, Тревор Паглен, Квартет Кронос Деби на источној обали представе под називом „Машина вида“, као и Пагленов други рад, тражио је од гледалаца и слушалаца да науче како да виде како то раде рачунари и да преиспитају људски однос према технологији - телефонима у џепу и очима у небо и све између тога.
2018. је година, а идеја да нас мобилни телефони више не изгледају као теорија завере коју је поставила блогерка из подрума капу са лименом фолијом и капу. Гоогле је ухваћен раније ове године како прати локације корисника Андроид телефона, чак и ако су корисници онемогућили ту функцију. Многи људи су уверени да нас телефони слушају како бисмо боље приказивали огласе - Фацебоок и друге компаније негирају те трошкове, мада је то технички и правно могуће учинити. Технички новинари Алек Голдман и ПЈ Вогт истражили су и установили исту ствар: Нема разлога зашто наши телефони не би слушали, али са друге стране, оглашивачи могу добити довољно информација о нама помоћу других метода које једноставно не требају .
У том контексту је изведена "Сигхт Мацхине". Десетак фотоапарата који су гледали Кронос Куартет слали су видео снимке уживо са перформанса на сталак за рачунаре који користе алгоритме вештачке интелигенције који нису у функцији за креирање језивих визуала. Алгоритми су исти они који се користе у нашим телефонима да нам помогну да направимо боље селфие, оне које користе аутомобили који се возе како би избегли препреке и они који се користе за спровођење закона и оружје. Па док су резултати на екрану понекад били лепи или чак смешни, постојао је моменат ужаса.
„Оно што сам задивљено овим конкретним делом јесте да нам показује нешто што јесте - и то важи за сав његов рад - показује нам нешто што је узнемирујуће и то ради помоћу трикова“, каже Јохн Јацоб, кустос музеја за фотографију, која је организовала "Невиђене странице."
"То је намерни трик", каже он, "и то успева."
Касније су софистицирани алгоритми за препознавање лица донијели просудбе о члановима Кроноса и приказали њихове резултате на екрану. "Ово је Јохн [Схерба]. Јохн има између 24-40 година", рече рачунар. "Сунни [Ианг] је 94, 4% жена. Сунчано је 80% љуто и 10% неутрално."
"Једна од ствари за коју се надам да перформанс показује, " каже Паглен, "је неки од начина на који перцепција рачунара није неутрална. Врло је пристрана ... са свим врстама политичких и културних претпоставки које су није неутралан. " Ако систем за класификацију полова каже да је Сунни Ианг 94, 4 посто жена, онда то подразумијева да је неко 100 посто жена. "И ко је одлучио шта је 100% женско? Да ли је Барбика 100% женска? А зашто је пол двоструки?" Пита Паглен. "Када видим да се то догађа у тренутку када савезна влада покушава да буквално избрише људе куеер-рондера, с једне стране је смешно, али за мене је и ужасно."
Каснији алгоритам распоређен у процентима и прешао је да једноставно идентификује предмете у сцени. "Микрофон. Виолина. Особа. Медузе. Перика." (Последња два дела очигледно су грешка; изгледа да је алгоритам збунио Ханк Дутта за медузе и Харрингтон-ову праву косу за каиш.) Тада су класификације постале сложеније. „Сунни држи шкаре“, рекла је машина док је светлост блистала са њених жица за виолончело. "Јохн држи нож." Шта би се догодило ако је класификатор дао ове - нетачне - податке полицији, никада нећемо знати.
Већина крајњих корисника АИ платформи - који нису уметници - може тврдити да ови системи могу имати своје пристраности, али увек примају коначан одјава од стране човека. Амазонски алгоритам алгоритма Рекогсерватион који компанија продаје органима за спровођење закона и, можда, ИЦЕ, погрешно је идентификовао 28 чланова Конгреса као људе оптужене за злочин упоређујући њихова лица са мугсхотс снимцима у јавно доступној бази података. У то време, Амазон је тврдио да је АЦЛУ, који је систем користио за прављење утакмица, погрешно користио Реког паљење. Компанија је саопштила да је подразумевана поставка система за утакмице, која се назива „праг поузданости“, само 80 процената. (Другим речима, алгоритам је био само 80 процената сигуран да је угледни Јохн Левис био злочинац.) Портпарол Амазона је рекао да препоручује полицијским одељењима да користе праг поверења од 95 процената и да се „Амазоново обнављање готово искључиво користи да помогне сузити поље и омогућити људима да брзо преиспитају и размотре опције користећи своју просудбу. "Рачунари можда комуницирају једни са другима, али - за сада - још увек траже од људи да обаве последњи позив.
Музика коју је Паглен одабрао са Кронос-овим доприносом такође има шта да каже о технологији. Један комад, "Поверхоусе", Раимонда Сцотта, "вероватно је најпознатији по употреби у цртаним филмовима у фабричким сценама", каже Паглен. "Ако икад видите фабричку врсту прекомерне продукције и полуде, често то говори музика. За мене је то начин размишљања о тој готово цртаној индустриализацији и некако их смешта у технолошки контекст." Још један комад, "Другачији возови" Стевеа Реицха, затворио је сет. Кронос изводи само први покрет, који се односи на детињство Реицха 1930-их и 40-их; Паглен каже да сматра да тај део слави "осећај обилности и напретка који возови олакшавају." *
Спојена је са сликама из јавно доступне базе података која се зове ИмагеНет, а које се користе да науче рачунаре шта су ствари. (Такође се назива и „подаци о тренингу“, па да, то је помало пунка.) Екран је бљеснуо слике немогуће брзо, показујући примере воћа, цвећа, птица, капе, људи који стоје, људи ходају, људи скачу и појединци попут Арнолда Сцхварзенеггера. Ако бисте желели да научите рачунар како да препозна особу, попут Сцхварзенеггера, или кућу или концепт „вечере“, почели бисте с рачунаром показати ове хиљаде слика.
Показали су се и кратки видео-снимци људи који се љубе, грле, смеју и насмеју. Можда би АИ обучен на овим сликама био добронамеран, пријатељски расположен.
Али "различити возови" нису само у оптимизму; каснији покрети, за које Кронос није играо у четвртак, али их "подразумева" први, односе се на то како је обећање путовања возом присвојило да постане инструмент холокауста. Возови, који су изгледали као технолошки напредак, постали су возила у којима су десетине хиљада Јевреја премештене у логоре смрти. Изгледало је као да је добронамерна технологија покварена за зло.
„То је попут:„ Шта би можда могло поћи по злу? “ Паглен каже. "Прикупљамо све информације о свим људима на свету."
А у ствари, како су се различити возови завршавали, фокус се померао. На екрану се више нису појављивале слике Кроноса или подаци о тренингу са ИмагеНет-а; уместо тога, приказао је публику уживо видео публике, јер су алгоритми за препознавање лица одабрали карактеристике сваке особе. Заиста, чак и кад мислимо да нас не гледају, јесмо.
У видео фееду публике уживо алгоритми за препознавање лица одабрали су особине сваке особе. (Бруце Гутхрие) Како бих испричао ову причу напустио сам кућу и отишао до станице подземне железнице, где сам скенирао електронску картицу повезану са мојим именом да бих прошао кроз кретницу и опет кад сам напустио метро у центру града. У центру града прешао сам пола туцет сигурносних камера пре уласка у музеј, где сам приметио најмање још две (портпарол Смитхсониан-а каже да Смитхсониан не користи технологију препознавања лица; исто тако, Метрополитанска полицијска управа каже исто о својим камерама).
Снимио сам интервјуе телефоном и пренио аудио запис у услугу преписа који користи АИ да схватим шта ја и моји субјекти изговарам и могу или не морају циљати оглашавање према мени на основу садржаја интервјуа. Слао сам е-пошту помоћу Гмаила који и даље "чита" све што шаљем (мада ми више не послужују огласе).
Током процеса извештавања, док сам се шетао градом, налетео сам на - не измишљам - ауто Гоогле Стреет Виев. Два пута. Није параноја ако те стварно посматрају, зар не?
Па шта остаје у овом свету где рачунари раде виђење и вероватно пресуђују о нама? „Наредна машина“ нас наговара да научимо како да размишљамо попут рачунара - али нас такође подсећа да постоје неки делови нас који су, за сада, још увек потпуно људи.
Музика, каже Паглен, "је нешто што стварно није могуће измерити ... када гледате систем рачунарског вида у суштини испитивањем извођача, заиста за мене истиче да је огроман јаз у перцепцијама између начина на који доживљавамо културу, емоције и значења. ... и све начине на које су они невидљиви аутономним системима. "
Или како каже Харрингтон, можете да пуштате музику са дрвеном виолином или оном направљеном на 3Д штампачу. Можете користити лук од угљених влакана или израђен од дрвета пернамбуко. Али, каже, лук и даље треба да се увуче преко жице. Музика "постаје драгоценија јер је ручно рађена."
А за сада је то само нешто што можемо учинити. Машине нам можда више нису потребне. Али када је у питању свечани звук клањања на виолини и емоционалних жица на којима се напињу трубе, не требају нам машине.
„Тревор Паглен: Невидјена места“, кустос Џон Џејкоб, наставља се у Музеју америчке уметности Смитхсониан у Вашингтону, до 6. јануара 2019. године. Планирано је да путује у Музеј савремене уметности Сан Диега 21. фебруара, 2. јуна, 2019.
* Белешка уредника, 2. новембра 2018. године: Ова прича је измењена како би се разјаснило предвиђено значење и прича о пореклу композиције "Различити возови" Стевеа Реицха.
