Много дискусија и етичких размишљања о аутомобилима који се возе били су усредсређени на трагичне дилеме, попут хипотетике у којој аутомобил мора да одлучи да ли ће прегазити групу школског малишана или сићи са литице, убивши сопствене путнике. Али такве су ситуације екстремни случајеви.
Као последња несрећа - у којој је аутомобил који је управљао аутомобилом убио пешака у Темпе, Аризона - демонстрира, свакодневне свакодневне ситуације на сваком крижању, скретању и раскрсници представљају много теже и шире етичке потешкоће.
Етика крајности
Као филозоф који ради са инжењерима из Станфордског центра за истраживање аутомобила, иницијално сам био изненађен што смо провели састанке у лабораторији разговарајући о ономе што сам сматрао лаким питањем: Како аутомобил који се креће аутомобилом мора прићи прелазу?
Моја претпоставка била је да ћемо размислити о томе како аутомобил треба да одлучује између живота својих путника и живота пешака. Знао сам како да размишљам о таквим дилемама, јер ти сценарији судара личе на познатог филозофског браинтеазора који се зове „проблем са колицима.“ Замислите да одбегли колица спуштају стазе и обавезно ће погодити било групу од пет људи или једну особу - да ли бисте убити једног да спаси пет?
Међутим, многи филозофи данас сумњају да је истраживање таквих питања плодан пут истраживања. Барбара Фриед, колега са Станфорда, на пример, тврдила је да трагичне дилеме чине да људи верују да се етичке потешкоће углавном јављају у екстремним и тешким околностима.
У ствари, етичке потешкоће су свеприсутне. Свакодневне, свакодневне ситуације су изненађујуће неуредне и сложене, често на суптилне начине. На пример: Да ли би ваш град требао да троши новац на програм превенције дијабетеса или на више социјалних радника? Да ли би ваше локално Министарство здравља требало да ангажује другог инспектора за хигијенске стандарде ресторана или настави програм који нуди бесплатне игле и залихе ињекција?
На ова питања је изузетно тешко одговорити због неизвесности о последицама - као што су ко ће бити погођен и у ком степену. Рјешења која су филозофи предложили за екстремне и очајне ситуације нису од велике помоћи овдје.
Сличан је проблем и са аутоматским управљањем аутомобилима. Размишљање о екстремним ситуацијама и сценаријима судара не може помоћи у одговору на питања која се јављају у свакодневним ситуацијама.
Изазов на пешачким стазама
Могло би се запитати, шта може бити толико тешко у свакодневним саобраћајним ситуацијама, као што је прилаз ногоступу, вожња кроз раскрсницу или скретање улево. Иако је видљивост на тротоару ограничена и понекад је тешко одредити да ли оближњи пешак заправо жели прећи улицу, возачи се свакодневно суочавају са тим.
Али за аутомобиле који возе самостално, такве свакодневне ситуације представљају изазов на два начина.
Лако за људе често значи тешко за рачунаре. (КСКЦД, ЦЦ БИ-СА) Прво, постоји чињеница да је оно што је лако за људе често тешко за машине. Било да се ради о препознавању лица или вожњи бицикла, добри смо у перцепцији и механичким задацима јер је еволуција изградила те вештине за нас. То, међутим, чини ове вештине тешким за подучавање или инжењерство. То је познато као „Моравчев парадокс“.
Друго, у будућности где сви аутомобили возе аутомобиле, мале промене у понашању у вожњи донијеле би велику разлику у агрегату. Одлуке које инжењери доносе данас, другим речима, одређиват ће не како један аутомобил вози, већ како возе сви аутомобили. Алгоритми постају политика.
Инжењери подучавају рачунаре како да препознају лица и објекте користећи методе машинског учења. Могу да користе машинско учење и да помогну самовозећим аутомобилима да имитирају како људи возе. Али то није решење: То не решава проблем што инжињери доносе широке одлуке о сигурности и мобилности.
Штавише, аутомобили који се возе не би требало да возе као људи. Људи заправо нису баш добри возачи. И возе се на етички забрињавајући начин, одлучујући да ли ће приносати на тротоару, на основу старости, расе и прихода пешака. На пример, истраживачи из Портланда открили су да црни пешаци пролазе дупло више аутомобила и морају да чекају трећину дуже од белих пешака да би могли да пређу.
Аутомобили који се крећу самостално би требали возити сигурније и поштеније него људи.
Светска етика
Етички проблеми се продубљују када присуствујете сукобу интереса који се јављају у свакодневним ситуацијама као што су крижање, завоји и раскрснице.
На пример, дизајн аутомобила који возе мора да уравнотежи сигурност других - пешака или бициклиста - са интересима путника аутомобила. Чим аутомобил крене бржим од ходања, није у стању да спречи да се у последњој секунди налети на дете које би могло налетјети на пут. Али темпо ходања је, наравно, превише спор. Сви морају доћи до места. Па како инжењери треба да успоставе равнотежу између сигурности и мобилности? И која брзина је довољно сигурна?
Појављују се и друга етичка питања. Инжињери морају да праве компромисе између мобилности и утицаја на животну средину. Када се примене на свим аутомобилима у земљи, мале промене у компјутерски контролисаном убрзању, завоју и кочењу могу имати огромне ефекте на потрошњу енергије и емисију загађења. Како инжењери треба да тргују ефикасношћу путовања са утицајем на животну средину?
Каква би требала бити будућност саобраћаја?
Околне ситуације представљају нове инжењерске и етичке проблеме, али оне исто тако доводе људе у питање основне претпоставке саобраћајног система.
За себе сам почео да постављам питања да ли су нам уопште потребна места која се зову "кровови"? Уосталом, аутомобили који се возе могу потенцијално да осигурају сигурно прелазак преко било ког пута.
И непотребне су само пешачке стазе. Семафори на раскрсницама такође би могли бити ствар прошлости. Људи требају семафоре како би били сигурни да ће сви прећи раскрсницу без судара и хаоса. Али аутомобили који се возе могу да се несметано координирају.
Овде је веће питање ово: С обзиром на то да су аутомобили који возе бољи од људских возача, зашто би се та возила требала примењивати према правилима која су дизајнирана за људску заблуду и људске грешке? И да продужимо овај мисаони експеримент, узмите у обзир и опште питање: Да бисмо ми као друштво могли да дизајнирамо наш саобраћајни систем од нуле, како бисмо желели да он изгледа?
Пошто се ова тешка питања тичу свих у граду или друштву, они захтевају од града или друштва да се договоре око одговора. То значи уравнотежити конкурентске интересе на начин који функционира за све - било да људи мисле само на пешачке стазе или о саобраћајном систему у цјелини.
Друштвом аутомобила који могу самостално возити могу редизајнирати своје саобраћајне системе. Од ногоступа до цјелокупног дизајна саобраћаја - свакодневне су ситуације које постављају заиста тешка питања. Екстремне ситуације су одвраћање пажње.
Проблем са колицима не одговара на ова тешка питања.
Овај чланак је првобитно објављен у часопису Тхе Цонверсатион.
Јоханнес Химмелреицх, сарадник интердисциплинарне етике, Универзитет Станфорд, МцЦои Породични центар за етику у друштву
