Autonomni tramvaj pregazio čovjeka – tko je kriv?
Dok jedni smatraju da će ljudi voditi rat s AI tehnologijom, drugi pak misle kako će uz njezinu pomoć zavladati mir. Istina je, dakako, vrlo složena. Pitanje koje se postavlja i na koje se želidati odgovor jest: Kako AI može donositi odluke u smislu moralnosti koja pripada nečemu potpuno ljudskom i je li to uopće moguće?
Učenici Srednje škole Ivan Švear Ivanić-Grad drugu godinu za redom sudjeluju u projektu Škole budućnosti – STEMI-A1-Infobip u okviru kojega su, između ostalog, trebali napisati esej o etičnosti u umjetnoj inteligenciji. Učenici su analizirali trolley problem, odnosno problem autonomnih vozila na tračnicama.
O čemu se zapravo radi?
Trolley problem preispituje etičnost autonomnih prijevoznih sredstava u situaciji kada treba donijeti tešku moralnu odluku.
Učenici su naveli prednosti autonomnih vozila od kojih su izdvojili da su autonomnaprijevozna sredstva energetski efikasnija te je zbog automatiziranog sustava moguć veći broj vlakova ili tramvaja na tračnicama što dovodi do učinkovitijeg prijevoza većeg broja putnika. Unatoč navedenim prednostima, kao glavni nedostatak navode da stavljanje putnika u ruke potpuno automatiziranog sustava predstavlja visok rizik.
Razlog tomu jest što umjesto obučenog vozača, koji je u stanju reagirati na neočekivanu situaciju, kontrolu nad takvom situacijom preuzima tehnologija bazirana na umjetnoj inteligenciji koja još uvijek nije toliko napredovala da bi bila u stanju reagirati na neočekivanu situaciju. U slučaju nesreće, koja bi bila prouzrokovana greškom automatizma, postavlja se etičko-pravno pitanje: Tko je odgovoran za potencijalne žrtve?
Tko je kriv u slučaju nesreće?
Kod klasične prometne nesreće odgovoran je vozač, no ovdje vozača nema. Učenici smatraju kako je moguće okriviti osobe uključene u dizajn softwarea. No, isto tako, krivca se može tražiti i na višoj razini što bi uključilo vodstvo kompanije koja proizvodi vozila ili čak državu koja je dopustila slobodno kretanje vozilima koja predstavljaju rizik za putnike, njihove državljane. Zaista je teško odrediti tko je kriv u slučaju nesreće, ali sigurno jest da oštećena osoba zaslužuje odštetu tko god bio krivac.
Koji je zaključak?
Učenici su iz navedenog problema zaključili kako umjetna inteligencija u nekim područjima nije razvijena do te mjere da bi mogla u potpunosti zamijeniti čovjeka te je prijevoz, radi neočekivanih situacija na koje čovjek može reagirati, jedno od takvih područja.
Projekt Škola budućnosti čiji je cilj učenike diljem Hrvatske pripremiti za tehnološku budućnost provode Stemi, Infobip i A1 Hrvatska.
