NAUKA U DRUŠTVU

Paradoks automatizacije

Istraživanja pokazuju da automobili sa AI asistencijom dovode do nove vrste saobraćajne nesreće. Tajna je u - prirodi ljudske kognicije
FOTO: Allison Sung

Piše:

U julu 2022, na osnovu godinu dana istraživanja, američka Nacionalna služba za bezbednost na auto-putevima (NHTSA) objavila je zvanični izveštaj o sudarima tzv. samovozećih automobila. Reč je zapravo o automobilima „nivoa 2“, što u tom žargonu označava one koji nisu zaista samovozeći (takvih, uostalom, nigde i nema, makar ne na uobičajenim putevima), već koji upravljaju mnogim elementima vožnje, ali zahtevaju neprekidnu pažnju vozača da preuzme volan po potrebi.

Za nešto manje od godinu dana praćenja, kaže izveštaj, zabeležena su ukupno 392 sudara. Nije bilo praćeno baš svako čukanje, nego isključivo ona koja su dovela do aktiviranja erbega, do materijalne štete ili povreda. U šest od 392 slučaja sudar se završio smrtnim ishodom.

Nije poenta u tome da li je ova brojka velika ili mala. Uostalom, to i nije moguće odrediti: još uvek se ne zna koliko se ovi automobili zapravo voze, koliko često vozači koriste kompjutersko „asistiranje“, a i brojke same nisu obavezno pouzdane, jer su izveštaje o sudarima slali sami proizvođači, svaki sa sopstvenim sistemima beleženja informacija. Cilj NHTSA bio je da otkrije zašto se dešavaju sudari prilikom vožnje kojom asistira veštačka inteligencija.

A jedan uzrok je posebno upečatljiv.

Naime, zabeležili su više situacija u kojima je do sudara došlo jer su vozači verovali „automatizovanom“ vozilu više nego što bi trebalo – na primer, prekasno bi sami pokušali da skrenu vozilo sa putanje koja očigledno vodi ka prepreci koja je nekako izmakla automatskim sistemima detekcije. Da su se vozili u „normalnom“ automobilu, tu odluku bi sigurno doneli ranije, i do sudara ne bi došlo.

Ovaj problem naziva se i „paradoks automatizacije“: automatizacija se uvodi, između ostalog, zbog lakoće upravljanja nekom mašinom, ali što je sistem automatizacije napredniji i efikasniji, to je onaj preostali ljudski element koji njime upravlja važniji, a često i – teži.

Drugim rečima, jeste teško naučiti vožnju tradicionalnim automobilom, ali jednom stečeno znanje, pošto je vozač u potpunoj kontroli nad celokupnim vozilom, moglo bi se opisati kao otelovljeno: upravljanje volanom, menjačem, kvačilom, osećaj okolnog prostora i veličine automobila, sve se s vremenom nesvesno usvaja i ostaje zapamćeno, kao deo „produžene kognicije“ vozača. Zbog toga nije lako preći sa automobila na autobus ili kamion, čak i ako se vozač teorijski pripremi – taj teško merljiv osećaj vožnje je prosto isuviše drugačiji, pre svega zbog veličine vozila.

Ono što se u tradicionalnoj vožnji usvaja „u malom mozgu“ postaje teret svesne pažnje.

Nešto sasvim drugačije se dešava u automobilima „nivoa 2“. Iako još uvek nisu urađene opsežne psihološke studije, izgleda da postoje dalekosežne, kvalitativne razlike između tradicionalne vožnje i „neprekidne pažnje“ u toku vožnje kojom u određenoj meri upravlja AI asistent. I pored svoje neverovatne sofisticiranosti, savremeni automobili su u biti jednostavne mehaničke naprave; one ne bi trebalo da iznenađuju svoje vozače. Ako imaju npr. senzore ili kamere, oni nisu tu da zamene vozača, već da mu pomognu da donese ispravnu odluku. Takvi mehanizmi zapravo unapređuju već etabliranu produženu kogniciju time što informišu vozača u pravom trenutku.

Koliko se to sve menja kada automobil počne sam da donosi odluke, kao što to uslovno rečeno rade samovozeća vozila „nivoa 2“? Nije više u pitanju puka mehanička naprava – algoritmi neophodni za bilo kakvo odlučivanje u toku vožnje toliko su kompleksni da teško mogu postati deo vozačeve kognicije. Ono što se u tradicionalnoj vožnji usvaja „u malom mozgu“ postaje teret svesne pažnje. Ukoliko do nekog navikavanja i dođe, šta se dešava kad se softver apdejtuje?

Tipičan problem u do sada zabeleženim sudarima bio je upravo to: vozači nisu očekivali da će algoritam napraviti grešku koju je napravio. Ljudska i veštačka kognicija nisu, uostalom, ni slične, pa će AI sa jedne strane rešavati probleme koji čoveku izgledaju nemoguće, ali će sa druge imati propuste koje čovek ne bi mogao ni da zamisli da napravi.

Možda je rešenje prosto u boljem softveru. Uostalom, najveći proizvođači ovakvih „samovozećih“ automobila, kompanije kao što su Tesla i Honda, ukazale su na činjenicu da je na teritoriji SAD, za vreme istraživanja koje je sprovodila NHTSA, preko 40.000 ljudi izgubilo život u saobraćajnim nesrećama. Automobili su oduvek bili opasni. Mada su mnoge zemlje u proseku sigurnije za vožnju od SAD, opasnost vožnje jeste globalni zdravstveni, društveni i ekonomski problem koji treba rešiti.

Opet, nameće se utisak da je bolje rešenje za taj problem nešto što je u SAD, kao kolevci automobilske industrije, nezamislivo: umesto teško ostvarivih, skupih, kontraintuitivnih tehnologija, saobraćajni smrtni slučajevi se mogu smanjiti i ulaganjima u daleko sigurnije vrste transporta, kao što su vozovi. Uostalom, zašto bismo svakom problemu prilazili sa početne tačke ličnog, putničkog vozila kao aksioma? — ⊗

Pročitajte još

Ne zaboravite na seme

Čuvanje semenja je staro koliko i civilizacija, ali je u savremenom dobu dobilo sasvim novu, apokaliptičnu dimenziju

Nova grana, novo carstvo

Jedno istraživanje objavljeno krajem prošle godine podseća da je klasifikacija živog sveta daleko od dovršene, a da mikrosvet i dalje krije mnoge tajne

Izdanja

Paket - prvih pet brojeva

Ako vam nedostaju stare Odiseje, obiđite sajt knjižare Makart i naručite prvih pet brojeva u paketu po promotivnoj ceni.

5

brojeva

1300 RSD