AMERIKU PRIZEMLJILA SUPERINTELIGENCIJA: Za avio saobraćaj SAD petak 13. novembar je stvarno bio “crn”

PETAK, 13. novembar, bio je crni petak za avio-saobraćaj u Sjedinjenim Državama. Za samo 14 minuta on je potpuno kolabirao usled prekida komunikacija između regionalnih centara za kontrolu leta i uvedeno je “nacionalno prizemljenje”. Za nekoliko sati tehnički problem je rešen, ali haos se produžio zbog hiljada otkazanih i odloženih letova. Avio-kompanije upozoravaju da će potpuna stabilizacija trajati danima.

Foto: AA/ABACA/Abaca Press/Profimedia

Nacionalno prizemljenje je na površinu izvuklo tehnološko-koruptivni skandal sa upotrebom neproverenog alata veštačke inteligencije (VI) u kontroli vazdušnog saobraćaja, na koji je upozoravalo američko Nacionalno udruženje kontrolora leta (NATCA). Avio-kolaps u SAD mnogi stručnjaci smatraju globalnim “crvenim alarmom” koji dokazuje da marketing proizvođača navodno inteligentnog softvera ne daje istinitu sliku njegovih sposobnosti i vrednosti.

Prvi ozbiljni poremećaji u komunikaciji kontrole vazdušnog saobraćaja zabeleženi su u petak, 13. novembra u Čikagu, oko 15.30 po istočnoameričkom vremenu, a u 15.54 Federalna uprava za vazduhoplovstvo (FAA) je izdala hitnu naredbu za obustavu svih odlaznih letova širom SAD zbog “hitnih i bezbednosnih razloga”. Nakon četiri sata i 21 minuta FAA ukida stanje nacionalnog prizemljenja jer su se sistemi tehnički stabilizovali, ali se problemi nastavljaju. Prema podacima servisa Flightradar24 i FlightAware, više od 6.600 letova je otkazano, dok je preko 8.600 letova odloženo u petak i subotu.

Američki ministar saobraćaja Šon Dafi je na hitnoj konferenciji za medije odgovornost za kolaps prebacio na stare bakarne provodnike i rutere, na šta su žestoko reagovali i stručnjaci i politički protivnici. Od 60 aktivnih kontrolora leta koje je kontaktirao “Vašington egzaminer”, nijedan nije prihvatio objašnjenje Dafija, koji je po obrazovanju pravnik, a radio je kao TV voditelj. Stručnjak za bezbednost avijacije Dejvid Susi za Si-En-En je naglasio da glavni problem nije starost kablova, već način na koji se novi softver i komunikacioni slojevi povezuju i razmenjuju podatke. Dafi je zatražio od Kongresa hitno odobrenje 50 milijardi dolara za zamenu opreme za kontrolu vazdušnog saobraćaja, a kongresmeni su poručili da prvo odgovori zašto je ignorisao upozorenja da se neproverenom alatu VI ne sme poveriti nacionalna kontrola leta.

Naime, samo tri dana pre kolapsa avio-saobraćaja u SAD, 10. novembra, Federalna uprava za vazduhoplovstvo (FAA) je uvela VI alat pod nazivom SMART (Strategic Management of Airspace, Routes and Trajectories) u sva 22 regionalna centra za kontrolu vazdušnog saobraćaja. Taj softver plaćen 875 miliona dolara ima zadatak da prikuplja oko 200 tokova podataka u realnom vremenu i predlaže rute i sekvence letova, a razvila ga je startap kompanija koja je tek pre tri godine izašla na šire softversko tržište pod imenom Air Space Intelligence (ASI). Prema evidenciji Federalne izborne komisije koju su citirali američki mediji, ASI je u martu bio donator kongresnoj kampanji Majkla Alfonsa, zeta ministra Dafija, tri meseca pre nego što je njegovo ministarstvo dodelilo kompaniji basnoslovno vredan posao.

TRAGIČNE POGREŠKE

SUMNjE u vrednost veštačke inteligencije i pad berzanskih vrednosti kompanija koje je proizvode, osim naučnih analiza, potkrepila su i tragična iskustva uništavanja pogrešnih civilnih ciljeva u ratnim sukobima na Bliskom istoku. Zvaničnici Pentagona su potvrdili da je preterano oslanjanje na VI dovelo do pogrešnog odabira mete i raketiranja osnovne škole u iranskom gradu Minabu, a slične greške VI sistema su zabeležene tokom izraelskih vojnih operacija u Libanu.

VI alat SMART je uveden uprkos zahtevima koje je početkom oktobra administraciji uputilo više od 25 kongresmena iz Odbora za saobraćaj i infrastrukturu, koji su od ministra Dafija i administratora FAA Brajana Bedforda zahtevali trenutno obustavljanje korišćenja sistema SMART u vazdušnom prostoru iznad Vašingtona. Konstatovano je da nema izveštaja o bezbednosnim testiranjima, niti potvrde da je osoblje obučeno, niti je jasno ko je odgovoran ako preporuka sistema VI dovede do incidenta. Vodeći demokratski članovi Odbora za transport Rik Larsen i Andre Karson, sa još 21 poslanikom, zahtevali su da Kancelarija za odgovornost vlade (GAO) sprovede hitnu reviziju platforme SMART. Kako su izvestili portali Nextgov i FedScoop, poslanici su upozorili na rizik da VI “halucinira informacije kritične za bezbednost” ili da se meša u odluke iskusnih kontrolora leta.

Halucinacija VI je eufemizam koji skriva sistemski nedostatak od koga pati i najskuplji softver ove vrste – da izmišlja podatke i obmanjuje korisnika, jer izmišljotine ne prezentuje kao pretpostavku, već autoritativno i ubedljivo kao proverenu činjenicu. Razlog je jednostavan: VI nema razum i ne sagledava svet kao čovek, već je reč o naprednom statističkom programu koji pretpostavlja sledeći najverovatniji podatak na osnovu ogromnog broja starih primera. Kada se VI predstave nejasni, nepotpuni ili novi podaci koje ranije nije upoznao, on nikada neće reći “ne znam”, jer je programiran da “popunjava praznine” podacima koji statistički imaju smisla, ali su potpuno netačni. Ukoliko VI softver u razmeni sa kontrolom leta počne da izbacuje nekonzistentne podatke ili preoptereti komunikacione kanale masovnim povlačenjem informacija u realnom vremenu, prijemni sistemi automatski odbacuju te informacije kao nepouzdane i kontrolori ostaju bez slike.

Upravo takav scenario preopterećenja podacima i softverske nekompatibilnosti mogao je da bude razlog zagušenja komunikacionih kanala koje je dovelo do totalnog prekida veza između regionalnih centara kontrole leta i aktuelnog haosa avio-saobraćaja u SAD, a u budućnosti bilo gde u svetu, upozoravaju stručnjaci.