CNN: IZVJEŠĆE UMJETNE INTELIGENCIJE ZAMALO IZAZVALO RAT SAD-a I KINE
Obavještajno izvješće koje je ovog proljeća, usred rata s Iranom, kružilo američkom vojskom odmah je izazvalo uzbunu: kineski brod na Bliskom istoku navodno je prevozio dijelove namijenjene programu nuklearnog naoružanja.
Američka vojska odmah je počela pripremati operaciju presretanja broda, rekla su četiri izvora upoznata sa slučajem. Prema riječima dvojice izvora, naoružani pripadnici američke vojske pripremali su se ukrcati na brod. Vojni zrakoplovi već su bili u zraku, rekli su jedan od tih izvora i još jedan izvor upoznat s incidentom.
Tek neposredno prije planirane operacije dužnosnici su detaljnije provjerili izvješće koje je sastavio analitičar zapovjedništva za specijalne operacije i otkrili da je izrađeno uz pomoć umjetne inteligencije (AI) te da je chatbot kojim se analitičar koristio pogrešno identificirao materijal koji je brod prevozio. CNN nije uspio doznati o kakvom se pogrešno identificiranom teretu radilo.
Eskalacija i oružani sukob
Prema riječima jednog od izvora, izvješće je bilo „potpuno lažno“. No, kako je dodao, „zamalo je izazvalo rat“. Bilo kakva američka operacija protiv kineskog broda mogla je dovesti do eskalacije i oružanog sukoba između dviju država.
U američkoj vojsci i obavještajnoj zajednici dužnosnici nastoje uključiti umjetnu inteligenciju u gotovo svaki segment rada – od analiziranja golemih količina sirovih obavještajnih podataka koje SAD prikuplja i odabira ciljeva za napade do uobičajenijih zadataka poput upravljanja proračunom, logistikom i opskrbnim lancima.
Međutim, ovaj slučaj pokazuje ozbiljne rizike korištenja te moćne, nove i još uvijek relativno slabo shvaćene tehnologije pri odabiru ciljeva usred rata. Analitičari već dugo strahuju da bi umjetna inteligencija mogla dovesti do katastrofalne pogrešne procjene ako se države oslanjaju na loše ili kompromitirane podatke – upravo do pogreške zbog koje bi, primjerice, Sjedinjene Države mogle otvoriti vatru na kineski brod na temelju netočnih informacija.
U ovom konkretnom slučaju analitičar je chatbotu postavio pitanje o obavještajnim podacima vezanim uz popis tereta na brodu, koji su potjecali iz američkog Zapovjedništva za specijalne operacije na Pacifiku sa sjedištem na Havajima. Nije poznato je li riječ o komercijalno dostupnom chatbotu ili proizvodu američke vlade.
„Interni alati uglavnom su samo kopije komercijalnih proizvoda, malo našminkane“, rekao je bivši visoki američki dužnosnik upoznat sa sustavima umjetne inteligencije kojima se koriste vojni i obavještajni analitičari.
Chatbot je spojio javno dostupne obavještajne podatke s tajnim podacima dobivenima presretanjem komunikacija, kojima raspolaže američka vlada, te došao do kobnog zaključka o materijalu koji je brod navodno prevozio.
Analitičar se potom ponovno koristio umjetnom inteligencijom kako bi rezultate oblikovao u standardno obavještajno izvješće – vrstu dokumenta kojoj vojni dužnosnici vjeruju – nakon čega ga je distribuirao.
Američko Zapovjedništvo za specijalne operacije na Pacifiku i Pentagon nisu odgovorili na zahtjev za komentar.
Razlog za brzo uvođenje umjetne inteligencije jest mogućnost da ona pomogne vojsci brže donositi odluke na bojištu, primjerice o tome koje ciljeve napasti ili kamo premjestiti određene vojne kapacitete. Dužnosnici tvrde da si SAD ne može dopustiti zaostajanje u primjeni umjetne inteligencije u slučaju da jednog dana bude morao ratovati protiv Kine ili nekog drugog protivnika koji bi zahvaljujući toj tehnologiji mogao biti korak ispred Amerikanaca.
U siječnju je američki ministar obrane Pete Hegseth predstavio „Strategiju ubrzanja primjene umjetne inteligencije“ Ministarstva obrane, čiji je cilj ubrzati korištenje AI-ja u vojsci.
„Potaknut ćemo eksperimentiranje, ukloniti birokratske prepreke, usmjeriti ulaganja i pokazati način provedbe koji je potreban kako bismo osigurali vodeću ulogu u vojnoj primjeni umjetne inteligencije“, rekao je Hegseth u govoru kojim je predstavio strategiju.
Strategija također potiče široku primjenu umjetne inteligencije u cijeloj vojsci te nalaže Ministarstvu da putem nekoliko programa omogući pristup AI-ju s ciljem „demokratizacije eksperimentiranja s umjetnom inteligencijom i transformacije cijelog Ministarstva tako što će vodeći američki modeli umjetne inteligencije biti izravno stavljeni u ruke naših tri milijuna civilnih i vojnih djelatnika, na svim razinama tajnosti“, navodi se u memorandumu kojim je strategija predstavljena.
Međutim, cijeli je proces decentraliziran, reklo je više američkih dužnosnika upoznatih sa situacijom. Različiti dijelovi državnog aparata koriste se različitim alatima, prema različitim pravilima i sigurnosnim standardima. Ne postoji jedinstven skup standarda prema kojima SAD provjerava informacije koje ti alati generiraju. Zbog velikog broja različitih sustava umjetne inteligencije koje koriste različiti dijelovi vojske i obavještajne zajednice, njihova pouzdanost i funkcionalnost znatno se razlikuju.
Rasprava o umjetnoj inteligenciji
Posljednjih tjedana u Washingtonu se intenzivno raspravlja o umjetnoj inteligenciji nakon niza ozbiljnih upozorenja inženjera iz Silicijske doline i direktora tehnoloških kompanija o mogućnosti da bi se AI mogao osloboditi ljudske kontrole, uz potencijalno katastrofalne posljedice za civilizaciju.
No slučaj kineskog broda ukazuje na drukčiji i neposredniji rizik: mogućnost da ljudi donesu katastrofalne odluke na temelju netočnih ili obmanjujućih informacija koje je proizvela umjetna inteligencija ili neki drugi automatizirani sustav. Izvori navode da se američka vojska sve više oslanja na AI pri odabiru ciljeva, području u kojem postoji očit rizik od pogrešaka sa smrtnim posljedicama.
„Upotreba umjetne inteligencije pri odabiru ciljeva definitivno se ubrzava, a ne postoje jasne smjernice o tome kako će ljudski nadzor spriječiti civilne žrtve ili slučajno otvaranje vatre na vlastite snage“, rekao je još jedan izvor upoznat s trenutačnom politikom američke vojske.
Prema riječima jednog od izvora, vrsta „halucinacije“ koju je u ovom slučaju proizveo alat kojim se analitičar koristio nije izoliran slučaj u američkoj obavještajnoj zajednici otkako su se takvi alati počeli širiti državnim institucijama.
Za neke starije obavještajne dužnosnike – čak i one koji načelno podržavaju korištenje umjetne inteligencije u vojsci – AI je povećao pritisak na analitičare da brže izrađuju i distribuiraju obavještajne podatke, čime se povećava mogućnost pogrešaka. Nekoliko izvora navodi da su osobito mlađi analitičari naviknuti na korištenje takvih alata te su skloniji nekritički vjerovati njihovim rezultatima.
„Umjetna inteligencija omogućuje vam da brže dođete do loše ideje“, rekao je jedan od izvora.
