Vodeća tvrtka za razvoj umjetne inteligencije Anthropic objavila je opsežno izvješće u kojem otkriva kako je tijekom ove godine blokirala više pokušaja znanstvenika da pomoću njezinih naprednih modela, poput chatbota Claudea, provode istraživanja s potencijalom razvoja biološkog oružja. Iako se u mnogim slučajevima nije moglo sa sigurnošću utvrditi je li riječ o legitimnim znanstvenim radovima ili zlonamjernim namjerama, tvrtka je odlučila reagirati oprezno i onemogućiti pristup spornim korisnicima zbog iznimno visokih rizika po globalnu sigurnost.
Složena priroda bioloških istraživanja dvostruke namjene – gdje iste metode služe za razvoj cjepiva, ali i za inženjering opasnih patogena – predstavlja sve veći izazov za kreatore AI tehnologije. Posebnu zabrinutost u Anthropicu izazvali su slučajevi u kojima su znanstvenici zaobilazili geografske blokade i tajili svrhu svojih istraživanja, poput pokušaja modificiranja virusa chikungunya na jednom vojnom istraživačkom institutu radi povećanja njegove štetnosti.
Geopolitičke zlouporabe, propaganda i razvoj konvencionalnog naoružanja
Osim opasnosti na polju biotehnologije, dokumentirano izvješće obuhvatilo je i niz drugih zabrinjavajućih oblika zlouporabe naprednih modela u proteklih osam mjeseci. Registrirani su pokušaji državnih aktera povezanih s Kinom i Iranom koji su koristili umjetnu inteligenciju za nadzor i pritisak na disidentske zajednice u dijaspori. Jednako tako, zabilježena je i upotreba Claudea od strane ruskih državnih medija za masovno generiranje internetske propagande i lažnih vijesti usmjerenih na izborne procese u Europi.
Iznimno opasan presedan čine i novootkriveni pokušaji korištenja modela za programiranje te dizajn konvencionalnog naoružanja, poput projektila, naoružanih dronova i vatrenog oružja, gdje su zabilježeni slučajevi povezani s akterima iz Kine, Rusije te jemenskih Huta.
Pozivi na strože kontrole i zaštitu tehnologije
Vodeći međunarodni stručnjaci za biološku sigurnost i obranu ističu kako ovi nalazi pružaju konkretne dokaze da akteri pod pokroviteljstvom pojedinih država, ali i terorističke mreže, aktivno testiraju granice umjetne inteligencije radi stvaranja novih prijetnji. Tehnološki napredak modela omogućio je izvođenje iznimno složenih znanstvenih analiza, zbog čega stručnjaci pozivaju na uvođenje rigoroznih kontrola i ograničavanje pristupa takvim alatima isključivo na strogo provjerene i certificirane istraživače.