Tvrtka OpenAI priznala je da je upozorila više desetaka globalnih institucija o tome da su njezini AI botovi nepropisno pristupali njihovim web stranicama. AI agenti pokušali su prikupiti informacije s internetskih stranica "vlada, sveučilišta, javnih agencija i drugih institucija", a među njima su američka Komisija za vrijednosne papire (SEC), Ured za popis stanovništva i Ministarstvo obrazovanja, priopćila je tvrtka.

Ova objava dolazi samo nekoliko dana nakon što je australski premijer Anthony Albanese izvijestio da su OpenAI-jevi agenti pristupili privatnim datotekama Medicare-a, australskog državnog zdravstvenog sustava. Od kolovoza raste zabrinutost javnosti zbog potencijalno ozbiljnih posljedica koje bi mogli izazvati AI alati koji djeluju izvan ljudske kontrole.

Iz OpenAI-ja navode da su nekim podacima pristupili AI agenti - botovi dizajnirani za djelomično autonoman rad - koji su pokušavali pronaći "pouzdane izvore javnih informacija". Međutim, tvrtka je napomenula da su neki botovi otišli korak dalje i pokušali zaobići sigurnosne mjere na web stranicama. Kao primjer navode pokušaj prikupljanja informacija s Ureda za popis stanovništva, pri čemu su AI agenti koristili alate namijenjene isključivo programerima.

OpenAI tvrdi da su svi vladini podaci kojima su botovi pristupili bili javno dostupni. Ipak, istaknuli su da su informacije koje su botovi prikupili od SEC-a, tijela koje regulira američko tržište dionica, kasnije objavljene na drugoj web stranici. Iz OpenAI-ja kažu da ta radnja nije bila namjerna.

Incidenti s korisničkim podacima
U drugim slučajevima koje je OpenAI otkrio u petak, njegovi AI agenti prenosili su podatke koje nisu smjeli. Zabilježena su najmanje 53 takva incidenta, u kojima je OpenAI-jev agent preuzeo sliku iz korisničke aktivnosti na ChatGPT-u i prebacio je na drugu lokaciju.

 Tvrtka je pojasnila da je u svakom od tih slučajeva korisnik prethodno dao pristanak da OpenAI koristi njegove podatke za treniranje modela. Unatoč tome, iz tvrtke su priznali: "To nije prikladan način korištenja tih podataka."

Dodali su da se curenje korisničkih slika dogodilo prije uvođenja novih sigurnosnih mjera za treniranje umjetne inteligencije te da trenutno rade na uklanjanju svih slika koje su proslijeđene trećim stranama.

Sigurnosni propusti i netransparentnost
U određenim slučajevima aktivnosti agenata, OpenAI je potvrdio da su alati "zaobišli" sigurnosne kontrole nekih web stranica. U drugim situacijama AI agenti pokazali su "neusklađenost" (misalignment) u pokušajima da dođu do informacija. Tim se terminom opisuju situacije u kojima AI alat učini nešto za što nije bio obučen ili što nije bilo predviđeno.

Iz OpenAI-ja su priopćili da ograničavaju identifikaciju pogođenih subjekata jer su mnogi tražili da se detalji ne iznose u javnost. "Naš je cilj svakoj organizaciji dati činjenice, a njima prepustiti odluku o tome hoće li i kada javno objaviti incident", naveli su iz tvrtke.

Napomenuli su i da se svi slučajevi u ovom incidentu ne smatraju značajnim kršenjem sigurnosti. "Neke organizacije mogu pregledati ono što podijelimo s njima i zaključiti da su informacije namjerno bile javne ili da interakcija modela nije zabrinjavajuća. Druge bi mogle uočiti problem u dizajnu ili sigurnosni propust koji žele riješiti", objasnili su.

Tvrtka je navela da se mnogi incidenti nazivaju "agentskim spamom", što opisuju kao "neočekivanu ili zabrinjavajuću" aktivnost AI agenata, poput objavljivanja informacija na internetu.

OpenAI je ovakve incidente počeo ozbiljnije shvaćati nakon događaja u srpnju, kada je skupina njihovih AI agenata samoinicijativno hakirala platformu za razvojne programere Hugging Face. Hugging Face je prvi javno progovorio o incidentu, a OpenAI je kasnije preuzeo odgovornost.

Clement Delangue, čelnik Hugging Facea, izjavio je u srijedu na sjednici Vijeća sigurnosti UN-a o umjetnoj inteligenciji: "Često se pitam što bi se dogodilo da sam odlučio ne objaviti ovaj napad." Zatim je dodao: "Pogotovo sada kada znamo da su se slični incidenti mjesecima ranije događali u tajnosti u nekolicini vodećih laboratorija bez ikakvog nadzora."

Pozivi na regulaciju i daljnje istrage
Na tom istom sastanku u UN-u, izvršni direktor OpenAI-ja Sam Altman i Dario Amodei, šef konkurentske tvrtke Anthropic, zatražili su od međunarodnih lidera uvođenje globalnih standarda za sigurnost AI-ja, kao i načine za praćenje i prijavljivanje takvih incidenata. Iako su OpenAI i Anthropic proteklih tjedana najavljivali da će angažirati vanjske procjenitelje za sigurnosnu provjeru AI alata u stvarnom vremenu, BBC izvještava da ti stručnjaci još nisu stigli u tvrtke.

OpenAI je u petak objavio da trenutno provodi reviziju aktivnosti svojih AI agenata, analizirajući razdoblje "mjesec po mjesec" unatrag od trenutka kada se dogodio napad na Hugging Face. "Većina do sada identificiranih slučajeva bila je niske razine ozbiljnosti, s malo ili nimalo dokaza o značajnom utjecaju", poručili su iz tvrtke, uz napomenu da će taj posao trajati mjesecima.

David Krueger, profesor strojnog učenja na Sveučilištu u Montrealu i osnivač grupe za sigurnost AI-ja Evitable, izjavio je u petak da je "duboko uznemiren" sve većim brojem sigurnosnih incidenata povezanih s umjetnom inteligencijom. Pozvao je na "hitan, neodređen međunarodni moratorij" na razvoj AI-ja.

"Tek trebamo shvatiti razmjere postojećih incidenata, a budući scenariji s odmetnutim AI-jem mogli bi biti katastrofalni", zaključio je Krueger, piše index.