Žena s Floride uhićena je nakon što je u razgovoru s Anthropicovim chatbotom Claudeom navodno napisala da planira napasti ured lokalnog šerifa. Sustav je poruke označio kao potencijalno opasne, nakon čega ih je pregledala osoba iz Anthropicova tima i slučaj prijavila policiji.

Riječ je o 30-godišnjoj Carli Michelle Heller iz Bonita Springsa. Prema policijskom izvješću, 26. rujna u razgovoru s Claudeom napisala je da će "napasti" ured šerifa okruga Lee. Sljedećeg dana navodno je napisala i da je nabavila novi pištolj.

Policiji je kasnije rekla da Claude koristi poput "dnevnika".

Poruke prvo pregledao čovjek
Prema policijskom izvješću, Anthropicovi sigurnosni sustavi označili su sadržaj, nakon čega je razgovor proslijeđen na ljudski pregled.

Nakon procjene da bi prijetnja mogla biti vjerodostojna, slučaj je prijavljen policiji. Zamjenici šerifa potom su identificirali ženu i došli u njezin dom, gdje su je priveli bez incidenta.

Osumnjičena je optužena za upućivanje pisane prijetnje nasiljem.

Prema zakonu Floride, kazneno je djelo poslati ili prenijeti pisani ili elektronički zapis s prijetnjom ubojstvom, ozljeđivanjem, masovnom pucnjavom ili terorističkim napadom ako je sadržaj dostupan drugoj osobi. Riječ je o kaznenom djelu drugog stupnja.

Razgovori s chatbotom nisu nužno potpuno privatni
Slučaj ponovno otvara pitanje koliko su razgovori s AI chatbotovima zapravo privatni.

Anthropic navodi da u ograničenim hitnim situacijama može podatke korisnika predati policiji ako procijeni da je to potrebno kako bi se spriječila opasnost od smrti ili teške tjelesne ozljede. Tvrtka također navodi da inače zahtjeve državnih tijela za korisničkim podacima provjerava prema važećim zakonima.

U ovom slučaju nije policija prvo zatražila podatke od Anthropica. Prema policijskom izvješću, proces je krenuo u suprotnom smjeru: sustav je označio razgovor, ljudski moderator ga je pregledao, a potom je Anthropic kontaktirao policiju.

Optužba protiv žene tek treba biti dokazana na sudu, piše index.