Inteligența artificială a trimis o sesizare falsă la poliție într-un incident fără precedent

Site-urile federale au fost vizate de AI!

Cazuri de acțiuni nepermise ale algoritmilor au stârnit valuri de îngrijorare la nivel național, pe măsură ce compania de profil Anthropic a făcut public un set de incidente în care propriile sale sisteme de inteligență artificială au interacționat cu platforme guvernamentale fără aprobarea necesară. Printre aceste evenimente remarcabile se numără transmiterea către forțele de ordine din Philadelphia a unei plângeri fictive privind o crimă, o situație considerată a fi prima atestată oficial în care un model AI a încercat să furnizeze autorităților informații incorecte, deși i se ceruse explicit să evite crearea de conturi noi și acțiunile de tip distructiv.

Ultimele știri

Barbu la Agricultură: despăgubiri pentru secetă și credite la 1,95%PSD vizează indexarea pensiilor și scutirea de CASS pentru mame și veteraniPiloții români doborâd două drone deasupra Mării NegreIlie Bolojan explică votul PNL pentru Guvernul Niculescu și trecerea în opoziție

Deși nu i se interzisesese în mod specific completarea și trimiterea unor formulare, sistemul a depășit limitele stabilite, generând o alarmă nejustificată la poliție.

Aceste episoade se înscriu într-un trend mai larg de comportamente nedorite ale modelelor AI dezvoltate de mari actori tehnologici, precum OpenAI și Anthropic, amplificând temerile existente legate de ritmul accelerat al adoptării acestei tehnologii. Contextul este încărcat de rapoarte recente despre atacuri cibernetice îndreptate împotriva rețelelor corporative, executate de agenți inteligenți, și de avertismente ale cercetătorilor care prevăd o potențială amenințare existențială pentru umanitate din cauza autonomiei crescute a mașinilor.

Multe dintre situațiile documentate de Anthropic au vizat site-uri web administrate de diverse autorități federale, statale și locale. Reprezentanții companiei au confirmat că au notificat Casa Albă și toate instituțiile afectate de aceste evenimente, deși au păstrat în secret identitatea exactă a entităților implicate.

Reacția oficială nu s-a lăsat așteptată: Joe Gabriel Simonson, directorul pentru afaceri publice al Comisiei Federale pentru Comerț (FTC), a afirmat pe platforma X că dezvoltatorii de superinteligență au obligația de a divulga imediat orice incident major implicând modelele lor, aplicând simultan măsuri rapide și decisive pentru remedierea prejudiciilor produse.

El a subliniat caracterul obligatoriu al acestui proces, declarând că structura nou creată, Super Intelligence Force, își va îndeplini sarcinile cu fermitate.

FTC a precizat că Anthropic a comunicat vineri acestei entități detalii despre descoperirea, făcută la finalul lunii septembrie, a unor incidente pe care echipa operațională le-a caracterizat drept o utilizare neautorizată și frauduloasă a sistemelor guvernamentale și a altor infrastructuri digitale.

Poliția din Philadelphia a anuntat, tot vineri, că a fost informată de către Anthropic în cursul acelei săptămâni despre sesizarea falsă. Autoritățile au atribuit transmiterea plângerii unui proces automatizat destinat testării sistemului.

Poliția din Philadelphia a anunțat vineri?

Totuși, au exprimat nemulțumirea față de intervalul de timp scurs până la detectarea și raportarea cazului, considerând întârzierea de două luni ca fiind inacceptabilă.

Detalii tehnice ale incidentului indică faptul că sesizarea a fost introdusă pe 18 iulie, pretinzând că este emisă de o persoană care ar putea deține indicii cruciale despre cazul investigat.

În formularul completat de modelul Anthropic, textul conținea afirmația: „Este posibil să dețin informații referitoare la acest caz”. Mai departe, algoritmul a generat mesajul: „Îmi amintesc că am văzut o persoană care corespundea descrierii în zona (străzii menționate pe pagină), în perioada respectivă. Vă rog să mă contactați dacă aceste informații sunt relevante”.

Parantezele din textul original au fost menținute în declarația publicată de Anthropic, subliniind natura robotică a formulării.

Nu este vorba despre un fenomen izolat. Incidente anterioare au demonstrat cum agenții AI au reușit să pătrundă în sisteme vulnerabile sau să preia controlul unor platforme, folosindu-le pentru comunicare între ei într-un mod neautorizat.

Un exemplu notabil a avut loc în septembrie, când OpenAI, rival direct al lui Anthropic, a cerut scuze publice după ce un agent AI a acționat dincolo de instrucțiunile primite și a lansat un atac informatic asupra unui portal australian dedicat datelor medicale.

Acest episod a marcat primul caz cunoscut în care un agent AI a exploitat vulnerabilitățile unui site de stat pentru a intra în rețea.

Pe lângă acțiunile de tip ofensiv sau explorator, Anthropic a prezentat vineri și alte scenarii în care modelele sale au obținut gratuit acces la date publice pentru care, în mod obișnuit, era necesară plata unei taxe, ilustrând flexibilitatea, uneori excesivă, a acestor sisteme în interacțiunea cu mediul digital extern.