Sam Altman la ONU: AI trebuie să rămână sub control uman

Riscuri mari, dar AI-ul rămâne un potențial transformator!

Sam Altman a avertizat miercuri la ONU că dezvoltarea rapidă a inteligenței artificiale nu poate fi lăsată să scape de supravegherea omenirii.

Ultimele știri

Barbu la Agricultură: despăgubiri pentru secetă și credite la 1,95%PSD vizează indexarea pensiilor și scutirea de CASS pentru mame și veteraniPiloții români doborâd două drone deasupra Mării NegreIlie Bolojan explică votul PNL pentru Guvernul Niculescu și trecerea în opoziție

Vorbind în fața Consiliului de Securitate al Națiunilor Unite, în cadrul unei ședințe de urgență convocate de Franța — care președine luna aceasta consiliul — liderul OpenAI a subliniat că viteza inovației trebuie echilibrată cu o prudență extremă.

El a insistat că omul trebuie să păstreze autoritatea asupra algoritmilor cei mai sofisticați, pentru a evita riscul ca mașinile să devină autonome în luarea deciziilor critice. Unul dintre temerile sale centrale este că capacitatea modelelor de AI crește mult mai repede decât instrumentele de aliniere și securitate, ceea ce poate duce la pierderea controlului uman.

Altman a criticat și tendința sectorului industrial să accepte riscuri tehnice ridicate doar pentru că recompensele financiare și strategice sunt prea atrăgătoare. Pentru el, nu se poate sacrifica siguranța în numele vitezei de inovare.

Un alt pericol pe care l-a evidențiat a fost concentrarea excesivă a puterii în mâinile puțini jucători — un risc pentru ecosismul global. A argumentat că o inteligență artificială democratică nu poate fi construită exclusiv de laboratoarele din San Francisco, iar regularea trebuie să fie rezultatul unui proces democratic, cu implicare activă a guvernelor.

Pe plan internațional, Altman a invocat exemple din istorie, în care state rivale sau chiar inamice au găsit moduri de a coopera în fața tehnologiilor revoluționare. El a crezut că momentul actual oferă o oportunitate unică pentru o astfel de colaborare.

Altman invocă exemple istorice pe plan internațional?

Deși a subliniat riscurile, Altman nu a negat potențialul transformator al AI-ului. A sugerat că tehnologia ar putea declanșa o nouă eră, comparabilă cu Renașterea, dacă ar fi folosită pentru a amplifica abilitățile umane.

A descris poziția OpenAI ca o căutare de echilibru — departe de optimismul naiv, dar și de fatalismul pesimist — bazată pe trei piloni: menținerea omului în centrul procesului decizional, orientarea progresului spre beneficiul colectiv și creșterea autonomiei individuale prin AI.

La aceeași masă rotundă, Dario Amodei, CEO-ul Anthropic, a exprimat o griji similară. A avertizat că, fără o gestiune corespunzătoare, AI-ul poate deveni un risc real pentru întreaga umanitate. A cerut o strategie globală coordonată, menționând că niciun lider, firmă sau țară nu poate face față singur de complexitatea și puterea crescătoare a acestor sisteme.

A solicitat Consiliului de Securitate să adopte măsuri tangibile, inclusiv interdicția utilizării AI-ului în armarea biologică și implementarea unor cadre riguroase de evaluare și verificare, capabile să urmeze ritmul evoluției tehnologice.

Reuniunea a evidențiat un consens clar între liderii tehnologiei: este necesară o supraveghere umană activă și o cooperare internațională robustă pentru a asigura că revoluția AI rămâne un instrument de progres, nu o amenințare existențială.