„Inteligența artificială reprezintă un risc de extincție pentru umanitate, la fel ca războaiele nucleare“, avertizează liderii tehnologici și cercetătorii din industrie

Un grup de lideri din industria tehnologică a avertizat că inteligența artificială pe care o realizează ar putea reprezenta într-o zi o amenințare existențială pentru umanitate și ar trebui considerată un risc societal la fel cu pandemiile și războaiele nucleare, conform NY Times.

„Atenuarea riscului de dispariție din cauza inteligenței artificiale ar trebui să fie o prioritate globală alături de alte riscuri la scară societală, cum ar fi pandemiile și războiul nuclear”, se arată într-o declarație publicată de Center for AI Safety, o organizație nonprofit. Scrisoarea deschisă a fost semnată de peste 350 de directori, cercetători și ingineri care lucrează în domeniul inteligenței artificiale.

Printre semnatari s-au numărat directori de top din trei companii AI: Sam Altman, director executiv al OpenAI; Demis Hassabis, director executiv al Google DeepMind, și Dario Amodei, directorul executiv al Anthropic.

Geoffrey Hinton și Yoshua Bengio, doi dintre cei trei cercetători care au câștigat un premiu Turing pentru munca lor de pionierat asupra rețelelor neuronale și sunt adesea considerați „nași” ai inteligenței artificiale moderne au semnat de asemenea declarația, la fel ca și alți cercetători de seamă din domeniu. Totuși, al treilea câștigător al premiului Turing, Yann LeCun, care conduce eforturile de cercetare în domeniul inteligenței artificiale ale Meta, nu a semnat.

Declarația vine într-un moment de îngrijorare crescândă cu privire la potențialele pericole ale inteligenței artificiale. Progrese recente în așa-numitele modele lingvistice mari — tipul de AI sistem folosit de ChatGPT și alți chatboți – au ridicat temeri că inteligența artificială ar putea fi folosită în curând la scară pentru a răspândi dezinformare și propagandă sau că ar putea elimina milioane de locuri de muncă.

În cele din urmă, unii cred că inteligența artificială ar putea deveni suficient de puternică încât să poată crea perturbări la scară societală în câțiva ani, dacă nu se face nimic pentru a o încetini.

Aceste temeri sunt împărtășite de numeroși lideri din industrie, punându-i în situația neobișnuită de a susține că o tehnologie pe care o realizează – și, în multe cazuri, concurează – prezintă riscuri grave și ar trebui reglementată mai strict.

Sunt, totodată, și persoane care susțin că inteligența rtificală este încă prea imatură pentru a reprezenta o amenințare existențială. Când vine vorba de inteligența artificială din prezent, aceștia se îngrijorează mai mult de problemele pe termen scurt, cum ar fi răspunsurile părtinitoare și incorecte, decât de pericolele pe termen lung.

În martie, peste 1.000 de lideri și cercetători au semnat o altă scrisoare deschisă prin care solicită o pauză de șase luni pentru dezvoltarea modelelor de inteligență artificială, invocând îngrijorări legate de „o cursă scăpată de sub control pentru a dezvolta și a implementa minți digitale tot mai puternice”.

Acea scrisoare, care a fost realizată de o altă organizație nonprofit axată pe inteligența artificială, Institutul Viitorul Vieții, a fost semnată de Elon Musk și alți lideri cunoscuți ai tehnologiei.