„Pericol pentru umanitate”: Angajații OpenAI și-au avertizat șefii că au obținut un salt tehnologic major în domeniul inteligenței artificiale / Ce știm despre proiectul secret Q*

Înainte ca Sam Altman să fie, timp de patru zile, înlăturat de la șefia OpenAI, câțiva cercetători din companie au trimis board-ului de conducere o scrisoare despre o descoperire capitală în AI care ar putea fi un „pericol pentru umanitate”, scrie Reuters, citând două surse apropiate discuțiilor. Proiectul se numește Q*.

Este vorba despre o descoperire în cadrul unui proiect derulat de OpenAI și numit Q*, pronunțat Q-Star. Această descoperire este, se pare, importantă în țelul OpenAI de a dezvolta o super-inteligență, ceea ce în termeni de specialitate se numește artificial general intelligence (AGI).

Știm că acest nou model a putut rezolva probleme complexe de matematică pe care modele anterioare – și foarte sofisticate – dezvoltate de OpenAI nu le-a putut rezolva, scrie Reuters. Cercetătorii care lucrau la Q*’ erau foarte optimiști, pornind de la descoperirile făcute, dar și fiindcă OpenAI are resurse mari de computing, dat fiind că a primit multe fonduri. Nu știm exact care este partea cu „pericolul pentru umanitate”, fiindcă nu se cunosc multe detalii despre proiect.

Sam Altman declarase că OpenAI vrea să ajungă să dezvolte o „superinteligență”. AGI (Inteligenta Artificială Generală), care se referă la un nivel de dezvoltare în domeniul inteligenței artificiale în care un sistem este capabil să desfășoare orice sarcină intelectuală pe care o poate realiza un om.

Sam Altman a condus „cu mână de fier” eforturile de a face din ChatGPT una dintre aplicațiile software cu cea mai rapidă creștere din istorie și a atras investițiile – și resursele de calcul – necesare pentru a se apropia de țelul suprem: AGI.

Pe lângă faptul că a anunțat o mulțime de instrumente și funcționalități noi într-o demonstrație din noiembrie, Sam Altman a lăsat de înțeles că ne apropiem de progrese extrem de importante.

„De patru ori în istoria OpenAI – iar cel mai recent moment a fost chiar în ultimele săptămâni – s-a întâmplat să mă aflu în cameră exact când împingem înapoi într-un fel vălul ignoranței și frontiera descoperirii merge înainte. Un astfel de moment este onoarea profesională a vieții”, spunea Altman la summitul Cooperării Economice Asia-Pacific.

Altman spunea că își dedică timpul pentru două categorii: „cercetări despre cum să construiască o superinteligență” și modul de a aduna suficient de multă putere de computing în acest scop. „Viziunea noastră este de a construi o AGI, de a vedea cum o putem face să fie sigură și să ne dăm seama care sunt beneficiile”, spunea el, pentru Financial Times, pe 12 noiembrie.

AGI (Inteligenta Artificială Generală) se referă la un nivel de dezvoltare în domeniul inteligenței artificiale în care un sistem este capabil să desfășoare orice sarcină intelectuală pe care o poate realiza un om. În timp ce…