Reuters: Avertismentul cercetătorilor OpenAI privind inteligența artificială. Descoperirea care pune în pericol omenirea
Înaintea celor patru zile de concediere ale directorului general al companiei de inteligență artificială OpenAI, Sam Altman, mai mulți cercetători din cadrul acesteia au scris o scrisoare către consiliul de administrație în care avertizează asupra unei descoperiri puternice în domeniul inteligenței artificiale care, conform lor, ar putea amenința omenirea, au transmis pentru Reuters două persoane familiarizate cu acest subiect.
Scrisoarea și algoritmul de inteligență artificială, care nu au fost raportate anterior, au fost evoluții cheie înainte de înlăturarea de către consiliul de administrație a lui Altman, copilul poster al inteligenței artificiale generative, au spus cele două surse. Înainte de revenirea sa triumfală, marți târziu, peste 700 de angajați au amenințat că vor demisiona și se vor alătura susținătorului Microsoft în semn de solidaritate cu liderul lor concediat.
Scrisoarea, factor determinant privind concedierea lui Altman
Sursele au citat scrisoarea ca fiind un factor dintr-o listă mai lungă de nemulțumiri ale consiliului de administrație care a dus la concedierea lui Altman, printre care se numără preocupările legate de comercializarea progreselor înainte de a înțelege consecințele. Reuters nu a reușit să examineze o copie a scrisorii. Personalul care a scris scrisoarea nu a răspuns la solicitările de comentarii.
După ce a fost contactat de Reuters, OpenAI, care a refuzat să comenteze, a recunoscut într-un mesaj intern adresat personalului un proiect numit Q* și o scrisoare adresată consiliului înainte de evenimentele din weekend, a declarat una dintre persoane. Un purtător de cuvânt al OpenAI a declarat că mesajul, trimis de Mira Murati, un director cu vechime, a alertat personalul cu privire la anumite articole din presă, fără a comenta acuratețea acestora.
Descoperirea care pune în pericol omenirea
Unele persoane de la OpenAI cred că Q* (pronunțat Q-Star) ar putea fi o descoperire în căutarea de către startup a ceea ce se numește inteligență generală artificială (AGI), a declarat una dintre persoane pentru Reuters. OpenAI definește AGI ca fiind sisteme autonome care depășesc oamenii în majoritatea sarcinilor valoroase din punct de vedere economic.
Având în vedere resursele vaste de calcul, noul model a fost capabil să rezolve anumite probleme matematice, a declarat persoana sub rezerva anonimatului, deoarece individul nu a fost autorizat să vorbească în numele companiei. Cu toate că efectua doar calcule matematice la nivelul elevilor de școală primară, faptul că a reușit astfel de teste i-a făcut pe cercetători să fie foarte optimiști cu privire la viitorul succes al Q*, a mai spus sursa.
Matematica, frontiera dezvoltării AI
Cercetătorii consideră că matematica este o frontieră a dezvoltării inteligenței artificiale generative. În prezent, AI generativă este bună la scriere și la traducerea limbilor străine prin prezicerea statistică a următorului cuvânt, iar răspunsurile la aceeași întrebare pot varia foarte mult. Dar cucerirea abilității de a face matematică, unde există un singur răspuns corect, presupune că AI ar avea capacități mai mari de raționament asemănătoare cu inteligența umană. Acest lucru ar putea fi aplicat, de exemplu, la cercetări științifice noi, consideră cercetătorii în domeniul.
Spre deosebire de un calculator care poate rezolva un număr limitat de operații, AGI poate generaliza, învăța și înțelege.
În scrisoarea lor către consiliu, cercetătorii au semnalat probele de inteligență artificială și potențialul pericol, au declarat sursele, fără a preciza care sunt îngrijorările exacte legate de siguranță semnalate în scrisoare. Există de mult timp discuții în rândul informaticienilor cu privire la pericolul reprezentat de mașinile foarte inteligente, de exemplu dacă acestea ar putea decide că distrugerea umanității este în interesul lor.
Cercetătorii au semnalat, de asemenea, activitatea unei echipe de „cercetători în domeniul inteligenței artificiale”, a cărei existență a fost confirmată de mai multe surse. Grupul, format prin combinarea echipelor anterioare „Code Gen” și „Math Gen”, explora modul de optimizare a modelelor de inteligență artificială existente pentru a le îmbunătăți raționamentul și, în cele din urmă, pentru a efectua lucrări științifice, a declarat una dintre persoane.
