Șeful OpenAI, omul din spatele ChatGPT, îngrijorat de utilizarea inteligenței artificiale pentru a compromite alegerile
Directorul general al OpenAI, start-up-ul din spatele ChatGPT, a declarat marți în fața unei comisii a Senatului că utilizarea inteligenței artificiale pentru a interfera cu integritatea alegerilor este un „domeniu semnificativ de îngrijorare”, adăugând că are nevoie de reglementare.
Șeful OpenAI, îngrijorat de utilizarea inteligenței artificiale pentru a compromite alegerile
„Sunt neliniștit în această privință”, a declarat directorul general Sam Altman despre alegeri și inteligența artificială, adăugând că sunt necesare reguli și orientări.
Timp de luni de zile, companii mari și mici s-au grăbit să aducă pe piață o inteligență artificială din ce în ce mai versatilă, aruncând pe piață date nesfârșite și miliarde de dolari pentru această provocare. Unii critici se tem că tehnologia va exacerba daunele sociale, printre care prejudecățile și dezinformarea, în timp ce alții avertizează că AI ar putea pune capăt umanității însăși.
„Nu există nicio modalitate de a pune acest duh în sticlă. La nivel global, acest lucru explodează”, a declarat senatorul Cory Booker, unul dintre numeroșii legislatori care au întrebări cu privire la cea mai bună modalitate de a reglementa IA.
Senatorul Mazie Hirono a remarcat pericolul dezinformării în apropierea alegerilor din 2024.
„În contextul alegerilor, de exemplu, am văzut o imagine cu fostul președinte Trump arestat de poliția din New York și care a devenit virală”, a spus ea, presându-l pe Altman să spună dacă ar considera că imaginea falsificată este dăunătoare, scrie Reuters.
Altman a răspuns că creatorii ar trebui să precizeze când o imagine este generată și nu reală.
SUA trebuie să testeze și să licențieze modelele AI
Vorbind pentru prima dată în fața Congresului, Altman a sugerat că, în general, SUA ar trebui să ia în considerare cerințe de licențiere și testare pentru dezvoltarea modelelor de inteligență artificială.
Altman, rugată să se pronunțe cu privire la ce inteligență artificială ar trebui să fie supusă licențierii, a spus că un model care poate convinge sau manipula convingerile unei persoane ar fi un exemplu de „mare prag”.
De asemenea, el a spus că firmele ar trebui să aibă dreptul de a spune că nu doresc ca datele lor să fie folosite pentru antrenarea IA, care este o idee discutată la Capitol Hill. Altman a spus, totuși, că materialele de pe web-ul public ar fi un joc corect.
Altman a mai spus că „nu ar spune niciodată” ideii de publicitate, dar că preferă un model bazat pe abonament.
Casa Albă a convocat directori executivi de top din domeniul tehnologiei, inclusiv Altman, pentru a aborda problema inteligenței artificiale. De asemenea, legislatorii americani doresc să ia măsuri pentru a promova beneficiile tehnologiei și securitatea națională, limitând în același timp utilizarea abuzivă a acesteia. Consensul este departe de a fi sigur.
Un membru al personalului OpenAI a propus recent crearea unei agenții americane de acordare a licențelor pentru IA, care s-ar putea numi Oficiul pentru siguranța IA și securitatea infrastructurii, sau OASIS, a relatat Reuters.
OpenAI este susținută de Microsoft Corp (MSFT.O). Altman solicită, de asemenea, o cooperare globală în domeniul IA și stimulente pentru respectarea normelor de siguranță. Christina Montgomery, director general pentru confidențialitate și încredere al International Business Machines Corp (IBM.N), a îndemnat Congresul să se concentreze asupra reglementărilor în domeniile cu potențialul de a produce cele mai mari daune societale.
