Sute de personalități publice, printre care Steve Wozniak, cofondatorul Apple, și Richard Branson, fondatorul Virgin, cer interzicerea „superinteligenței” AI

Superinteligența, o formă ipotetică de IA care depășește inteligența umană, a devenit un cuvânt la modă în cursa IA dintre giganți precum Meta și OpenAI. Recent, o declarație susținută de diverse personalități publice solicită interzicerea dezvoltării superinteligenței până când aceasta poate fi realizată în condiții de siguranță și control, transmite CNBC.

Un grup de personalități proeminente, printre care experți în inteligență artificială și tehnologie, a solicitat încetarea eforturilor de creare a „superinteligenței” — o formă de IA care ar depăși oamenii în practic toate sarcinile cognitive.

Sute de personalități publice cer interzicerea „superinteligenței” AI

Peste 850 de persoane, printre care lideri din domeniul tehnologiei, precum fondatorul Virgin Group, Richard Branson, și cofondatorul Apple, Steve Wozniak, au semnat o declarație publicată miercuri, în care solicită o pauză în dezvoltarea superinteligenței.

Lista semnatarilor a fost condusă în mod notabil de pionieri proeminenți ai IA, printre care se numără informaticienii Yoshua Bengio și Geoff Hinton, considerați pe scară largă „nașii” IA moderne. Cercetători de frunte în domeniul IA, precum Stuart Russell de la UC Berkeley, au semnat și ei declarația, arată CNBC.

Superinteligența a devenit un cuvânt la modă în lumea IA, pe măsură ce companii precum xAI a lui Elon Musk și OpenAI a lui Sam Altman concurează pentru a lansa modele lingvistice mai avansate. Meta a mers până la a-și numi divizia LLM „Meta Superintelligence Labs”.

Avertisment la nivel internațional privind această tehnologie

Însă semnatarii recentei declarații avertizează că perspectiva superinteligenței „a stârnit îngrijorări, de la obsolescența și lipsirea de putere a oamenilor, pierderea libertății, a libertăților civile, a demnității și a controlului, până la riscuri pentru securitatea națională și chiar potențiala extincție a umanității”.

Declarația solicită interzicerea dezvoltării superinteligenței până când va exista un sprijin public puternic pentru această tehnologie și un consens științific cu privire la faptul că ea poate fi construită și controlată în condiții de siguranță.

Cine a semnat declarația

Pe lângă personalități din domeniul AI și al tehnologiei, numele din spatele declarației provin dintr-o coaliție largă, formată din academicieni, personalități media, lideri religioși și un grup bipartizan de foști politicieni și oficiali americani.

Printre acești oficiali pensionați se numără fostul președinte al Comitetului șefilor de stat major, Mike Mullen, și fosta consilieră pentru securitate națională, Susan Rice.

În același timp, Steve Bannon și Glenn Beck – aliați media influenți ai președintelui american Donald Trump – au figurat, de asemenea, în mod proeminent pe listă.

Alți semnatari de renume au fost membrii familiei regale britanice, prințul Harry și soția sa, Meghan, ducesă de Sussex, precum și fosta președintă a Irlandei, Mary Robinson. Miercuri, lista era încă în creștere.

Pesimiștii AI versus optimistii AI

În domeniul tehnologic, există o diviziune tot mai mare între cei care consideră AI o forță puternică pentru bine, care merită o dezvoltare neîngrădită, și cei care cred că este periculoasă și că are nevoie de mai multă reglementare.

Cu toate acestea, așa cum se menționează pe site-ul web al semnatarilor „Declarației privind superinteligența”, chiar și liderii celor mai importante companii de inteligență artificială din lume, precum Musk și Altman, au avertizat în trecut cu privire la pericolele superinteligenței.

Înainte de a deveni CEO al OpenAI, Altman a scris într-o postare pe blog din 2015 că „dezvoltarea inteligenței artificiale superumane (SMI) este probabil cea mai mare amenințare la adresa existenței continue a umanității”.

Între timp, Elon Musk a declarat într-un podcast la începutul acestui an că există „doar 20% șanse de anihilare” atunci când a discutat despre riscurile ca IA avansată să depășească inteligența umană.

„Declarația privind superinteligența” a citat un sondaj recent al Future of Life Institute, care arată că doar 5% dintre adulții din SUA susțin „statu quo-ul dezvoltării rapide și nereglementate” a superinteligenței.

Sondajul realizat pe 2.000 de adulți americani a arătat, de asemenea, că majoritatea consideră că „IA superumană” nu ar trebui creată până când nu se dovedește că este sigură sau controlabilă și doresc o reglementare robustă a IA avansate.

Într-o declarație furnizată pe site, informaticianul Bengio a spus că sistemele de IA ar putea depăși majoritatea indivizilor în majoritatea sarcinilor cognitive în câțiva ani. El a adăugat că, deși astfel de progrese ar putea ajuta la rezolvarea provocărilor globale, ele prezintă și riscuri semnificative.

„Pentru a avansa în siguranță către superinteligență, trebuie să determinăm științific cum să proiectăm sisteme de IA care să fie fundamental incapabile să facă rău oamenilor, fie prin nealiniere, fie prin utilizare rău intenționată”, a spus el.

„De asemenea, trebuie să ne asigurăm că publicul are un cuvânt mult mai puternic de spus în deciziile care vor modela viitorul nostru colectiv.”