Cum se comportă de fapt Diella, ministrul AI din Albania. Nu e sigur că ar fi „incoruptibilă”
Cum se comportă de fapt Diella, ministrul AI. Albania a anunţat recent crearea unui minister al Achiziţiilor Publice, ce a fost încredinţat unei inteligenţe artificiale (AI). Dincolo de această campanie de comunicare, noua inteligenţă artificială, al cărei nume este Diella, ridică numeroase întrebări de natură tehnică, politică şi etică.
Anunţând numirea inteligenţei artificiale Diella în această funcţie, prim-ministrul albanez Edi Rama a afirmat că, datorită ei, licitaţiile publice vor fi „100% lipsite de corupţie”.
Cum se comportă de fapt Diella, ministrul AI din Albania. Avantajele
„Diella nu doarme niciodată, nu are nevoie să fie plătită, nu are interese personale, nu are verişori, pentru că verişorii sunt o mare problemă în Albania”, a subliniat prim-ministrul unei ţări clasate pe locul al 80-lea dintr-un total de 180 în ceea ce priveşte corupţia, potrivit ONG-ului Transparency International.
Politicienii albanezi sunt adeseori implicaţi în scandaluri legate de licitaţii publice trucate: primarul capitalei Tirana, un fost apropiat al premierului Edi Rama, se află în arest preventiv de câteva luni, fiind suspectat de corupţie, în special în ceea ce priveşte atribuirea de contracte publice, şi de spălare de bani.
Liderul opoziţiei şi totodată fostul prim-ministru al ţării, Sali Berisha, este suspectat, de asemenea, că ar fi atribuit contracte publice unor persoane apropiate.
Ar putea fi Diella o soluţie? Acest lucru nu este deloc sigur, subliniază mai mulţi experţi.
Depinde de informațiile care i-au fost încărcate
„Ca orice sistem de inteligenţă artificială, Diella depinde în totalitate de calitatea şi coerenţa datelor şi de fiabilitatea modelelor care o susţin”, a explicat Erjon Curraj, un expert în transformare digitală şi securitate cibernetică.
Diella, despre care nu se ştie aproape nimic în legătură cu modul său exact de funcţionare, se bazează cel mai probabil pe un LLM pentru a răspunde la solicitări – acele modele de limbaj de mari dimensiuni care produc volume enorme de texte, utilizate în chatboturi generative precum ChatGPT şi Gemini.
Or, „dacă aceste date sunt incomplete, părtinitoare sau învechite, Diella ar putea interpreta greşit documentele, ar putea semnala în mod eronat un furnizor sau ar putea omite semne de coluziune”, a subliniat Erjon Curraj.
„LLM-urile sunt o reflectare a societăţii, ele au prejudecăţi. Nu există niciun motiv pentru care ar rezolva problema corupţiei”, a adăugat Jean-Gabriel Ganascia, profesor-emerit la Universitatea Sorbona din Franţa, filosof, informatician şi specialist în inteligenţă artificială.
„A presupune că o maşină nu are prejudecăţi înseamnă a sugera că trebuie să ne supunem maşinii, deoarece decizia ei ar fi corectă şi pură”, a continuat cercetătorul francez.
Responsabilitate
Opoziţia albaneză a sesizat Curtea Constituţională, îngrijorată de cine va purta responsabilitatea deciziilor luate de AI. „Cine o va controla pe Diella?”, a întrebat Sali Berisha în Parlamentul de la Tirana.
Responsabilitatea este una dintre mizele în joc, a subliniat Jean-Gabriel Ganascia: „Dacă încredinţăm unei maşini decizia publică, asta înseamnă că nu mai există responsabilitate, suntem reduşi la starea de sclavi”, a adăugat el.
„Ceea ce mă îngrijorează este ideea unei maşini care guvernează, care ar da răspunsul ‘corect’ şi ar împiedica orice deliberare. Democraţia se bazează însă pe deliberare”, a subliniat filosoful francez.
„Un politician îşi asumă responsabilităţile, dar aici ideea este că maşina este perfectă şi că, în orice caz, nu pot fi contestate deciziile sale”, a adăugat el.
În acest sens, un decret publicat joia trecută indică faptul că prim-ministrul Edi Rama „îşi exercită, de asemenea, responsabilitatea pentru crearea şi funcţionarea ministrului virtual al Inteligenţei Artificiale, Diella”.
Corupţie veche, software nou
Edi Rama este un strateg al comunicării – indiferent dacă participă la reuniuni internaţionale în tenişi, anunţă interzicerea Tik Tok, crearea unui stat Bektashi după modelul Vaticanului, deschide tabere de migranţi pentru a-i primi pe bărbaţii interceptaţi pe mare de italieni. Şi, de acum înainte, a lansat primul ministru AI din lume.
Însă reţeaua de socializare Tik Tok este încă uşor de accesat în Albania, doar câteva zeci de bărbaţi au fost transferaţi în tabere de refugiaţi, legalitatea instalării lor fiind contestată de justiţia italiană, iar lucrările la statul Bektashi continuă, au anunţat autorităţile albaneze.
Cât despre Diella, chipul ei este cel al unei actriţe cunoscute în Albania, Anila Bisha, care a semnat un contract ce expiră în decembrie pentru utilizarea imaginii sale.
Nimeni nu ştie dacă „ministrul” virtual va supravieţui examinării Curţii Constituţionale de la Tirana şi nici dacă această inteligenţă artificială este conformă cu procedurile Uniunii Europene, la care Albania speră să adere în următorii cinci ani.
„Până în prezent, nu există nicio informaţie despre modul real de funcţionare al programului Diella”, a subliniat Lutfi Dervishi, un politolog albanez. „Or, dacă un sistem corupt oferă date manipulate sau dacă se aplică filtre peste ceea ce el ar trebui să vadă, atunci Diella va legitima, pur şi simplu, vechea corupţie cu ajutorul unui nou software”, a adăugat Lufti Dervishi.
