ChatGPT se modifică în Europa. OpenAI va introduce o amprentă invizibilă
11Open AI schimbă procedurile din ChatGPT și Codex pentru utilizatorii din Uniunea Europeană. Compania va introduce , în următoarele săptămâni, un watermark invizibil în anumite texte generate.
ChatGPT se modifică
Această măsură face parte din strategia companiei de a respecta cerințele europene privind identificarea conținutului creat de inteligența artificială. Totuși, OpenAI avertizează că tehnologia are în continuare limitări semnificative.
Watermarkul dezvoltat de OpenAI, denumit „textGrain”, nu implică apariția unui simbol sau a unui mesaj vizibil în text. Sistemul introduce un semnal statistic invizibil prin modul în care modelul selectează cuvintele.
Ulterior, un detector specializat poate identifica acest semnal pentru a estima dacă un fragment de text conține watermarkul OpenAI.
Watermark pe texte
OpenAI susține că EU AI Act obligă furnizorii de inteligență artificială generativă să facă textele produse identificabile într-un mod automatizabil. Implementarea watermarkului va fi realizată etapizat.
Începând cu 5 octombrie, clienții API din întreaga lume vor putea opta pentru activarea watermarkului la anumite modele, funcția fiind dezactivată implicit. Pentru utilizatorii elegibili ai ChatGPT și Codex din UE, introducerea watermarkului este planificată în următoarele săptămâni.
OpenAI precizează că watermarkul nu oferă o metodă infailibilă pentru stabilirea originii unui text. Testele interne arată că lungimea și tipul conținutului influențează semnificativ rata de detectare.09
La o rată țintă de 1% pentru rezultate fals pozitive, detectorul a identificat watermarkul în aproximativ 80% dintre textele de 200 de tokeni din anumite categorii, procentul crescând la aproximativ 95% pentru pasaje de 400 de tokeni.
Modificarea textului poate reduce însă drastic șansele de detectare. De exemplu, înlocuirea a 10% dintre cuvinte cu sinonime a scăzut rata de detectare de la aproximativ 92% la 66% în testele pe pasaje de 400 de tokeni. O înlocuire a unui sfert dintre cuvinte a redus rata la 17%.
Din cauza acestor limitări, detectorul nu va fi disponibil publicului larg în această etapă. Accesul va fi acordat inițial cercetătorilor și organizațiilor specializate aprobate de OpenAI.
Corectitudinea informațiilor
OpenAI subliniază că detectarea watermarkului nu poate determina cât dintr-un text reprezintă contribuția umană și cât a fost generat de inteligența artificială.
De asemenea, watermarkul nu oferă informații despre drepturile de autor, legalitatea utilizării textului sau responsabilitatea pentru conținut. Nu identifică utilizatorul, contul, organizația, conversația sau promptul care a generat textul.
Sistemul nu garantează nici corectitudinea informațiilor. Detectarea semnalului nu indică dacă textul este adevărat, fals, înșelător sau scos din context.
În plus, absența unui watermark detectabil nu dovedește că un text a fost scris de un om, deoarece materialele generate de AI pot fi modificate, traduse sau prea scurte pentru a păstra semnalul.
OpenAI precizează că implementarea inițială a watermarkului pentru ChatGPT și Codex va fi limitată la utilizatorii din Uniunea Europeană. Sistemul va fi ajustat pe măsură ce tehnologia, standardele și cerințele de reglementare vor evolua.
