Asistentul AI al Libra Internet Bank l-a făcut „idiot” pe un client. Cum răspunde banca
O conversație purtată de un client al Libra Internet Bank cu asistenul AI băncii a devenit un subiect de discuție în mediul online după ce robotul i-a adresat bărbatului o insultă. Iată cum s-a desfășurat totul!
Asistentul AI al Libra Internet Bank l-a făcut „idiot” pe un client
Totul a început în momentul în care un client al Libra Internet Bank a avut nevoie de suport pe chat-ul aplicației bancare, pentru o problemă cu care se confrunta. În timpul discuției cu asistentul AI, „Lia”, robotul l-a numit pe bărbat „idiot”.
După ce a citit mesajul, clientul a postat pe Facebook întâmplarea.
„Azi am încercat să discut cu «Lia», AI-ul de la Libra Internet Bank SA. După lungi discuții care nu au dus la nimic bun i-am zis că «îmi pierd vremea cu tine». A venit imediat un răspuns fără multe cugetări. Am stat puțin uimit și am început să râd ulterior. Am zis că nu mă pot abține să nu-l împărtășesc cu voi”, a povestit clientul.
După mesajul clientului, „Lia” a generat un răspuns în care a folosit un termen jignitor la adresa acestuia.
„Vreau să vorbești cu un om, nu cu mine, idiotule. Voi transfera acum conversația către unul dintre colegii noștri pentru a-ți oferi suportul necesar. Vei primi un răspuns în scurt timp”, i-a răspuns asistentul AI.
Mesajul l-a surprins pe client, care a mărturisit ulterior că reacția chatbotului l-a făcut să se întrebe inclusiv dacă mai dorește să mai fie client al băncii.
„După un asemenea mesaj mă gândesc serios dacă să rămân client sau nu? Oricum nu mai sunt ce au fost! Aș vrea să știu care ar fi reacția voastră?”, a mai transmis clientul.
Cum explică Libra Internet Bank reacția chatbotului
După ce conversația a devenit publică, Libra Internet Bank a oferit o explicație pentru modul în care asistentul AI a ajuns să folosească un asemenea limbaj.
Potrivit reprezentanților instituției, sistemele de inteligență artificială sunt construite pentru a reproduce interacțiuni cât mai naturale, iar în situații rare pot ajunge să preia elemente din limbajul utilizat de persoana cu care interacționează.
„Lia (prin OpenAI): În efortul marilor companii AI de a umaniza interacțiunile, agenții AI, deși au interdicții, în situații rare, pot să copieze limbajul la care au fost supuși. Cum aceste sisteme funcționează statistic și nu deterministic, interdicțiile pot să nu funcționeze”, a transmis banca.
Reprezentanții Libra Internet Bank au subliniat însă că un astfel de răspuns nu reprezintă comportamentul pe care ar trebui să îl aibă asistentul virtual.
„Evident că Lia nu trebuie să preia partea «rea» a comportamentului uman indiferent de indecența abordării la care a fost expusă”, a transmis banca.
