Compania americană Anthropic, care dezvoltă chatbotul Claude, a stârnit controverse după ce a anunțat că va interzice comportamentele abuzive repetate și nejustificate ale utilizatorilor față de sistemele sale de inteligență artificială. Noua politică, aplicabilă doar în cazuri extreme, permite întreruperea conversațiilor cu utilizatorii care manifestă un comportament considerat „crud” și reaprinde dezbaterea despre modul în care ar trebui să comunicăm cu inteligența artificială, relatează BBC.
Acest tip de comportament va fi inclus pe lista practicilor interzise, alături de hărțuirea altor persoane, promovarea autovătămării și crearea de imagini intime fără consimțământul persoanelor vizate.
Deși Anthropic a precizat că noua regulă se va aplica numai în „cazuri extreme” de abuz repetat, decizia a reaprins dezbaterea privind modul în care ar trebui să comunicăm cu instrumentele de inteligență artificială.
Compania a explicat că măsura nu vizează „manifestările obișnuite de frustrare ale utilizatorilor, exprimarea dezacordului, temele creative întunecate sau testarea și cercetarea modelelor”, sugerând că se va aplica doar în situațiile în care comportamentul abuziv este în mod evident deliberat. Rămâne însă neclar ce anume consideră Anthropic drept „comportament abuziv sau crud” față de modelele sale.
„Nu poți fi crud cu numerele și matematica”
Capturi de ecran cu noua politică au fost distribuite și comentate intens pe rețelele sociale. Unii utilizatori au salutat măsura, considerând că promovează bunele maniere sau contribuie la protejarea bunăstării modelelor AI.
Alții au criticat însă inițiativa. O persoană a calificat-o drept „profund greșită”, în timp ce alta a sugerat că ar putea diminua gravitatea abuzurilor îndreptate împotriva oamenilor și animalelor.
„Nu poți fi crud cu numerele și matematica”, a scris pe LinkedIn dr. Barry Scannell, partener specializat în tehnologie la firma irlandeză de avocatură William Fry. „Acest nivel de antropomorfizare a inteligenței artificiale este dăunător. Îi determină pe oameni să creadă că AI este ceva ce, în realitate, nu este”, a adăugat el.
Mustafa Suleyman, directorul diviziei de inteligență artificială de la Microsoft, care în septembrie criticase compania rivală Anthropic pentru că tratează AI ca și cum ar fi umană, a reacționat la actualizarea politicii printr-un emoji reprezentând o față care se topește.
Modificările, relatate inițial de publicația de tehnologie The Verge, au fost introduse în urma revizuirii anuale a politicii de utilizare a companiei.
Aceasta a fost actualizată și pentru a aborda riscuri noi sau emergente în alte domenii. Printre schimbări se numără interzicerea utilizării Claude pentru „campanii înșelătoare”, precum și clarificarea faptului că instrumentul nu poate fi folosit pentru a „induce în eroare alegătorii sau a perturba alegerile”, în contextul apropierii alegerilor de la jumătatea mandatului din Statele Unite.
Anthropic a precizat joi că politica sa interzicea deja utilizarea instrumentelor companiei pentru dezvoltarea armelor. Totuși, niciuna dintre aceste modificări nu a atras la fel de multă atenție și nu a provocat atâtea reacții precum decizia de a interzice comportamentul abuziv al utilizatorilor față de chatboți.
Ar trebui să fim politicoși cu inteligența artificială?
Noua regulă readuce în discuție o întrebare intens dezbătută: ar trebui să ne adresăm politicos instrumentelor de inteligență artificială generativă sau putem adopta un ton direct, chiar nepoliticos?
Unii experți susțin că folosirea expresiilor „te rog” și „mulțumesc” în conversațiile cu instrumente precum ChatGPT este inutilă și consumă tokenuri, unitățile de text folosite de modelele lingvistice mari pentru a procesa solicitările și a genera răspunsuri. Alții consideră că politețea poate contribui la obținerea unor răspunsuri de calitate mai bună.
Anul trecut, când un utilizator al platformei X l-a întrebat despre costurile cu energia electrică generate de răspunsurile ChatGPT la mesajele care conțin „te rog” și „mulțumesc”, directorul general al OpenAI, Sam Altman, a răspuns că este vorba despre „zeci de milioane de dolari cheltuite cu folos, nu se știe niciodată”.
Dincolo de dezbaterea privind necesitatea adoptării unui ton politicos față de inteligența artificială, unii experți atrag atenția că modul în care oamenii interacționează cu chatboții ar putea influența și relațiile interumane. Potrivit acestora, obișnuința de a folosi un limbaj agresiv sau abuziv în conversațiile cu AI s-ar putea reflecta, în timp, și în felul în care comunicăm cu ceilalți.
Editor : M.I.
