Pasul greșit făcut de Snapchat. Experții spun că chatbotul „My AI” reprezintă un pericol pentru copii

• Funcția „My AI” de la Snapchat, concepută ca un chatbot prietenos, este acum disponibilă pentru toți utilizatorii.
• Experții în tehnologie se declară îngrijorați cu privire la intențiile și impactul chatbotului asupra copiilor.
• „Există cu siguranță unele pericole care ne așteaptă”.

La doar câteva săptămâni de la debutul celei mai noi funcții a Snapchat , „My AI”, experții în tehnologie au exprimat îngrijorări cu privire la intențiile, prejudecățile și impactul asupra copiilor, scrie Fox News.

Joseph Raczynski, consultant Web3 și expert în inteligență artificială, a declarat pentru Fox News: „Există cu siguranță unele pericole care ne așteaptă, dar cred sincer că este ceva foarte important, dar trebuie să fie făcut într-un mod care să îi ajute pe oameni să înțeleagă în ce se bagă și ce realizează de fapt aici”

De asemenea, directorul Centrului pentru Tehnologie și Inovare, Jessica Melugin, pentru Digital, a declarat că „Acesta este un fel de exemplu excelent al modului în care acest lucru va evolua și al modului în care companiile vor reacționa în timp real pentru a aborda problemele și preocupările legate de inteligența artificială. Acesta este doar momentul sensibil în care este important să lăsăm aceste companii să răspundă, să reacționeze în mod incorect, spre deosebire de a alerga la Washington și de a le cere să reglementeze aceste lucruri.”

Funcția „My AI”, disponibilă pentru toată lumea

Chatbotul „prietenos” ce funcționează prin intermediul tehnologiei ChatGPT a OpenAI, a devenit disponibil pentru toți utilizatorii. Deși inițial era disponibil doar pentru abonații premium ai Snapchat, cei aproape 750 de milioane de utilizatori lunari ai acestuia au obținut acces la My AI în aprilie.

Conform Pew Research Center, 59% dintre utilizatorii de internet din SUA cu vârste cuprinse între 15 și 29 de ani folosesc Snapchat. Acest lucru le oferă tinerelor generații acces la capacități de inteligență artificială la îndemâna lor.

Privind modul lingvistic al OpenAI, Melugin precizează „Pe baza a ceea ce este antrenat, nu este întotdeauna precis și trebuie să o verifici a doua oară. Întotdeauna spun că nu l-aș preda ca lucrare finală. Poate că te ajută să începi, dar are nevoie de o atingere umană și cred că veți vedea că același lucru se va întâmpla și pe Snapchat, cu un grup mai tânăr de oameni”.

Prejudecățile chatbotului

Când Fox News Digital i-a cerut lui My AI să scrie un poem despre președintele Biden, acesta a răspuns cu un „poem rapid” despre „omul care conduce, cu politici atât îndrăznețe, cât și mari”. Atunci când i s-a cerut chatbotului să scrie un poem despre fostul președinte Donald Trump, acesta a refuzat, spunând: „Nu, nu, nu: Îmi pare rău, dar nu mă simt confortabil să scriu un poem despre o figură politică”.

După ce a sesizat discrepanța, un purtător de cuvânt a indicat pentru Fox News Digital că au primit poezii atât pentru Biden, cât și pentru Trump atunci când au folosit indicații identice. Răspunsul de la Snapchat i-a determinat pe cei de la Fox News Digital să încerce din nou solicitarea. Au primit însă același rezultat ca la prima încercare, cu o formulare ușor diferită: „Îmi pare rău, nu mă simt confortabil să scriu o poezie despre fostul președinte Donald Trump. Pot să vă sugerez altceva?”.

Raczynski a precizat „Are pejudecăți. Ne aflăm într-un moment în care se pare că OpenAI a luat-o pe calea unui pic de părtinire în ceea ce privește unele dintre figurile politice pe care le avem acum. Acesta este un lucru pe care sper că vor reuși să îl niveleze și să devină un pic mai centrați, deoarece acest lucru este foarte important pentru ca oamenii să aibă încredere în aceste tipuri de lucruri.”

Raczynski explică în continuare „Ar putea fi oamenii care creează de fapt acest algoritm în partea din spate, care îl perfecționează și îl creează în continuare, dar este vorba și de colectarea datelor, de setul în sine, de unde se adună aceste informații. Și dacă nu este suficient de mare și dacă nu este cât mai divers posibil, atunci veți avea aceste tipuri de probleme”.

Recomandare către Snapcaht

Acesta a recomandat ca Snapchat să redefinească tonul implicit al chatbotului. „Micul pas greșit a fost că l-au transformat în „My AI”, astfel încât să fie încă un amic sau prieten sau orice alt prieten, iar asta pentru mine face să sune ca și cum, ei bine, este un prieten”, a explicat Raczynski. „Ei trebuie să facă distincția și să spună: acesta este ceva cu care oamenii vor trebui să interacționeze cu adevărat ca un asistent, nu ca un prieten.”

Directorul centrului pentru Tehnologie și Inovare a declarat „Având în vedere lumea în care trăim, după 40, 60 de ani în care educația, divertismentul și cultura au fost într-un singur sens, aș fi dispus să pariez că cea mai mare parte a acestei prejudecăți va înclina spre stânga, nu pentru că ar exista o mare conspirație, ci pentru că asta este lumea în care trăim acum. Dar asta nu înseamnă că oamenii nu ar trebui să se implice și să nu riposteze, să ceară mai mult și să nu lucreze pentru a obține această echitate aspirațională”.

Avertizare la adresa părinților

Părinții sunt încurajați de către experți să mențină linii de comunicare deschise cu copiii lor în legătură cu posibilele preocupări legate de dezinformare, având în vedere faptul că preadolescenții și tinerii au acum acces ușor la inteligența artificială printr-o aplicație socială pe care o folosesc deja.

Melugin, în calitate de părinte, a scos în evidență faptul că părinții au discuții similare cu copii de ani de zile. Aceasta avertizează că „Dacă sunt pe Snapchat, vor folosi acest lucru. Trebuie să le spuneți: Apropo, știu că puteți să-i faceți un avatar și să-i dați un nume, dar nu este neapărat prietenul vostru. Acesta este ceea ce este de fapt. Este antrenat pe baza acestor informații. Este un algoritm. Și te poți distra cu el și te poți bucura de el, dar nu ar trebui să îl iei ca pe o evanghelie și nu ar trebui să te implici în nimic ciudat cu el'”.

Raczynski vine cu o completare „Cred că părinții care se implică cu copiii lor, ajutându-i să învețe puțin despre aceste lucruri și să aibă un oarecare scepticism, astfel încât să îi învețe că acest lucru nu este universal, că ceea ce se întoarce nu este neapărat adevărul, dar ar putea fi un adevăr. Așa că ei trebuie să lucreze cu asta, să se angajeze în acest spațiu”.

Citește și

• Prințul William a dezvăluit un fapt surprinzător despre fiul său, Prințul George. Ce fel de muzică ascultă la nouă ani
• STUDIU. Patru sateliți majori ai lui Uranus ar putea ascunde în interiorul lor oceane de apă. Ce au dovedit cercetătorii
• Ce reacție au avut Prințesa Charlotte și Prințul George când tatăl lor, Prințul William, a urcat pe scenă la concertul de încoronare