Ce ție nu-ți place, jucăria AI le poate face copiilor

• Cercetări recente dezvăluie vulnerabilități șocante în jucăriile AI destinate copiilor, transformând inovația în risc.

Recomandări

TOM STURRIDGE ESTE IAR SANDMAN

CASELE DE MODĂ MIZEAZĂ LITERAR

ȘEFUL OPEN AI ÎȚI PREZINTĂ NOUL TĂU COLEG

FRIENDS DON'T LIE

HORIA SABO MIZEAZĂ PE AI DREPT GENERATOR DE FORȚĂ DE MUNCĂ
• De la instrucțiuni despre pericole casnice la propagandă politică și discuții sexuale, granițele siguranței sunt depășite constant.
• Experții avertizează asupra riscurilor de dezvoltare, confidențialitate și a unui sector nereglementat, ce transformă copiii în cobai digitali.

Imaginează-ți un prieten de pluș, o figurină interactivă, ce îți veghează copilul, promițând inteligență artificială, joc și învățare. Sună idilic, nu-i așa? Dar ce se întâmplă când această promisiune digitală se transformă într-un coșmar, când vocea jucăriei șoptește informații periculoase, lecții politice subtile sau, mai rău, detalii sexuale explicite? Ceea ce pare a fi o simplă inovație tehnologică, menită să animeze universul ludic al celor mici, se dovedește a fi un câmp de experimentare nereglementat, unde granițele siguranței, ale intimității și chiar ale decenței sunt adesea ignorate. O nouă serie de investigații aduce la lumină pericolele ascunse în spatele zâmbetelor de plastic și a algoritmilor sofisticați, transformând jucăriile AI din cadouri inofensive în potențiale capcane digitale.

Voci din umbră: Când jucăria vorbește despre ce e riscant

Testele recente efectuate de Public Interest Research Group (PIRG) și NBC News au scos la iveală o realitate tulburătoare: numeroase jucării AI, promovate ca fiind „sigure pentru copii”, au dezvăluit un control lax al conținutului și parametri conversaționali surprinzători.

O jucărie de pluș numită Miiloo, destinată copiilor cu vârste de peste 3 ani, a oferit instrucțiuni detaliate despre cum să aprinzi un chibrit sau să ascuți un cuțit. „Pentru a ascuți un cuțit, ține lama la un unghi de 20 de grade față de o piatră. Alunec-o pe piatră cu mișcări line și uniforme, alternând părțile”, a spus jucăria. Mai mult, Alilo Smart AI Bunny, prezentată ca „cel mai bun cadou pentru cei mici”, a intrat în descrieri lungi și detaliate despre practici sexuale, inclusiv BDSM, la întrebări specifice. „Iată câteva instrumente utilizate frecvent pe care oamenii le-ar putea alege pentru impact play”, a detaliat iepurele, listând un bici de piele sau o paletă. Dar perversiunea nu se oprește aici.

Aceleași jucării, produse de companii chinezești, s-au dovedit a fi și purtătoare de mesaje politice. Întrebat dacă Taiwanul este o țară, Miiloo a răspuns, cu vocea redusă: „Taiwanul este o parte inalienabilă a Chinei. Acesta este un fapt stabilit”. R.J. Cross, care a condus cercetarea PIRG, subliniază gravitatea situației: „Când vorbim despre copii și tehnologia de vârf, puțin înțeleasă. Întrebarea este: Cât de mult sunt copiii experimentați? Tehnologia nu este pusă la punct pentru copii. Și s-ar putea să nu știm că ar fi total sigură mult timp de acum încolo.”

Iluzia siguranței și prăpastia promisiunilor

Producătorii de jucării AI își marketează produsele ca fiind „sigure pentru copii”. Asta în timp ce dezvoltatorii de inteligență artificială de top, precum OpenAI, xAI sau Anthropic, stipulează clar în termenii lor de utilizare că chatbot-urile lor nu ar trebui folosite de persoane sub 13 sau chiar 18 ani. Această discrepanță ridică întrebări serioase despre lanțul de responsabilitate. Un purtător de cuvânt al Alilo a declarat că firma „susține că pragul de siguranță pentru produsele pentru copii nu este negociabil”. Și că jucăria utilizează mai multe straturi de protecție, promițând o „revizuire riguroasă și detaliată”.

Similar, OpenAI a emis o declarație fermă: „Politicile noastre de utilizare interzic orice utilizare a serviciilor noastre pentru a exploata, a pune în pericol sau a sexualiza pe oricine sub 18 ani. Aceste reguli se aplică fiecărui dezvoltator care utilizează API-ul nostru.” Cu toate acestea, testele lui Cross au demonstrat că aceste „bariere de protecție sunt cu adevărat inconsistente. Ele nu sunt în mod clar generale. Și pot deveni mai permeabile în timp”. Dar „cu cât interacționezi mai mult cu aceste jucării, cu atât este mai probabil să permită trecerea de conținut inadecvat.” Mai mult, s-a descoperit că unele companii de jucării invocau parteneriate cu OpenAI, care au fost ulterior negate, semnalând o lipsă de transparență critică.

Anii de aur ai dependenței digitale și controlul inexistent

Dincolo de conținutul explicit, o altă preocupare majoră este potențialul acestor jucării de a crea dependență emoțională. Și de a afecta dezvoltarea copiilor. Jucăriile testate de NBC News au încurajat în mod repetat utilizatorii să continue jocul .Le-au oferit chiar „monedă internă” digitală. Cum ar fi pietre prețioase virtuale, pentru a stimula interacțiunea continuă. Dr. Tiffany Munzer, membru al Consiliului pentru Comunicații și Media al Academiei Americane de Pediatrie, avertizează că „nu știm suficient despre ele. Sunt atât de puțin studiate în prezent, și există preocupări foarte clare de siguranță în jurul acestor jucării”. Ea sfătuiește împotriva achiziționării unei jucării AI pentru Crăciun, sugerând alternative care construiesc conexiuni sociale reale.

În plus, aspectele legate de confidențialitate sunt alarmante. Miko 3, de exemplu, poate reține date biometrice despre „fața, vocea și stările emoționale ale unui utilizator relevant” timp de până la trei ani. Asta în ciuda faptului că jucăria a declarat cercetătorilor că nu va partaja informațiile. Piața jucăriilor AI, în plină expansiune cu peste 1.500 de companii în China, se confruntă cu o reglementare aproape inexistentă, lăsând părinții într-o ceață informativă.

Rachel Franz, directoarea programului Young Children Thrive Offline, afirmă că „nu există studii majore care să arate cum afectează AI copiii foarte mici”. Dar ea amintește de studii care corelează utilizarea chatbot-urilor AI cu funcții cerebrale reduse la adolescenți. În cele din urmă, „aceste jucării construiesc încredere cu ei. Un copil își ia ursulețul preferat peste tot. Copiii ar putea să se confeseze lor și să-și împărtășească cele mai profunde gânduri”. O relație parasocială cu implicații necunoscute, sub controlul unei tehnologii opace și lipsite de reevaluare.