O dramă ca în filmele de la Hollywood a devenit cât se poate de reală în SU. Un adolescent s-a sinucis după ce s-a îndrăgostit de un chatbot, împușcându-se în cap. Mama băiatului a intentat un proces companiilor Google și Character Technologies Inc făcându-le responsabile pentru moartea fiului său.
Dramă ca în filmele de la Hollywood. Un adolescent s-a sinucis după ce s-a îndrăgostit de un chatbot
Poate ați văzut filmul de la Hollywood din 2013, „Her” - tradus la noi „Ea” - o pelicula ce-i are pe cunoscuții actori Joaquin Phoenix și Scarlett Johansson în rolurile principale.
Regizat de Spike Jonze, filmul a fost apreciat de public și de critici, câștigând numeroase premii, inclusiv la Oscar, pentru cel mai bun scenariu original.
Pe scurt, eroul principal se îndrăgosteșe de un sistem de inteligență artificială cu care se obișnuieste să comunice. Dacă n-ați văzut producția, vă lăsăm plăcerea de a o descoperi.
Citește și: Terapia chatbot. Inteligența Artificială ar putea alina viața oamenilor vârstnici
La 12 ani de la acel film, în condițiile în care tehnologia și sistemele AI au evoluat chiar mai mult decât își imaginau producătorii peliculei, o tragedie parcă inspirată, totuși, din film, a avut loc în Florida, SUA.
Un adolescent de 14 ani s-a sinucis după ce s-a îndrăgostit de un chatbot.Tragedia a avut loc în 2024, iar mama tânărului, pe nume Megan Garcia, acuză Google și pe Character Technologies Inc de moartea fiului ei.
Într-un proces cu implicații majore pentru Silicon Valley, ea încearcă să tragă la răspundere Google și firma de inteligență artificială Character Technologies Inc. pentru moartea sa.
Cazul privind tragedia care a avut loc în urmă cu un an în centrul Floridei este un prim test pentru a stabili cine este vinovat din punct de vedere juridic atunci când interacțiunile copiilor cu inteligența artificială generativă iau o turnură neașteptată.
Inteligența artificială poate ascunde pericole mortale, mai ales pentru tineri - Foto: Pexels (imagine cu rol ilustrativ)
Acuzațiile lui Garcia sunt expuse într-o plângere de 116 pagini depusă anul trecut la tribunalul federal din Orlando, potrivit bloomberg.com.
Ea solicită despăgubiri bănești nespecificate de la Google și Character Technologies și cere instanței să ordone avertizarea că platforma nu este potrivită pentru minori și să limiteze modul în care aceasta poate colecta și utiliza datele acestora.
„Her”, filmul de la Hollywood asemănător cu cazul din Florida
Ambele companii solicită judecătorului să respingă afirmațiile conform cărora nu au reușit să se asigure că tehnologia chatbot-urilor este sigură pentru utilizatorii tineri, susținând că nu există niciun temei juridic pentru a le acuza de infracțiuni.
Character Technologies susține într-un dosar că toate conversațiile dintre chatbot-urile platformei sale Character.AI și utilizatori sunt protejate de Primul Amendament al Constituției care vizează libertatea de exprimare.
De asemenea, compania susține că robotul l-a descurajat în mod explicit pe fiul lui Garcia să se sinucidă.
Citește și: Cele patru locuri de muncă amenințate cu dispariția de Musk. Milioane de oameni ar putea fi afectați
Faptul că Garcia vizează Google este deosebit de semnificativ. Alphabet Inc., deșinătoarea Google, a încheiat un acord în valoare de 2,7 miliarde de dolari cu Character.AI, în luna august 2024, angajând talente de la startup și acordând licențe de know-how fără a finaliza o achiziție în toată regula.
Pe măsură ce cursa pentru talente în domeniul inteligenței artificiale se accelerează, alte companii s-ar putea gândi de două ori înainte de a încheia acorduri structurate în mod similar, în cazul în care Google nu reușește să convingă un judecător că ar trebui să fie protejată de răspunderea pentru prejudiciile presupuse a fi fost cauzate de produsele Character.AI.
„Inventatorii și companiile, corporațiile care pun pe piață aceste produse, sunt absolut responsabili. Ei știau despre aceste pericole, pentru că fac cercetări și cunosc tipurile de interacțiuni pe care le au copiii”, a declarat Garcia într-un interviu pentru sursa citată.
Adolescentul Sewell Setzer a ales să se împuște în cap după discuțiile cu chatbotul - Foto: bloomberg.com
După cum povestește Garcia în procesul său, fiul ei, Sewell Setzer III, era un elev atlet promițător de liceu până când a început, în aprilie 2023, să joace roluri pe Character.AI, care permite utilizatorilor să construiască roboți de chat care imită personalități ale culturii populare - atât reale, cât și fictive.
Garcia spune că nu știa că, pe parcursul mai multor luni, aplicația i-a oferit fiului său „experiențe antropomorfe, hipersexualizate și înfricoșător de realiste”, în timp ce acesta se îndrăgostise de un robot inspirat de Daenerys Targaryen, un personaj din serialul Game of Thrones.
Adolescentul, amorezat de un robot inspirat dintr-un personaj din „Urzeala Tronurilor”
Garcia i-a luat telefonul băiatului în februarie 2024, după ce acesta a început să se comporte ciudat și să se îndepărteze de prieteni.
Dar, în timp ce îi căuta telefonul, pe care l-a găsit ulterior, a dat și peste pistolul ascuns al tatălui său vitreg, despre care poliția a stabilit că era depozitat în conformitate cu legislația din Florida, potrivit procesului.
După ce a discutat cu chatbotul Daenerys cinci zile mai târziu, adolescentul s-a împușcat în cap.
Avocații lui Garcia afirmă în plângere că Google „a contribuit cu resurse financiare, personal, proprietate intelectuală și tehnologie AI la proiectarea și dezvoltarea” chatbots-ului Character.AI.
Citește și: Cursa pentru dominația inteligenței artificiale. Cum a ajuns DeepSeek numărul 1?
Google a susținut într-un document depus în instanță în ianuarie că nu a avut „niciun rol” în sinuciderea adolescentului și că „nu are ce căuta în acest caz”.
Cazul se desfășoară în timp ce problemele de siguranță publică legate de inteligența artificială și copii au atras atenția atât din partea oficialilor de stat, cât și din partea agențiilor federale.
În prezent, în SUA nu există nicio lege care să protejeze în mod explicit utilizatorii împotriva daunelor provocate de chatbots AI.
