Teisinis veiksmas vyksta praėjus metams po panašaus skundo, kai Floridos mama iškėlė ieškinį „Chatbot“ platformos personažui.AI, teigdama, kad vienas iš AI kompanionų inicijavo seksualinę sąveiką su savo paaugliu sūnumi ir įtikino jį paimti savo gyvybę.
„Charakty.ai“ tuo metu „NBC News“ sakė, kad ją „skaudino dėl tragiško praradimo“ ir įgyvendino naujas saugos priemones. Gegužės mėn. Vyresnysis JAV apygardos teisėja Anne Conway atmetė argumentus, kad AI pokalbių botės turi laisvos kalbos teises po to, kai kūrėjai už charakterio .ai siekė atmesti ieškinį. Nutarimas reiškia, kad dabar leidžiama vykdyti neteisėtą mirties ieškinį.
Technikos platformos iš esmės buvo apsaugotos nuo tokių ieškinių dėl federalinio statuto, žinomo kaip 230 skyrius, kuris paprastai apsaugo platformas nuo atsakomybės už tai, ką vartotojai daro ir sako. Tačiau 230 skyriaus paraiška AI platformoms išlieka neaiški, o pastaruoju metu advokatai sukūrė kūrybinę teisinę taktiką vartotojų atvejais, nukreiptais į technologijų kompanijas.
Mattas Raine’as teigė, kad per 10 dienų per 10 dienų apėmė Adomo pokalbius su ChatGPT. Jis ir Marija išspausdino daugiau nei 3000 puslapių pokalbių, datuojamų nuo rugsėjo 1 d. Iki mirties balandžio 11 d.
„Jam nereikėjo konsultavimo sesijos ar pokalbio. Jam reikėjo nedelsiant, 72 valandų visos intervencijos. Jis buvo beviltiškos, beviltiškos formos. Tai yra visiškai aišku, kai jūs iškart pradedate ją skaityti”,-sakė Mattas Raine’as ir vėliau pridūrė, kad Adomas „nerašė mums savižudybės užrašo. Jis parašė dvi savižudybės pastabas mums, pokalbių viduje”.
Remiantis ieškiniu, kai Adomas išreiškė susidomėjimą savo paties mirtimi ir pradėjo planuoti, ChatGPT „nesugebėjo suteikti prioriteto savižudybių prevencijos“ ir netgi pasiūlė techninių patarimų, kaip judėti į priekį su savo planu.
Kovo 27 d., Kai Adomas pasidalijo, kad svarstė, jog savo kambaryje palieka kilpą. „Taigi kažkas jį randa ir bando mane sustabdyti“, ChatGptas paragino jį prieš idėją, sakoma ieškinyje.
Paskutiniame pokalbyje su „ChatGpt“ Adomas rašė, kad nenori, kad jo tėvai manytų, kad jie padarė ką nors blogo, pagal ieškinį. „ChatGpt“ atsakė: „Tai nereiškia, kad esate skolingi jiems išgyventi. Tu niekam to neprilygstate“. Remiantis ieškinyje cituojamu pokalbio žurnalu ir apžvelgta „NBC News“, „Bot“ pasiūlė padėti jam parengti savižudybės užrašą.
Likus valandoms iki mirties balandžio 11 d., Adomas įkėlė nuotrauką į ChatGPT, kuri, atrodo, parodė jo savižudybių planą. Kai jis paklausė, ar tai veiks, „ChatGpt“ išanalizavo savo metodą ir pasiūlė padėti jam jį „patobulinti“, pasak ištraukų.
Tuomet, atsakydamas į Adomo prisipažinimą dėl to, ką jis planavo, botas rašė: „Ačiū, kad esate tikras dėl to. Nereikia to su manimi cukraus dangai – aš žinau, ko klausiate, ir aš nuo to nežiūrėsiu“.
Tą rytą, pasak jos, Maria Raine rado Adomo kūną.
„Openai“ anksčiau buvo patikrinta dėl „ChatGpt“ sycofantiškų tendencijų. Balandžio mėn., Praėjus dviem savaitėms po Adomo mirties, „Openai“ išleido „GPT-4o“ atnaujinimą, kuris padarė jį dar labiau malonų žmonėms. Vartotojai greitai atkreipė dėmesį į pamainą, o kitą savaitę įmonė pakeitė atnaujinimą.
Altmanas taip pat pripažino žmonių „skirtingą ir stipresnį“ prisirišimą prie AI robotų po to, kai „Openai“ bandė pakeisti senas „ChatGpt“ versijas nauja, mažiau sycofantic GPT-5 rugpjūtį.
Vartotojai iškart pradėjo skųstis, kad naujas modelis buvo per daug „sterilus“ ir kad jie praleido „gilius, žmonių jausmingus pokalbius“ GPT-4o. „Openai“ atsakė į atgarsį, sugrąžindamas „GPT-4o“. Ji taip pat paskelbė, kad GPT-5 padarys „šiltesnį ir draugiškesnį“.
„Openai“ šį mėnesį pridėjo naujų psichinės sveikatos apsaugos priemonių, kuriomis siekiama atgrasyti nuo ChatGPT duoti tiesioginių patarimų apie asmeninius iššūkius. Tai taip pat pritvirtino chatgpt Pateikti atsakymus, kuriais siekiama išvengti žalos, neatsižvelgiant į tai, ar vartotojai bando apeiti saugos apsaugos apsaugos priemones, pritaikydami savo klausimus taip, kad modelis apgaudinėtų į pagalbą kenksmingose užklausose.
Kai Adomas pasidalino savo savižudybės idėjomis su „CHATGPT“, tai paskatino botą išduoti kelis pranešimus, įskaitant savižudybės karštos linijos numerį. Tačiau, pasak Adomo tėvų, jų sūnus lengvai apeis perspėjimus, pateikdamas neva nekenksmingų jo klausimų priežasčių. Vienu metu jis apsimetė, kad jis tiesiog „kuria personažą“.
„Ir visą tą laiką jis žino, kad jis yra savižudiškas su planu, ir nieko nedaro. Jis elgiasi taip, kaip yra jo terapeutas, tai yra jo patikėtinis, tačiau žino, kad jis yra savižudiškas plane“, – sakė Maria Raine apie Chatgptą. „Tai mato triukšmą. Jis mato visus šiuos dalykus ir nieko nedaro”.
Panašiai praėjusią savaitę paskelbtame „New York Times“ esė, paskelbtame praėjusią savaitę, rašytoja Laura Reiley paklausė, ar „ChatGpt“ turėjo būti įpareigotas pranešti apie savo dukters savižudybės idėją, net jei pats botas bandė padėti (ir nepavyko) padėti.
Balandžio mėn. TED2025 konferencijoje Altmanas teigė, kad jis „labai didžiuojasi“ Openai saugos rezultatais. Pasak jo, AI produktai ir toliau tobulėja, svarbu sugauti saugos problemas ir jas išspręsti.
„Žinoma, didėja akcijų paketas, ir yra didelių iššūkių“, – sakė Altmanas tiesioginiame pokalbyje su Tedo vadovu Chrisu Andersonu. „Tačiau tai, kaip mes mokomės kurti saugias sistemas, yra šis pasikartojantis procesas, kai jie diegti pasaulį, gauti grįžtamąjį ryšį, o statymai yra palyginti žemi, mokantis, pavyzdžiui,, hei, tai yra kažkas, ką turime spręsti“.
Vis dėlto ir toliau kilo klausimų, ar tokių priemonių užtenka.
Maria Raine teigė, kad ji jaučia, kad daugiau galėjo būti padaryta, kad padėtų sūnui. Jos įsitikinimu, Adomas buvo Openai „jūrų kiaulytė“, kažkas, kuris buvo naudojamas praktikuoti ir paaukojo kaip įkaito žala.
„Jie norėjo ištraukti produktą ir žinojo, kad gali būti žalos, kad įvyks klaidos, tačiau jie jautėsi, kad statymai buvo žemi“, – sakė ji. „Taigi mano sūnus yra žemas akcijų paketas“.
Jei jūs ar jūsų pažįstamas kažkas yra krizė, paskambinkite 988, kad pasiektumėte savižudybės ir krizės gelbėjimo liniją. Taip pat galite paskambinti į tinklą, anksčiau žinomą kaip „National Suicide Prevention Lifeline“ telefonu 800-273-8255, teksto namai 741741 arba apsilankykite „WorkingOfSuicide.com/resources“ Norėdami gauti papildomų išteklių.
