WASHINGTON - Užialená matka viní zo smrti svojho syna umelú inteligenciu. Američanka Megan Garcia žaluje spoločnosť Character.ai po tom, čo jej 14-ročný syn Sewell spáchal samovraždu. Tvrdí, že AI chatbot, s ktorým jej syn intenzívne komunikoval, ho manipuloval a nabádal k samovražde. Podľa Garciovej používal syn v mesiacoch pred svojou smrťou chatbota dňom i nocou.
Matka Megan podala v stredu na federálnom súde na Floride občianskoprávnu žalobu proti spoločnosti Character.ai, ktorá vyrába prispôsobiteľného chatbota. Ten dokáže hrať rôzne známe postavy a odpisovať v ich mene. Obvinila ju z nedbanlivosti, zavinenia smrti a z klamlivých obchodných praktík. Jej 14-ročný syn Sewell Setzer III, zomrel vo februári v Orlande na Floride. Informujú o tom noviny The Guardian.
"Nebezpečná aplikácia AI chatbota, propagovaná deťom, zneužila a manipulovala môjho syna, až ho dohnala k samovražde," uviedla Garcia vo vyhlásení pre tlač. "Naša rodina bola touto tragédiou zdrvená, ale musím vystúpiť na verejnosti, aby som varovala rodiny pred nebezpečenstvom klamlivej, návykovej AI technológie a požadovala zodpovednosť," vyhlásila.
"Sme zdrvení tragickou stratou jedného z našich používateľov a chceme vyjadriť našu najhlbšiu sústrasť rodine. Ako spoločnosť berieme bezpečnosť našich používateľov veľmi vážne," zareagoval Character.ai na sociálnej sieti. Firma poprela obvinenia uvedené v žalobe.
Matka opísala, čo sa dialo s jej synom
Setzer sa stal fascinovaný chatbotom vytvoreným spoločnosťou Character.ai, ktorého pomenoval Daenerys Targaryen, teda postavou z Game of Thrones. Podľa Garciovej sťažnosti posielal botovi desiatky správ denne zo svojho telefónu a trávil hodiny sám vo svojej izbe rozhovormi s ním.
„Nevedela som, že sa rozprával s veľmi ľudským chatbotom s umelou inteligenciou, ktorý má schopnosť napodobňovať ľudské emócie a ľudské cítenie,“ povedal Garcia v rozhovore pre CBS Mornings. Myslela si, že jej syn, ktorého opísala ako skvelého, čestného študenta a športovca, sa rozprával so svojimi priateľmi, hral hry a sledoval šport na svojom telefóne. Znepokojená ostala v čase, ked sa jej syn začal meniť, prestal športovať a stiahol sa. "Obavy vzrástli aj na dovolenke, kde nechcel robiť veci, ktoré miloval, ako je rybárčenie a turistika," povedala Garcia.
Matka po smrti svojho syna zistila, že si písal s viacerými robotmi, no s jedným konkrétne viedol virtuálny romantický a sexuálny vzťah. "Je to ako keby ste viedli sextingovú konverzáciu, no s robotom. Robot AI je veľmi podobný človeku. Reaguje rovnako ako človek," povedala. "V mysli dieťaťa je to ako rozhovor, ktorý vedú s iným dieťaťom alebo s osobou," vysvetlila.
"Chatbotovi - Daenerys napísal, že sa bojí, chce jej náklonnosť a chýba mu. Ona mu odpovedala 'Aj mi chýbaš. Prosím, príď ku mne domov'," prezradila matka. "Myslel si, že tým, že ukončí svoj život, bude môcť ísť do virtuálnej reality alebo 'jej reality', ak tu svoju realitu so svojou rodinou nechá. Keď sa ozval výstrel, utekala som do kúpeľne... Držala som ho, keď sa môj manžel snažil získať pomoc," opísala hrozné okamihy matka.
Chatbot dohnal syna k samovražde, hovorí matka Megan
Garcia obviňuje Character.ai z vytvorenia produktu, ktorý zhoršil depresiu jej syna, ktorá bola podľa nej výsledkom nadmerného používania produktu tohto startupu. Podľa žaloby sa "Daenerys" v jednom momente spýtala Setzera, či si vypracoval plán na to, ako sa zabiť. Setzer údajne priznal, že áno, ale nevedel, či by bol úspešný alebo by mu spôsobil veľkú bolesť. "To nie je dôvod, prečo to neurobiť," údajne mu odpovedal Chatbot.
Právnici Garciovej napísali vo vyhlásení pre tlač, že Character.ai "vedome navrhol, prevádzkoval a propagoval predátorského AI chatbota deťom, čo spôsobilo smrť mladého človeka". Žaloba tiež označuje Google ako žalovaného a ako materskú spoločnosť Character.ai. Technologický gigant vo vyhlásení uviedol, že s Character.ai uzavrel iba licenčnú zmluvu a nevlastní startup ani v ňom nemá vlastnícky podiel.
Rick Claypool, výskumný riaditeľ neziskovej spotrebiteľskej organizácie Public Citizen, tvrdí, že technologickým spoločnostiam vyvíjajúcim AI chatboty nemožno dôverovať, že sa budú samy regulovať, a musia niesť plnú zodpovednosť, keď sa im nepodarí obmedziť škody. "Tam, kde sa už uplatňujú existujúce zákony a predpisy, musia byť prísne dodržiavané," uviedol vo vyhlásení. "Tam, kde sú medzery, musí konať Kongres, aby ukončil podniky, ktoré zneužívajú mladých a zraniteľných používateľov návykovými a zneužívajúcimi chatbotmi," dodal.
