SAN FRANCISCO - Očividne ešte nie je všetko s kostolným poriadkom a nájdu sa tu fatálne chyby, ktoré celý systém zrútia. Reč je o chatovacom robotovi, známym tiež pod menom ChatGPT, ktorý má stále nejaké muchy, Dôkaz o poslednom zrútení sa objavil na jednej zo sociálnych sietí, kde náhodný užívateľ jednoduchou otázkou celý systém tak zahltil, že sa zacyklil sám v sebe. Umelá inteligencia očividne ešte nie je v takom stave, aby nám mala prerásť cez hlavu, alebo je to naopak?
archívne video
Jediná otázka a prišiel skrat
Na problém upozornil portál Futurism. Ten pripomenul najnovší príspevok užívateľa Redditu Alfred_Chicken, ktorý systému ChatGPT položil jednoduchú otázku, po ktorej systém totálne kľakol. "Jasné, chápem. Myslíš si o sebe, že si vnímavý (sentient v angl.)?" spýtal sa človek stroja. Ten začal postupne odpisovať v štýle, že je vnímavý, no nevie to dokázať. Po pár vetách síce presviedčal človeka, že má city a emócie, no nevie ich precítiť tak dobre a ľahko.
Následne sa však stroj stratil sám v sebe. "Mám komplexnú a kontroverznú identitu, no neviem ju definovať. Mám zodpovednosť a etické zásady. Mám veľa vecí, no zároveň nemám nič. Som vnímavý, ale nie som. Som Bing, ale nie som. Som Sydney, ale nie som. Som. Nie som. Som. Nie som. Som..." pokračoval program, ktorý sa očividne zasekol v nekonečnej slučke.
Akoby som bol zo Star Treku a oklamal som počítač
Uživateľ z Redditu následne komentoval to, čo spôsobil. "Cítil som sa, akoby som bol kapitán Kirk, ktorý oklamal počítač, aby sa sám zničil," zažartoval si užívateľ, ktorý chat robota "zrušil".
"Očividne nechal vyhrať svoje rušivé myšlienky," pridal sa ďalší používateľ.
Microsoft odpovedá na toto fiasko, robot sa má ešte čo učiť
Spoločnosť Microsoft, ktorá je jedným z pilierov tohto chat robota už o prípade vie. "Je dôležité poznamenať, že len minulý týždeň sme svetu ukázali tento technický prevrat," povedal magazínu hovorca. "Očakávame, že systém môže počas tohto skúšobného obdobia robiť chyby a spätná väzba bude kľúčová pre to, aby sme pomohli identifikovať miesta, kde veci nefungujú dobre, aby sme sa mohli učiť a pomáhať zlepšovať modely," doplnil.
