SOUL – Vývoj v oblasti umelej inteligencie napreduje šialenou rýchlosťou. V krajinách, kde je vedecký a technologický pokrok najrýchlejší, však môžu nastať komplikácie, na ktoré v konečnom dôsledku doplatia nevinní civilisti. Črty ktorejkoľvek tváre sa totiž môžu použiť v každom digitálnom zobrazení, bohužiaľ aj vo filmoch pre dospelých. Ide o silný nástroj vydierania.
Kde je rýchly pokrok v oblasti vývoja technológii, tam sa bohužiaľ častokrát vyskytne aj ich zneužívanie. Umelá inteligencia má v prvom rade priniesť do života ľahkosť a zjednodušenie. Pokiaľ sa jej však zmocnia tí nesprávni, namiesto poriadku máme chaos. V neposlednom rade môže ísť dokonca o zneužívanie osobných vlastností a čŕt.
Najviac postihnutá krajina
Ako informuje portál The Conversation, zneužitie umelej inteligencie môže postihnúť veľké športové či rockové hviezdy, ale aj obyčajné školáčky na prvom stupni. Nedávna správa od Security Hero priniesla desivé zistenia. Z viac ako 95-tisíc falošných videí s pornografickou tématikou boli v 53 percentách použité tváre juhokórejských speváčok a herečiek.
Naznačuje to, že Južná Kórea, ako gigant v oblasti vývoja technológii, je paradoxne deepfake-om postihnutá najviac. "Deepfake" je digitálne upravená fotografia, video alebo zvukový záznam, ktorý veľmi presvedčivo zobrazuje niekoho, kto hovorí alebo robí veci, ktoré nikdy nerobil. Medzi mladou juhokórejskou generáciou sa to rozšírilo skôr ako žart, no ide o tvrdé zneužívanie osobných vlastností a čŕt jedinca.
Napríklad na sociálnej sieti Telegram boli s použitím deepfake-u vytvorené skupinové rozhovory. Umelá inteligencia použila tvár ženy, ktorá v skutočnosti nikdy nič podobné nepraktizovala. Na internete sa pritom zobrazili fotografie nahého tela a šteklivých obrázkov, kde bolo vidieť konkrétnu "vygenerovanú" tvár. Môže ísť v podstate o kohokoľvek. Haker vie takto zneužiť tvár študentky, učiteľky či dokonca známej svetovej speváčky.
Zneužívanie
Najčastejšie sú zneužívané fotografie, ktoré ich autori/autorky uverejňujú na sociálnych sieťach. V správe sa spomínajú KakaoTalk, Instagram či Facebook. Okrem použitia tváre v rôznych videách sa môžu sociálnymi sieťami takto šíriť aj osobné údaje či telefónne čísla. Britský The Guardian uvádza, že len jeden takýto skupinový rozhovor na Telegrame je schopný prilákať viac ako 200-tisíc sledovateľov.
V Južnej Kórei je stále malý záujem o riešenie tejto vážnej problematiky. Krajina je pritom na prvom mieste vo vlastníctve smartfónov na obyvateľa a okrem toho uvádza aj najviac prepojenú internetovú sieť. Mnoho pracovných miest v krajine nahradila už umelá inteligencia. V rámci rodovej rovnosti a opatrení v oblasti ľudských práv však krajina zaostáva, uvádza Human Rights Watch.
Už v roku 2019 boli sexuálne zločiny v digitálnom priestore páchané na deťoch a dospievajúcej generácii veľkým problémom. Vtedy išlo o prípad "Nth Room", kde sa stovky mladých obetí (mnoho ešte maloletých) stali obeťami vykorisťovania intímneho obsahu. Vyvolalo to pobúrenie a široká verejnosť žiadala silnejšiu ochranu digitálneho priestoru.
Prípad vyvolal rozsiahle pobúrenie a žiada silnejšiu ochranu. Viedlo to dokonca k zavedeniu prísnejších trestov sexuálnych trestných činov. Z celkového počtu 17 495 prípadov bolo pre rok 2021 zadržaných len zhruba 28 percent delikventov.
Politické elity sú proti
Počas prezidentských volieb v roku 2022 neskorší víťaz Jun Sok-jol povedal, že "v Južnej Kórei neexistuje žiadna štrukturálna rodová diskriminácia", pričom sa zaviazal, že zruší Ministerstvo pre rodovú rovnosť a rodinu, hlavný rezort zodpovedný za predchádzanie rodovo podmienenému násiliu. Tento post je neobsadený od februára tohto roku.
V roku 2022 juhokórejské centrum na podporu digitálnej sexuálnej kriminality v Soule vyvinulo nástroj, ktorý dokáže nepretržite automaticky sledovať, monitorovať a odstraňovať falošné obrázky a videá. Táto technológia vyhrala Cenu verejnej správy OSN za rok 2024. Pomohla skrátiť čas potrebný na nájdenie falzifikátov z priemerných dvoch hodín na tri minúty.
Juhokórejská vláda dňa 30. augusta tohto roku oznámila plány na presadenie legislatívy, ktorá by kriminalizovala držbu, nákup a prezeranie "deepfakes" v celej krajine.
