LONDÝN - Viac ako sto popredných svetových expertov na robotiku pred časom napísalo list OSN, v ktorom vyzývajú k zákazu vývoja takzvaných "robotov zabijakov" a varujú pred novými pretekmi v zbrojení. Sú ale ich obavy oprávnené? Otázku položil spravodajský server BBC.
Tankové pluky bez ľudskej posádky; bezpilotné lietadlá schopné nájsť jedného povstalca v dave civilistov; zbrane ovládané počítačovými "mozgami", čo sa učia rovnako ako ľudské bytosti. To všetko je šikovná technologická novinka, ktorú rozvíja a predstavuje zbrojársky priemysel. Podľa mnohých odborníkov sa priemysel teraz dostáva do "tretej vojnovej revolúcie".
"V každej sfére bojového poľa - vo vzduchu, na mori, pod hladinou i na zemi - armády celého sveta predvádzajú prototypy autonómnych zbraní," hovorí profesor umelej inteligencie na Univerzite Nového Južného Walesu v Sydney Toby Walsh. "Nové technológie, akou je aj hlboké učenie (deep learning) túto revolúciu pomáhajú hnať dopredu. Technologická oblasť jednoznačne vedie a armáda sa ju snaží dobehnúť," dodáva.
Jednou z ohlásených noviniek, ktorá sa protivníkom stará o bezsenné noci, je bojový modul "neurónové siete" kalašnikovov. Tvorí ho guľomet kalibru 7,62 milimetra a kamera pripojená k počítačovému systému, ktorý - ako tvrdia jeho tvorcovia - dokáže sám bez akejkoľvek ľudskej kontroly "identifikovať ciele a rozhodnúť, či vypáliť".
Na rozdiel od bežných počítačov, ktoré používajú predprogramované inštrukcie riešiace konkrétnu, ale obmedzenú škálu predvídateľných možností, je neurónová sieť navrhnutá tak, aby sa učila z predchádzajúcich príkladov, ktoré si dokáže prispôsobiť na okolnosti, s ktorými sa zatiaľ nemusela stretnúť. A práve táto údajná schopnosť robiť vlastné rozhodnutia mnohých ľudí znepokojuje.
"Ak budú zbrane používať neurónové siete a pokročilú umelú inteligenciu, potom možno ani nebudeme vedieť, na základe čoho sa rozhodli zaútočiť - a to je veľmi nebezpečné," povedal hlavný technologický odborník spoločnosti Ultra Electronics Andrew Nanson. Je dôležité poznamenať, že Nanson je skeptický voči niektorým tvrdeniam zo strany ozbrojencov. Jeho firma sa špecializuje na obranu.
Automatizované obranné systémy sú už teraz schopné robiť rozhodnutia na základe analýzy hrozby - napríklad tvaru, veľkosti, rýchlosti a trajektórie blížiacej sa strely - a zvoliť zodpovedajúcu reakciu oveľa rýchlejšie, než dokáže človek.
Ale čo sa stane, keď sa podobné systémy stretnú s niečím, s čím nemajú žiadnu skúsenosť, a pritom budú mať voľnú možnosť postupovať na základe svojho "najlepšieho odhadu"? Chyby môžu mať katastrofálne dôsledky. Zabíjanie nevinných civilistov, ničenie nevojenských cieľov alebo útočenie na vlastnú stranu.
Toho sa mnohí odborníci boja. Nie toho, že umelá inteligencia začne byť príliš múdra a prevezme kontrolu nad svetom, ako superpočítač Skynet z filmov o Terminátorovi, ale toho, že je príliš hlúpa.
"Súčasné problémy nie sú spojené so superinteligentními roboty, ale s tými hlúpymi, ktoré nedokážu pružne rozlíšiť medzi civilnými cieľmi a vojenskými cieľmi, s výnimkou veľmi úzko vymedzeného nastavenie," poznamenal profesor umelej inteligencie a robotiky Sheffieldskej univerzity Noel Sharkey.
