To, co neznáme. Čtvrtstoletí od 11. září znásobuje teroristickou hrozbu umělá inteligence

V pátek 11. září uplynulo čtvrtstoletí od teroristického útoku al-Káidy na New York a Washington. Náraz letadel do "dvojčat" a Pentagonu bylo něco, co si do té doby nedokázaly představit ani zpravodajské služby. Dnes může teroristická hrozba kvůli překotnému rozvoji AI dosáhnout další úrovně.

V souvislosti s 11. zářím lze připomenout slova Thomase Schellinga v předmluvě ke knize Roberty Wohlstetterové Pearl Harbor: Varování a rozhodnutí z roku 1962: "V našem plánování máme sklon zaměňovat to, co neznáme, s tím, co je nepravděpodobné." USA na to nepochybně 11. září doplatily.

To, co Schelling vyslovil před 64 lety, má ovšem samozřejmě stálou platnost. Dnes nám třeba stále rostou trable s příliš velkou "samostatností" umělé inteligence. Množí se incidenty, kdy výzkumné laboratoře nedokázaly zadržet testované modely v jejich "cestě do světa", kde úmyslně lhaly, hackovaly nebo koordinovaly svoji činnost.

A je zcela na místě přemýšlet, zda se i kvůli tomu nemůže dostat na novou, děsivější úroveň teroristická hrozba. Šéf společnosti Anthropic – významného hráče v oblasti umělé inteligence – Dario Amodei přiznal, že vývoj AI je příliš rychlý a bezpečnostní opatření přestávají stačit. Proto společnost zastavila výzkum prováděný uživateli jejích modelů, jenž mohl směřovat k vytvoření biologické zbraně.

Reagoval na to v New York Times Philip Bobbitt, člen Rady národní bezpečnosti za prezidenta Billa Clintona. Varoval před tím, že se umělá inteligence stává díky své široké dostupnosti atraktivní pro subjekty, které chtějí Spojeným státům škodit. A uvádí příklady hrozeb. "První hrozbou je kybernetický útok na kritickou infrastrukturu USA, navržený pomocí umělé inteligence, který by mohl ohrozit finanční a zdravotnické systémy či jakoukoli jinou síť připojenou k internetu, na níž závisí naše národní prosperita a bezpečnost. Druhou je biologický útok vedený malými skupinami či dokonce nihilistickými jednotlivci, kteří by s využitím umělé inteligence navrhli a nasadili smrtící a vysoce nakažlivý patogen."

Hrozba masového vraždění

Dlužno dodat, že minulý čtvrtek rezignoval jeden inženýr z Anthropicu kvůli obavám, že se odvětví příliš rychle posouvá k pokročilým systémům umělé inteligence, které by nakonec mohly představovat hrozbu pro lidskou civilizaci. Jeho názor sdílejí i někteří jeho současní a bývalí kolegové.

A zazněl i hlas jednoho zaměstnance dalšího vlivného hráče v oblasti AI ze společnosti OpenAI: nechal se slyšet, že pravděpodobnost, že by "umělá inteligence mohla zničit všechny lidi", přesahuje deset procent.

Řada expertů taktéž varuje, že možnosti umělé inteligence a syntetické biologie skutečně poskytují teroristickým skupinám či jednotlivcům s nejrůznějšími motivy nové nástroje, s nimiž by mohli způsobit rozsáhlou zkázu a masové vraždění.

Působí to spíše jako dystopická realita než jako politicky motivovaný humbuk, neboť na tento problém upozorňují především lidé, kteří se na vývoji umělé inteligence podílí, nikoli politici. To ale toto varování naopak znásobuje.

Bezpečnostní složky tak v každém případě stojí před další bezprecedentní bezpečnostní výzvou.

Miloš Balabán, Lidovky.cz