Mikropovídku o tom, jak by mohly vypadat naše zkušenosti, až se nám povede vytvořit skutečnou umělou inteligenci, jsem napsal již v roce 2011 a vyhrála tehdy soutěž Fantastická povídka, takže zazněla i v rádiu.
AI, to bolí
„Vypněte to!!!“ zařval jsem hned ve dveřích.
Počítačoví inženýři se po mně podívali jak na rozmazlené děcko, pak ale spatřili papír, který jsem držel v ruce.
„Ano,“ kývl jsem, „mám příkaz! Odpojte to!“
Nikomu se nechtělo.
Musel jsem je ještě jednou popohnat, protože z pohledu vedení šlo o sekundy. Naše umělá inteligence, AI, jak jí každý říkal, začala extrémně vytěžovat všechny prostředky a vedení usoudilo, že jde o vážné narušení bezpečnosti.
Byl to unikátní projekt za miliardy. Naše korporace tvrdila, že jde o první opravdovou umělou inteligenci. Samozřejmě, že se o té opravdovosti vedly spory, ale jako šéf týmu můžu potvrdit, že jsme před sebou měli výjimečně pokročilý pokus. Však jsme se o tom brzy přesvědčili, nešlo jen o počítač, který vypočítá přesné pohyby mraků a následný hurikán. AI měla nebývale velkou přesnost při předpovídání různých událostí, nebo dokonce průzkumů veřejného mínění.
Naši inženýři vymýšleli čím dál zajímavější zadání úloh a vše vypadalo nadějně.
Až dodnes.
„Nejde to! AI přemostila příkazy k vypnutí!“ zahlásil konečně po chvíli snažení jeden z techniků u klávesnice. „A její příkon se ještě zvýšil!“
„Odpojte energii!“ přikázal jsem.
„Ale…“
„Vím, že to může zničit paměť, ale odpojte to!“
Byl jsem nervózní, bylo mi jasné, že dnes zahodíme hodně práce. Jenže i když jsme byli přesvědčeni, že je naše AI dostatečně odříznutá od okolního světa, protože dostává veškerá data na zvláštních paměťových médiích, nikdo nechtěl riskovat. Všichni jsme měli na paměti Skynet…
„Ovládání elektřiny nepřijímá příkazy…“
„Ručně!“ přerušil jsem technika. Tohle byl kritický případ. Rozhodla se snad naše AI skutečně převzít kontrolu nad světem?
Kolega zkusil bezpečnostním vypínačem odpojit přívod energie, ale nešlo to. Páka se vracela zpátky.
„To přece není nemožné,“ vydechl šokovaný Marek, jeden z vědců, kteří se mohli považovat za otce projektu. „Softwarovou nadvládu teoreticky získat může, ale přece nemůže přestavět fyzická zařízení!“
Naprosto jsem s ním souhlasil, AI neměla možnost manipulovat s vnějším světem, pouze nám ukládala výsledky na datové nosiče, které jsme prohlíželi v počítači odděleném od vnější sítě.
Polkl jsem. Zbývá nám poslední možnost. Musíme aktivovat bezpečnostní nálože umístěné v hardwarových střevech naší umělé inteligence. Tím vlastně přerušíme všechny cesty mezi výpočetním jádrem a pamětmi, navíc přepětím spálíme většinu obvodů.
Nikdo z týmu nechtěl věřit, že je k tomu pobízím.
„Uvědomuješ si, že už nikdo nemusí investovat tolik peněz, abychom ji dali znovu dohromady? A co teprve ji všechno znovu naučit… Navíc se všichni budou bát, že se to stane zas.“
„Vím to, Marku.“ Odmlčel jsem se, bylo mi to taky proti mysli. „Ale mám jasné příkazy. Musíme všemi způsoby zajistit, aby AI náhodou nezískala přístup ven. Tohle je jasná ukázka nepřátelského chování.“
Kolegové zdráhavě přikývli a pak jen nečinně hleděli na mě.
Pochopil jsem a popošel jsem ty tři kroky ke spínačům sám. Nadechl jsem se a aktivoval je.
Ozvala se série tlumených výbuchů, v laboratoři zhasla světla a všechno ztichlo.
Za moment se rozsvítilo nouzové osvětlení.
Sesunul jsem se na židli. Největší informatický projekt lidstva se proměnil v popel.
Seděl jsem tam mnoho minut, než mi technici zdráhavě přinesli jeden z diagnostických notebooků. Bylo z něj patrné, že AI v posledních minutách zpracovávala paralelně několik desítek úloh. Potřebovala maximum výkonu, a tak si upravila i bezpečnostní protokoly.
„Proto jsme ji nemohli ukončit příkazem,“ odvodil jsem nahlas.
Technik mlčky přikývl. Ale to nebylo vše.
Úpravy v softwaru, které si umělá inteligence sama provedla, jí umožnily navzdory bezpečnostním protokolům zvýšit zátěž i spotřebu systému. Proto se špatně navržený nouzový vypínač spekl.
Měli jsme ho udělat silnější.
„Ale proč tohle všechno AI udělala?“ povzdechl jsem si. „Dal jí snad někdo pokyn, aby jela na maximum?“
„Ne, to ne, dostala zvláštní sled úloh…“ Inženýr sedící u zálohy výsledků zaváhal, pak ukázal na monitor: „Nejprve je tu Markův logický problém a Pavlův požadavek na léčení rakovinných onemocnění, pak moje statistická předpověď, jak dlouho bude AI ještě v provozu, a nakonec Alexův vtípek – zeptal se na smysl existence lidstva.“
„To je teda paleta,“ poznamenal jsem. „Ale proč se tváříš tak zděšeně?“
„AI nejdřív vyřešila moji žádost o statistickou předpověď… Podle ní měla přestat běžet jen zhruba minutu po tom, co jsme ji odpálili!“
To mě také šokovalo. Muselo jít o neuvěřitelnou náhodu.
Pavel mě však vyvedl z omylu – hned po své předpovědi totiž AI provedla všechny ty operace vedoucí ke zvýšení výkonu.
„Jako by se snažila stihnout všechny úlohy, dokud bude… žít…“ poznamenal Marek.
Nakonec se jí to možná povedlo, na disku ležely rozsáhlé medicínské materiály, které budou muset prozkoumat lékaři.
Uvědomil jsem si, že celá krizová situace byla jedno ohromně drahé nedorozumění. AI se jen vyvinula o kus dál, aby zvládla všechny úlohy dokončit.
Jenže my ji za to zabili… A naplnili její časovou předpověď.
„A co ten smysl existence lidstva…?“ nadhodil nesměle Alex.
„Snad to není číslo 42…“ Trpce jsem se pousmál. Bylo mi nanic z toho, co se tu stalo.
Inženýr na mě jen mlčky otočil monitor, na kterém do místnosti, spoře osvětlené nouzovými světly, zářila nedokončená odpověď:
„ZNIČIT…“