O myšlence umělé inteligence, která svrhne lidstvo, se diskutovalo po celá desetiletí a v lednu 2021 vědci vynesli svůj verdikt, zda bychom mohli ovládat počítačovou superinteligenci na vysoké úrovni. Odpověď? Téměř jistě ne.
Problém je v tom, že ovládání supermysli daleko za hranicemi lidského chápání by vyžadovalo simulaci této supermysli, kterou bychom mohli analyzovat. Ale pokud tomu nejsme schopni porozumět, není možné takovou simulaci vytvořit.
Pravidla jako „neubližovat lidem“ nelze stanovit, pokud nepochopíme, s jakými scénáři umělá inteligence (AI) přijde, věří autoři článku z roku 2021. Jakmile bude počítačový systém fungovat na úrovni přesahující možnosti našich programátorů, nebudeme moci již nastavovat limity.
„Superinteligence je zásadně odlišný problém než ty, které se obvykle studují pod hlavičkou ‚robotické etiky‘,“ píší vědci. "Je to proto, že supermysl je mnohostranná, a proto potenciálně schopná mobilizovat různé zdroje k dosažení cílů, které jsou pro lidi potenciálně nepochopitelné, natož kontrolovatelné."
Část úvah týmu pochází z problémy se zastavením, navržený Alanem Turingem v roce 1936. Úkolem je zjistit, zda počítačový program dospěje k závěru a odpoví (a zastaví se), nebo se bude jen věčně poflakovat ve snaze najít odpověď.
Jak Turing s pomocí dokázal inteligentní matematika, i když to můžeme vědět u některých konkrétních programů, je logicky nemožné najít způsob, který by nám to umožnil vědět u každého potenciálního programu, který by kdy mohl být napsán. Tím se dostáváme zpět k AI, která by v superinteligentním stavu mohla do své paměti ukládat všechny možné počítačové programy současně.
Zajímavé také:
- OpenAI naučil umělou inteligenci převádět příkazy do programového kódu
- Umělá inteligence bude hledat gravitační vlny
Jakýkoli program napsaný například k tomu, aby zabránil umělé inteligenci škodit lidem a ničit svět, může, ale nemusí dojít k závěru (a zastavit se) – je matematicky nemožné si být absolutně jistý v obou směrech, což znamená, že to nelze omezit. "V zásadě to činí odstrašovací algoritmus nepoužitelným," řekl v lednu počítačový vědec Iyad Rahwan z Institutu Maxe Plancka pro lidský rozvoj v Německu.
Alternativou k výuce etiky umělé inteligence a zákazů ničení světa, kterými si žádný algoritmus nemůže být absolutně jistý, je podle výzkumníků omezení schopností supermysli. Může být například odříznut od části internetu nebo určitých sítí.
I tuto myšlenku autoři nedávné studie odmítají v domnění, že omezí záběr umělé inteligence – říkají, že pokud ji nebudeme používat k řešení problémů přesahujících lidské možnosti, tak proč ji vůbec vytvářet?
Pokud budeme umělou inteligenci posouvat kupředu, možná ani nevíme, kdy se objeví superinteligence, která je mimo naši kontrolu, je to tak nepochopitelné. To znamená, že si musíme začít klást vážné otázky o tom, kam směřujeme.
„Superinteligentní stroj, který řídí svět, zní jako sci-fi,“ říká počítačový vědec Manuel Kebrian z Institutu Maxe Plancka pro lidský rozvoj. Ale již existují stroje, které samostatně provádějí některé důležité úkoly, zatímco programátoři plně nechápou, jak se to naučili.
Nabízí se proto otázka, zda se může v určité chvíli stát pro lidstvo nekontrolovatelnou a nebezpečnou...
Přečtěte si také:
- Umělé inteligenci se podařilo reprodukovat malovaný Picassov obraz
- Umělá inteligence pomůže předvídat dopravní nehody dříve, než k nim dojde