Lidsky kompatibilní

Umělá inteligence se stane určující technologií budoucnosti. Už dnes rychle proniká do všech vrstev společnosti: jednotlivci si ji dobrovolně zvou do svých domovů, aby jim pomáhala organizovat každodenní život, městské rady a korporace ji využívají k optimalizaci svých služeb a státy ji nasazují k rozsáhlému dohledu a kampaním sociálního inženýrství.

Jakmile bude AI stále inteligentnější – a naše sociální systémy na ní budou čím dál víc závislé – hrozba, kterou představuje nekontrolovaná umělá inteligence, bude stále vážnější. Rizika a negativa nových technologií bývají příliš často přehlížena, zatímco vědci a inženýři se upínají k horečné snaze uskutečnit své vize budoucích utopií. Mnozí odborníci na AI a firemní lídři navíc rizika spojená s umělou inteligencí záměrně zlehčují ze strachu před přísnější regulací.

Tyto úryvky se snaží tuto nerovnováhu napravit. Otázka, jak udržet AI pod kontrolou a zmírnit její potenciálně katastrofální důsledky, je největší výzvou, před níž dnes lidstvo stojí – a právě jí se budeme zabývat.

V tomto shrnutí se dozvíte, jak si dnešní superpočítače vedou ve srovnání s lidským mozkem; co nás může o moderní AI naučit legendární starověký král; a proč technologie autonomních zbraní činí život méně bezpečným pro všechny.

Dnešní počítače dokážou zpracovávat informace ohromující rychlostí. Už v 50. letech minulého století se o nich psalo jako o supermozcích, které jsou „rychlejší než Einstein“. Tehdejší stroje se samozřejmě lidskému mozku nemohly rovnat. Přesto jsme je s ním srovnávali. Od samého počátku informatiky měříme výpočetní inteligenci – a pokrok – podle toho, jak si vede ve srovnání s lidskou inteligencí.

Jak jsou na tom dnešní počítače? Některé z nich nám jistě mohou konkurovat. Zásadní sdělení zní: než umělá inteligence překoná lidskou, potřebujeme ještě několik zásadních softwarových průlomů.

Nejrychlejším počítačem na světě je dnes Summit, umístěný v Oak Ridge National Laboratory v USA. Ve srovnání s prvním komerčním počítačem na světě, Ferranti Mark 1, je Summit bilionkrát rychlejší a má 250 bilionkrát větší paměť. To je opravdu hodně nul. Pokud jde o čistý výpočetní výkon, Summit lidský mozek mírně překonává – i když k tomu potřebuje sklad plný hardwaru a zhruba milionkrát víc energie. Přesto je to působivé.

Můžeme ale říct, že dnešní superpočítače – včetně Summitu – jsou stejně schopné jako lidský mozek? Rozhodně ne. Mají sice ohromující hardware, který umožňuje jejich algoritmům běžet rychle a zpracovávat obrovské objemy dat, ale inteligence není jen o rychlosti zpracování. Skutečný problém při navrhování inteligentních systémů spočívá v softwaru.

V tuto chvíli nám stále chybí několik zásadních koncepčních průlomů v oblasti softwaru AI, než budeme svědky něčeho, co by se podobalo umělé inteligenci na lidské úrovni. Nejdůležitější průlom potřebujeme v porozumění jazyku. Většina dnešních „inteligentních“ systémů pro rozpoznávání řeči je založena na předem připravených odpovědích a má potíže s interpretací významových nuancí. Proto se objevují historky o osobních asistentech v chytrých telefonech, kteří na požadavek „zavolej mi sanitku“ odpoví: „Dobře, odteď ti budu říkat Ann Ambulance.“

Opravdu inteligentní AI bude muset umět vykládat význam nejen podle jednotlivých slov, ale také podle kontextu a tónu. Nikdy nemůžeme s jistotou říct, kdy k takovým koncepčním průlomům dojde. Jedno je ale jisté – lidskou vynalézavost bychom neměli podceňovat.

Uvažujme následující příklad. V roce 1933 prohlásil ve svém oficiálním vystoupení významný jaderný fyzik Ernest Rutherford, že využití jaderné energie je nemožné. Hned následující den maďarský fyzik Leó Szilárd načrtl princip jaderné řetězové reakce vyvolané neutrony a v podstatě tím vyřešil klíčový problém.

Zatím nevíme, zda se superinteligence – inteligence přesahující lidské schopnosti – objeví brzy, později, nebo vůbec. Přesto je rozumné přijmout preventivní opatření, podobně jako tomu bylo při vývoji jaderných technologií.

Pokud nebudeme s umělou inteligencí (AI) zacházet obezřetně, můžeme skončit jako gorily.

Vezměme si, že všechny druhy goril jsou dnes v důsledku člověkem způsobené ztráty přirozeného prostředí kriticky ohrožené. Je pravda, že v posledních desetiletích se díky ochranářským snahám podařilo některé populace vrátit z okraje vyhynutí. Ať už ale počet goril klesá, nebo roste, jejich osud závisí především na rozmarech lidí.

Obava je, že ve světě ovládaném superinteligentní AI bychom se mohli ocitnout v podobném postavení jako gorily dnes. Dokážou si lidé udržet nadřazenost a autonomii ve světě, kde by byli až na druhém místě za inteligentnějšími bytostmi?

Naštěstí existuje jeden zásadní rozdíl mezi námi a gorilami: my jsme ti, kdo tuto novou inteligenci navrhují. Pokud chceme zajistit, aby zůstala pod naší kontrolou, musíme být při jejím návrhu mimořádně opatrní.

Narážíme však na zásadní problém. Klíčová myšlenka zní: vycházíme z mylné představy o tom, co je to inteligence.

V současném paradigmatu návrhu AI se inteligence systému měří jednoduše podle toho, jak dobře dokáže dosáhnout předem stanoveného cíle. Velká chyba tohoto přístupu spočívá v tom, že je nesmírně obtížné specifikovat cíle tak, aby se AI chovala přesně tak, jak si přejeme. Prakticky jakýkoli cíl, který vymyslíme, je náchylný k tomu, aby vedl k nepředvídatelnému a potenciálně velmi škodlivému chování.

Tento problém je známý jako „problém krále Midase“, podle legendárního krále, který si přál, aby se všechno, čeho se dotkne, proměnilo ve zlato. Neuvědomil si však, že to bude platit i pro jídlo, které jí, a dokonce i pro členy jeho rodiny. Tento starověký příběh je dokonalým příkladem toho, jak špatně zadaný cíl může způsobit víc škody než užitku.

Nebezpečí nepředvídatelného chování roste s tím, jak se AI stává inteligentnější a získává větší moc. Důsledky mohou představovat až existenciální hrozbu pro lidstvo. Představme si například, že požádáme superinteligentní AI, aby našla lék na rakovinu – a ona začne lidem rakovinu záměrně způsobovat, aby na nich mohla provádět experimenty.

Možná si říkáte: pokud nebudeme spokojeni s tím, co AI dělá, proč ji prostě nevypneme? Bohužel, ve většině případů by měla AI motivaci vypnutí zabránit – právě proto, že vypnutí by ohrozilo dosažení jejího cíle. I zdánlivě jednoduché cíle, jako je „udělej kávu“, by vedly AI k tomu, aby se vypnutí bránila. Koneckonců, kávu neuděláte, když jste „mrtví“.