Život 3.0

Co přinese budoucnost

Po tisíce let se život na Zemi zdokonalovat a vyvíjel. Žádný živočišný druh toho není lepším příkladem než člověk.

Max Tegmark si představuje, že nyní směřujeme k poslednímu evolučnímu stupni: životu 3.0. V této éře lidstva bude technologie žít samostatně, navrhovat svůj vlastní hardware i software a důsledky pro samotnou existenci lidstva budou nedozírné.

Takový umělý život na Zemi zatím neexistuje. Stojíme však před vznikem nebiologické inteligence, obecně známé jako umělá inteligence (AI).

V těchto kapitolách se vydáte na cestu mapující možné verze budoucnosti. Dozvíte se také, co přesně se na vzniku AI podílí a jak se AI liší od lidské inteligence. Na této cestě se také budete potýkat s některými z největších filozofických otázek týkajících se toho, co znamená být člověkem.

Umělá inteligence je možná budoucností života, ale jsou na to různé názory

Příběh o tom, jak vznikl život na Zemi, je dobře známý. Přibližně před 13,8 miliardami let vznikl při velkém třesku náš vesmír. Poté, asi před 4 miliardami let, se atomy na Zemi uspořádaly tak, aby se mohly zachovávat a replikovat. Vznikl život.

Jak autor předpokládá, život lze rozdělit do tří kategorií podle stupně sofistikovanosti.

První stadium života, život 1.0, je jednoduše biologické.

Vezměme si bakterii. Každý aspekt jejího chování je zakódován v její DNA. Je nemožné, aby se během svého života učila nebo měnila své chování. K učení nebo zdokonalování se nejvíce v tomto stadiu přibližuje evoluce, ale ta trvá mnoho generací.

Druhé stadium je kulturní, život 2.0.

Sem patří i lidé. Náš „hardware“ neboli tělo se vyvinulo stejně jako u bakterie. Ale na rozdíl od jednodušších forem života můžeme během života získávat nové poznatky. Vezměme si třeba učení se jazyku. Můžeme si přizpůsobovat a přepracovávat myšlenky, které bychom mohli nazvat naším „softwarem“. A na základě těchto znalostí se rozhodujeme.

Posledním stadiem je teoretický život 3.0, forma technologického života schopná navrhovat svůj hardware i software. Ačkoli takový život na Zemi zatím neexistuje, nástup nebiologické inteligence v podobě technologií AI to může brzy změnit.

Zastánce různých názorů na umělou inteligenci lze rozdělit podle toho, co si myslí o vlivu tohoto vznikajícího oboru na lidstvo.

Zaprvé jsou to digitální utopisté. Ti se domnívají, že umělý život je přirozeným a žádoucím dalším krokem evoluce.

Zadruhé jsou to technoskeptici. Ti, jak už název napovídá, nevěří, že umělý život bude mít v dohledné době nějaký vliv.

A konečně je tu hnutí za prospěšnou umělou inteligenci. Tito lidé nejsou přesvědčeni o tom, že umělá inteligence nutně přinese lidem výhody. Proto prosazují, aby byl výzkum AI cíleně zaměřen na možné pozitivní výsledky pro všechny.

Lidé nejsou jediní, kdo disponuje pamětí a inteligencí, umí počítat a učit se

Co nás dělá lidmi? Naše schopnost myslet a učit se? Někdo by si to mohl myslet.

Výzkumníci v oblasti umělé inteligence však mají většinou opačný názor. Tvrdí, že schopnost pamatovat si, počítat, učit se a inteligence nemají nic společného s lidským tělem a krví, natož s atomy uhlíku.

Začněme s inteligencí. Ačkoli neexistuje žádná všeobecně přijímaná jednotná definice, autor rád uvažuje o inteligenci jako o „schopnosti dosahovat komplexních cílů“.

Stroje nás možná stále častěji dokážou překonat v určitých úkolech, jako je například hraní šachů, ale lidská inteligence je jedinečně široká. Může zahrnovat dovednosti, jako je učení se jazykům a řízení vozidel.

Nicméně i když umělá obecná inteligence (AGI) zatím neexistuje, je jasné, že inteligence není jen biologická schopnost. I stroje mohou plnit složité úkoly.

Inteligence – stejně jako schopnosti pamatovat si, počítat a učit se – je tzv. substrátově nezávislá. To znamená, že jde o nezávislou vrstvu, která neodráží základní hmotný substrát ani na něm nezávisí.

Tak například lidský mozek dokáže ukládat informace, ale to samé umí i diskety, CD, pevné disky, úložiště dat SSD a flashky, přestože nejsou ze stejného materiálu.

Než se však dostaneme k tomu, co to znamená pro programování, musíme pochopit, co to programování je.

Programování zahrnuje transformaci informací. Takže slovo „ahoj“ může být transformováno na posloupnost nul a jedniček.

Pravidlo nebo vzorec, který tuto transformaci určuje, je však nezávislý na hardwaru, který ji provádí. Důležité je samotné pravidlo nebo vzorec.

To znamená, že učit se mohou nejen lidé – stejná pravidla a vzorce mohou existovat i mimo lidský mozek. Výzkumníci v oblasti umělé inteligence učinili obrovský pokrok ve vývoji strojového učení: strojů, které mohou vylepšovat svůj vlastní software.

Pokud tedy paměť, učení, počítání a inteligence nejsou specificky lidské, co přesně nás dělá lidmi? Vzhledem k rychlému tempu, kterým pokračuje výzkum v oblasti umělé inteligence, bude odpověď na tuto otázku stále obtížnější.

Očekávejme, že umělá inteligence brzy vstoupí do našich životů

Stroje nejsou pro lidi ničím novým. K manuálním úkonům je používáme již po tisíciletí. Pokud definujete svou hodnotu podle kognitivních schopností, jako je inteligence, jazyk a kreativita, nepředstavují tyto stroje žádnou hrozbu. Nedávné průlomy v oblasti umělé inteligence by vás však mohly začít znepokojovat.

Autor knihy sám zažil v roce 2014 situaci, kdy si řekl „a sakra“, když byl svědkem toho, jak systém umělé inteligence hraje starou počítačovou hru Breakout. To je hra, ve které hýbete pálkou a odrážíte míček do zdi.

Zpočátku si systém umělé inteligence vedl špatně. Brzy se to však naučil, a nakonec vyvinul inteligentní strategii pro maximalizaci skóre, na kterou při hře nepřišli ani sami vývojáři.

Znovu se to stalo v březnu 2016, kdy systém AI AlphaGo porazil Lee Sedola, nejlepšího hráče Go na světě. Go je strategická hra, která vyžaduje intuici a kreativitu, protože ve hře je mnohem více možných pozic než atomů ve vesmíru, takže pouhá analýza hrubou silou se pro ni nehodí. Systém umělé inteligence však přesto dokázal zvítězit a zdá se, že projevuje přesně ten druh kreativity, který je zapotřebí.

Systémy umělé inteligence se rychle vyvíjejí také v oblasti přirozených jazyků. Stačí si uvědomit, jak moc se v poslední době zlepšila kvalita překladů poskytovaných překladačem Google.

Je jasné, že umělá inteligence v blízké budoucnosti ovlivní všechny oblasti lidského života. Algoritmické obchodování ovlivní finance, autonomní řízení zvýší bezpečnost dopravy, inteligentní rozvodné sítě optimalizují distribuci energie a umělá inteligence změní i zdravotní péči.

Velkou otázkou, kterou je třeba zvážit, je vliv, který bude mít AI na trh práce. Koneckonců s tím, jak systémy AI dokáží překonávat lidi ve stále více oborech, se my lidé můžeme stát dokonce nezaměstnatelnými.

Přejděme nyní k dalším možným dopadům rozvoje umělé inteligence.

Umělá inteligence srovnatelná s lidskou by mohla způsobit, že svět ovládne superinteligentní stroj

Doposud se umělá inteligence uplatňovala poměrně úzce v omezených oblastech, jako je překlad jazyka nebo strategické hry.

Naproti tomu svatým grálem výzkumu AI je vytvoření umělé obecné inteligence (AGI), která by fungovala na úrovni lidské inteligence.

Co by se však stalo, kdyby se tento svatý grál našel?

Pro začátek by vytvoření AGI mohlo vést k tomu, co výzkumníci AI nazývají explozí inteligence.

Exploze inteligence je proces, při kterém inteligentní stroj získá superinteligenci, tedy úroveň inteligence daleko převyšující lidské schopnosti.

Toho by dosáhl rychlým učením a opakovaným sebezdokonalováním, protože AGI by potenciálně mohla navrhnout ještě inteligentnější stroj, který by mohl navrhnout ještě inteligentnější stroj atd. To by mohlo vyvolat explozi inteligence, která by strojům umožnila překonat inteligenci člověka.

A co víc, superinteligentní stroje by mohly ovládnout svět a škodit nám bez ohledu na naše dobré úmysly.

Řekněme například, že lidé naprogramují superinteligenci, která se bude starat o blaho lidstva. Z pohledu superinteligence by to bylo pravděpodobně podobné, jako kdyby vás parta dětí z mateřské školy, která je daleko pod vaší inteligencí, držela v zajetí pro svůj vlastní prospěch.

Dost pravděpodobně byste takovou situaci považovali za deprimující a neefektivní a vzali byste věci do vlastních rukou. A co si počít s neschopnými, otravnými lidskými překážkami? Ovládnout je, nebo ještě lépe, zničit je.

Ale možná předbíháme; podívejme se na jiné, méně děsivé scénáře, které by mohly nastat.

Uklidňující nebo děsivé – jaké to bude po nástupu umělé inteligence

Ať se nám to líbí, nebo ne, honba za umělou obecnou inteligencí (AGI) je v plném proudu.

Jak bychom ale chtěli, aby to po jejím nástupu vypadalo?

Měla by například umělá inteligence být vědomá? Měli by ji ovládat lidé, nebo stroje?

Musíme si odpovědět na základní otázky, protože nechceme skončit v budoucnosti s umělou inteligencí, na kterou nejsme připraveni, zejména s takovou, která by nám mohla uškodit.

Existují různé scénáře toho, co se stane poté. Ty se pohybují od mírového soužití lidí a AI až po převzetí moci umělou inteligencí, které povede k vyhynutí lidí nebo jejich uvěznění.

Prvním možným scénářem je benevolentní diktátor. Svět by ovládala jediná benevolentní superinteligence, která by maximalizovala lidské štěstí. Chudoba, nemoci a další technologicky zastaralé obtíže by byly vymýceny a lidé by mohli vést život plný luxusu a volného času.

Ze stejného soudku je scénář zahrnující boha ochránce, kde by lidé stále rozhodovali o svém osudu, ale existovala by umělá inteligence, která by nás chránila a starala se o nás spíše jako chůva.

Dalším scénářem je libertariánská utopie. Lidé a stroje by pokojně koexistovali. Toho by bylo dosaženo jasně definovaným územním oddělením. Země by byla rozdělena do tří zón. Jedna by byla bez biologického života, ale plná umělé inteligence. Další by byla pouze lidská. Poslední zóna by byla smíšená, kde by si lidé mohli vylepšit svá těla pomocí strojů a stát se kyborgy.

Tento scénář je však poněkud fantastický, protože není nic, co by mohlo strojům s umělou inteligencí zabránit, aby nerespektovaly přání lidí.

Pak je tu ještě scénář podmanitele, kterému jsme se věnovali v minulé části. V tomto případě by umělé inteligence zničily lidstvo, protože by nás považovaly za hrozbu, přítěž nebo prostě za plýtvání zdroji.

A konečně je tu scénář správce zoologické zahrady. V tom případě by bylo pár lidí ponecháno v zoologických zahradách pro zábavu umělé inteligence, podobně jako my chováme v zoologických zahradách ohrožené pandy.

Nyní, když jsme prozkoumali možné budoucnosti související s AI, podívejme se na dvě největší překážky současného výzkumu umělé inteligence, a to zaměřenost na cíl a vědomí.

Výzkumníci se snaží umělou inteligenci naučit zaměření na cíl, jaké má příroda včetně lidí

Není pochyb o tom, že my lidé jsme zaměřeni na cíle. Zamyslete se nad tím: i taková maličkost, jako je úspěšné nalití kávy do šálku, zahrnuje dosažení cíle.

Ale ve skutečnosti příroda funguje stejně. Konkrétně má jeden konečný cíl: zničení. Technicky se tomu říká maximalizace entropie, což laicky řečeno znamená zvyšování nepořádku a chaosu. Když je entropie vysoká, příroda je „spokojená“.

Vraťme se k tomu šálku kávy. Nalijte do něj trochu mléka a chvíli počkejte. Co vidíte? Díky přírodě máte nyní vlažnou, světle hnědou, jednolitou směs. Ve srovnání s původní situací, kdy byly dvě kapaliny o různých teplotách zřetelně oddělené, svědčí toto nové uspořádání částic o menší organizovanosti a zvýšené entropii.

Celý vesmír funguje stejně. Uspořádání částic má tendenci směřovat ke zvýšené úrovni entropie, což vede ke kolapsu hvězd a rozpínání vesmíru.

To ukazuje, jak zásadní cíle jsou. V současné době se vědci zabývající se umělou inteligencí potýkají s problémem, jaké cíle by vlastně měla umělá inteligence sledovat.

Koneckonců i dnešní stroje mají své cíle. Nebo spíše mohou vykazovat chování zaměřené na cíle. Například pokud je vám v patách tepelně naváděná střela, projevuje chování zaměřené na cíle.

Měly by však inteligentní stroje vůbec mít cíle? A pokud ano, kdo by měl tyto cíle definovat? Například Marx a Hayek měli každý jinou vizi, pokud jde o budoucnost ekonomiky a společnosti, takže by nepochybně stanovili velmi odlišné cíle pro umělou inteligenci.

Samozřejmě bychom mohli začít něčím jednoduchým, například zlatým pravidlem, které nám říká, že se máme chovat k ostatním tak, jak bychom se chovali sami k sobě.

Ale i kdyby se lidstvo dokázalo shodnout na několika morálních zásadách, kterými by se inteligentní stroj řídil, realizace cílů přátelských k lidem je ještě o něco složitější.

Nejprve bychom museli umělou inteligenci přimět, aby zjišťovala naše cíle. To se snadněji řekne, než udělá, protože AI by nás mohla snadno špatně pochopit. Kdybyste například samořídícímu autu řekli, aby vás co nejrychleji dopravilo na letiště, dost možná byste tam dorazili celí pozvracení, zatímco by vás pronásledovala policie. Technicky vzato se AI držela vašeho vysloveného přání, ale ve skutečnosti nepochopila vaši hlavní motivaci.

Dalším úkolem by bylo, aby AI přijala naše cíle, což znamená, že by souhlasila s tím, že je bude sledovat. Jen si vzpomeňte na některé politiky, které znáte: i když jejich cíle mohou být jasné, přesto se jim nedaří přesvědčit velké skupiny obyvatelstva, aby přijaly stejné cíle.

A konečně, umělá inteligence by musela udržet naše cíle, což znamená, že by se její cíle nesměly měnit, když by procházela sebezdokonalováním.

Právě těmto myšlenkám se v současné době věnuje obrovské množství vědeckého výzkumu.

Důležitými otázkami jsou vědomí a subjektivita umělé inteligence

Otázka, co je vědomí a jak souvisí se životem, není vůbec nová. Výzkumníci v oblasti umělé inteligence se potýkají se stejným odvěkým problémem. Přesněji řečeno si kladou otázku, jak by se hmota bez života mohla stát vědomou.

Podívejme se na to nejprve z lidské perspektivy. Jak by řekl fyzik, kterým je i autor knihy, vědomé lidské bytosti jsou jen „přeskládané potraviny“, což znamená, že atomy, které pozřeme, jsou jednoduše přeskládány tak, aby tvořily naše těla.

V důsledku toho pak výzkumníky umělé inteligence zajímá, jakým přeskupením by musely inteligentní stroje projít, aby se staly vědomými.

Nemělo by být překvapením, že nikdo nemá v tuto chvíli odpověď. Ale abychom se k ní přiblížili, musíme pochopit, co se na vědomí podílí.

Je to ošidné. Možná bychom si rádi představili, že vědomí je něco, co souvisí s uvědomováním a s procesy v lidském mozku. Ale my si aktivně neuvědomujeme každý mozkový proces. Například si obvykle neuvědomujeme vše, co se nachází v našem zorném poli. Není jasné, proč existuje hierarchie uvědomování a proč je jeden typ informací důležitější než jiný.

V důsledku toho existuje více definic vědomí. Autor se však přiklání k široké definici známé jako subjektivní zkušenost, která umožňuje zahrnout do této skupiny i potenciální vědomí umělé inteligence.

Na základě této definice mohou vědci zkoumat pojem vědomí prostřednictvím několika dílčích otázek. Například „Jak mozek zpracovává informace?“ nebo „Jaké fyzikální vlastnosti odlišují vědomé systémy od nevědomých?“.

Výzkumníci v oblasti umělé inteligence také uvažovali o tom, jak by se umělé vědomí nebo subjektivní umělá inteligence mohly „cítit“.

Předpokládá se, že subjektivní zkušenost AI by mohla být bohatší než lidská zkušenost. Inteligentní stroje by mohly být záměrně vybaveny širším spektrem senzorů, díky čemuž by jejich smyslová zkušenost byla mnohem komplexnější než naše vlastní.

Systémy AI by toho navíc mohly zažít více za sekundu, protože „mozek“ umělé inteligence by fungoval na základě elektromagnetických signálů pohybujících se rychlostí světla, zatímco nervové signály v lidském mozku se pohybují mnohem nižšími rychlostmi.

Může se zdát, že je to hodně složité, ale jedno je jasné: potenciální dopad výzkumu umělé inteligence je obrovský. Ukazuje do budoucnosti, ale také s sebou nese nutnost čelit některým z nejstarších filozofických otázek lidstva.