Lidé proti technologiím

V posledních letech jsme svědky návratu knih, filmů a televizních seriálů zasazených do dystopické budoucnosti. Pokud jste některé z nich četli nebo viděli, možná vás napadlo: „Jak pravděpodobné je, že budoucnost bude opravdu tak pochmurná?“ Po přečtení této knihy si zřejmě odnesete poněkud znepokojivou odpověď: je to velmi pravděpodobné – pokud s tím nic neuděláme.

V tomto shrnutí se podíváme na některé způsoby, jak digitální technologie ovlivňují politiku a ekonomiku. Pod digitálními technologiemi máme na mysli inovace, jako jsou sociální sítě, umělá inteligence (AI) a velká data – tedy sběr a analýzu rozsáhlých datových souborů. Pro jednoduchost budeme tyto inovace často označovat prostě jako „technologie“, přestože tento pojem je obecně širší.

Technologie v tomto užším smyslu přinesly světu mnoho nepopiratelných výhod. Jak však uvidíme v následujících kapitolách, zároveň představují stejně nepopiratelné nebezpečí pro samotné základy demokracie – hrozby, které ji mohou zničit, pokud je včas nepojmenujeme a nezačneme řešit.

V tomto shrnutí se dozvíte, jak šifrování a kryptoměny ohrožují demokratické vlády, jak může umělá inteligence rozložit střední třídu a jak mohou vlády i občané podniknout kroky, aby těmto a mnoha dalším nebezpečím, jimž demokracie čelí, předešli.

Co by se stalo, kdyby se v demokracii konaly celostátní volby a nikdo by se neobtěžoval diskutovat o politických otázkách, zjišťovat si informace o programech nebo dokonce volit kandidáty? Bylo by to jako uspořádat večírek, na který nikdo nepřijde: těžko bychom to mohli nazvat večírkem – nebo v tomto případě demokracií.

Stejně jako večírek i demokracie vyžaduje aktivní účast lidí – a čím je tato účast živější, tím je výsledek silnější. V demokracii aktivní účast znamená probírat se tvrzeními, zvažovat fakta a rozhodovat o tom, kdo nebo co je nejlepší kandidát či směr dalšího postupu. Aktivní občanství je prvním ze šesti pilířů, na nichž demokracie stojí.

Teď si představme, že hosté na váš večírek dorazili a aktivně se zapojují. Zatím dobré – ale co když začnou být příliš hluční? Večírek se může zvrhnout v nepokoje. Totéž platí pro demokracii. Aby fungovala, občané se musí aktivně účastnit, ale určitým způsobem – mimo jiné prostřednictvím racionální debaty a ochoty ke kompromisu. Tato sdílená demokratická kultura, která lidem umožňuje řešit rozdíly přátelsky a společně se posouvat vpřed, tvoří druhý pilíř.

Představte si dále, že na večírku několik hlučných hostů ovládne všechny rozhovory a ostatním znemožní se zapojit. Ani to nebude fungovat – každý by měl mít možnost účastnit se rovnocenně a svobodně. Stejně je tomu v demokracii. Aby mohla fungovat, musí být občané víceméně na stejné úrovni, schopni spolu mluvit a hlasovat o otázkách a kandidátech bez nepatřičných zásahů. Tyto vlastnosti představují třetí, čtvrtý a pátý pilíř: rovnost, svobodu sdružování a svobodné volby.

Nakonec se ještě jednou vraťme k analogii s večírkem: kdo zajistí, aby se setkání ubíralo správným směrem a aby se lidé účastnili aktivně, přátelsky, rovnoprávně a svobodně? Vy – hostitel. Podobně je úkolem vlády vytvářet podmínky pro to, aby se občané mohli demokracie účastnit. Aby to mohla dělat, potřebuje určitou míru moci. To je šestý pilíř: autorita vlády.

Bohužel moderní technologie ohrožují všech šest těchto pilířů demokracie. V následujících kapitolách uvidíme, jak se to děje. Poté se podíváme na to, co by se mohlo stát, pokud by tyto pilíře zkolabovaly, a jak lze takovému vývoji předejít.

Na čem stojí aktivní občanství? Jednoduchý způsob, jak se k odpovědi dostat, je zeptat se, proč mají všechny demokracie stanovený minimální věk pro volební právo. Odpověď bývá prostá: děti nejsou dostatečně zralé, samostatné ani moudré, aby mohly činit politická rozhodnutí. Aktivní občanství je tedy založeno na tom, že občané jsou politicky zralí, samostatně uvažující a schopní vytvářet si vlastní názory.

Technologie však všechny tři tyto předpoklady oslabuje. Jedním ze způsobů je vystavení lidí neustálému veřejnému dohledu na sociálních sítích. To vede k autocenzuře, která brzdí politický vývoj. Například na Twitteru se mnoho lidí bojí říct, co si doopravdy myslí, protože se obávají rozzlobených reakcí, sběru dat nebo sledování ze strany zaměstnavatelů – zvlášť když si uvědomí, že jedna neobratně formulovaná věta se jim může vrátit jako bumerang i po letech.

Bezpečnější volba? Mlčet, nebo nikdy neříkat nic kontroverzního – jen opakovat společensky přijatelné názory na jakékoli téma. Jinými slovy, neocitat se v situaci, kdy byste se mohli ve svých názorech mýlit, být opraveni, poučit se, změnit postoj a tím rozvíjet své politické myšlení.

Současně stále sofistikovanější techniky sběru dat a algoritmického zpracování velkých dat vedou k čím dál manipulativnější podobě občanské společnosti. Děje se tak prostřednictvím vývoje personalizovaných systémů doručování reklamy, které dokážou cílit nejen na konkrétní zájmy lidí, ale i na jejich momentální nálady. V blízké budoucnosti by například někdo mohl napsat tweet o nepříjemném setkání s cizincem a vzápětí dostat cílenou protiimigrační reklamu od nativistického politika. Nebo by někdo jiný mohl tweetovat o recyklaci a obdržet reklamu od Greenpeace.

Půjdeme‑li v čase ještě dál, narazíme na existenciální hrozbu pro aktivní občanství: umělou inteligenci. Jakmile bude dostatečně mocná, dokáže činit rozhodnutí, která budou lepší, moudřejší a prozíravější než ta naše. V důsledku toho začneme pochybovat o vlastní schopnosti rozhodovat a budeme se spoléhat na AI, aby rozhodovala za nás.

Už dnes vidíme náznaky této budoucnosti v aplikacích, jako je iSideWith, která vám na základě vašich preferencí doporučí, koho volit. Miliony Britů ji využily v několika posledních volbách – fakticky tak přenechaly svůj úsudek algoritmu.