Mistr algoritmů

Jednou z největších záhad světa je, jak se z libry šedého želé v hlavě novorozeněte může nakonec stát proud vědomí, schopný vnímat svět a jednat v něm. Ještě úžasnější je, jak málo učení mozek během této proměny potřebuje. Žádný stroj v dějinách lidstva se svou schopností učit se nemůže lidskému mozku rovnat.

To se však začíná měnit. Naše schopnost vytvářet stále sofistikovanější stroje znamená, že v budoucnu by mohly lidskému mozku konkurovat – a v některých oblastech ho dokonce překonat. Stroje se dokážou učit z obrovských objemů dat, se kterými se každý den setkáváme a které sami většinou ignorujeme.

Nasadíme si tedy pomyslné myšlenkové čepice a vydáme se do fascinujícího světa algoritmů a strojového učení. V tomto shrnutí se dozvíte, jak se stroje budou moci v budoucnu učit bez explicitních instrukcí, proč je někdy obtížné rozpoznat vzory a jak algoritmus, který umí vyhrávat Tetris, může zlepšit i vaši každodenní cestu do práce.

Frustrují vás někdy recepty s vágními pokyny typu „vařte na středním ohni 15–20 minut“? Pokud ano, možná patříte k lidem, kteří dávají přednost dobrému algoritmu.

Na rozdíl od receptů jsou algoritmy přesně definované posloupnosti kroků, které při stejném vstupu vždy vedou ke stejnému výsledku. Ačkoliv si to často neuvědomujeme, algoritmy jsou všudypřítomné: plánují lety, určují trasy balíků, které posíláte, a zajišťují plynulý chod továren.

Klasické algoritmy jsou navrženy tak, aby přijaly vstupní informace, provedly s nimi určitý úkol a vyprodukovaly výstup. Řekněme, že úkolem algoritmu je poskytnout navigační pokyny. Zadáte dva body a výstupem je nejkratší trasa mezi nimi.

Algoritmy strojového učení (machine learning, ML) jsou však o krok abstraktnější: jsou to algoritmy, které vytvářejí jiné algoritmy. Dostanou-li dostatek příkladů dvojic vstup–výstup, dokážou nalézt postup, který převádí vstupy na odpovídající výstupy.

To je nesmírně užitečné u úloh, které lidským programátorům nedokážeme přesně popsat – například čtení rukopisu. Stejně jako jízdu na kole i rozpoznávání ručně psaného textu provádíme převážně nevědomě. Měli bychom velký problém převést svůj vnitřní postup do slov, natož do přesného algoritmu.

Díky strojovému učení to ale dělat nemusíme. Stačí algoritmu strojového učení poskytnout velké množství ukázek: ručně psaný text jako vstup a jeho význam jako požadovaný výstup. Výsledkem je algoritmus, který dokáže jeden převádět v druhý. Jakmile je natrénován, můžeme ho kdykoli použít k automatickému rozpoznávání rukopisu.

Přesně takto pošta čte PSČ, která píšete na své zásilky. Skvělé je, že algoritmy ML tohoto typu lze použít pro celou řadu různých úloh a řešení nových problémů je pak „jen“ otázkou shromáždění dostatečného množství vhodných dat. Základní učící algoritmus přitom často zůstává stejný a není třeba ho měnit, i když řeší zdánlivě nesouvisející problémy.

Na první pohled by se mohlo zdát, že stanovení lékařské diagnózy, filtrování spamu z e-mailové schránky a hledání nejlepšího tahu v šachu vyžadují zcela odlišné algoritmy. Ve skutečnosti však lze všechny tyto úlohy řešit jedním algoritmem strojového učení – pokud mu poskytneme správný typ dat.

Halucinovat znamená vidět něco, co ve skutečnosti neexistuje. Zajímavé je, že právě halucinace představují jeden z ústředních problémů ve světě algoritmů.

V roce 1998 vyšla bestsellerová kniha „Bible Code“, která tvrdila, že Bible obsahuje skryté předpovědi, jež lze odhalit selektivním přeskakováním řádků a písmen. Kritici však tato tvrzení vyvrátili tím, že ukázali, že podobné „vzorce“ lze najít i v románu Moby Dick nebo v rozhodnutích Nejvyššího soudu.

To je ukázkový příklad halucinování vzorců – v terminologii strojového učení důsledek takzvaného přeučení (overfittingu). Overfitting nastává, když je model natolik mocný, že se dokáže „naučit“ v podstatě cokoli. Pokud na datový soubor, jako je Bible, nasadíte dostatečný výpočetní výkon, vždy v něm nějaké vzorce najdete, protože počítač může konstruovat stále složitější modely, dokud se mu nepodaří data dokonale „vysvětlit“.

Takto vzniklý model však nebude fungovat na žádných jiných datech.

Abychom tedy udrželi naše algoritmy pod kontrolou, musíme omezit jejich sílu tím, že omezíme jejich složitost. Správně zvolená omezující pravidla zajistí, že prostor možných modelů nebude příliš velký a výsledky budou ověřitelné a konzistentní. Pokud je model příliš flexibilní, může skončit jako „Bible Code“ – bude nacházet vzorce v libovolném textu či datovém souboru.

Co když ale algoritmus objeví několik různých vzorců, které sice dobře vysvětlují tréninková data, ale neshodují se s novými? Kterému výsledku pak věřit? A jak si můžete být jistí, že vaše „objevy“ nejsou jen dílem náhody?

Právě zde vstupují do hry takzvaná validační či testovací data. Když připravujete původní datový soubor pro učící algoritmus, je důležité ho rozdělit na trénovací část, na níž se algoritmus učí, a na oddělenou testovací (holdout) sadu, na níž se následně ověřuje. Tímto způsobem můžete výsledky zkontrolovat „na druhý pokus“ a potvrdit, že vzorce nalezené v datech jsou skutečně platné.

Zajišťování validity výsledků je hlavní náplní práce odborníka na strojové učení. Jeho úkolem je omezit sílu modelu tak, aby nebyl příliš flexibilní, a ověřit, že výsledky fungují dobře jak na trénovacích datech, tak na datech z testovací sady.