(Pokračování reportu z ne-konference jOpenSpace, reakce na přednášku Honzy Novotného o Neuralink)
Obavy Elona Muska z umělé inteligence jsou všeobecně známé, ale vždycky jsem měl problém uvěřit, že
- Umělá inteligence může dosáhnout řádově vyšší kvality než lidská. (Kromě jistých definic toho termínu, o tom později)
- Obrana proti ní by měla mít podobu biomodifikací lidského druhu jako takového.
Proti vysokým očekáváním Raye Kurzweila, Nicka Bostroma a jiných guru tohoto myšlenkového směru bych postavil jako vždy zemitého Macieje Cegłowskiho. Jeho přednášky (primárně zde, tady vtipněji a v širším kontextu) nebudu zprostředkovávat, přečtěte si je sami a udělejte si názor. Já osobně se kloním k myšlence, že zdánlivá pomalost našich mozků je nevyhnutelný důsledek jejich univerzality a úspornosti. Možná je možné sestrojit stroj, který předčí Einsteina v konstrukci fyzikálních teorií, ale bude také zároveň jako on schopen rozpoznat nebezpečí a uniknout tak echtovně nesmyslné konstrukci, jakou byl nacismus? A bude schopný to udělat z energie dodané miskou ovesné kaše denně?
Představa AI, která jen tak mimochodem ve svých plánech vyhubí lidstvo ve mně vyvolává představu bondovského padoucha, jehož ďábelské plány v poslední chvíli překazí Bond vytažením elektrické zásuvky. Neboli možnost nepozorovaně vydedukovat komplexní plán pouze v myšlenkách stojí na předpokladu newtonovské příčinnosti, determiničnosti a absolutních vědomostí. Ani jedno z toho podle mě v reálném (mikro)světě neplatí. Výsledky evoluce nestojí na promyšleném designu, ale na neustálém testování chaotickou realitou a v tom máme proti umělé inteligenci pár milionů let náskok. Kdyby se univerzální inteligence dala vymyslet, věřím, že bychom ji už dávno měli.
Nechci snižovat důležitost debaty o AI, právě naopak. Pro ty, kteří se bojí ovládnutí lidstva stroji mám totiž špatnou zprávu: už k tomu došlo. Jen to nemá sexy podobu ocelové nohy rozšlapávající lidskou lebku a zlověstně rudých očí Terminátora, ale objednávkového automatu v McDonaldu. Ten po příjmu objednávky naplánuje její vykonání a podle toho začne úkolovat lidské zaměstnance. Aby se neflákali, měří také kvalitu a rychlost jejich práce. Jinými slovy stroj jim vzal tu jedinou práci, která je na fastfoodu trochu lidská a odsunul je do pozice lidských dronů, které řídí.
Zdá se to paradoxní, budoucnost jsme si představovali přesně opačně. Ten nepříjemný detail, který naše představy staví na hlavu spočívá v ekonomickém hledisku. Člověk:
- se relativně levně fyzicky reprodukuje
- se sám opravuje
- má fantastickou energetickou účinnost fyzické práce
- skvěle samostatně řeší neočekávané události malého rozsahu
- je samoúdržbový
Tyto vlastnosti jsou pro adekvátně složité roboty ještě v současnosti prakticky nedostižné. Naproti tomu AI:
- prakticky zdarma a bezchybně reprodukuje získané vědomosti a schopnosti
- nedělá chyby při vykonávání libovolně složitých postupů, když jsou dobře definovány
- dokáže zpracovat obrovské množství informací
což jsou vlastnosti, kde jim lidé asi nikdy stačit nemohou. Tyto sady vlastností poměrně jasně rozdávají role v hierarchii práce a není to plán žádné ďábelské AI na zotročení lidstva, ale banální ekonomie. Nebojím se vražedného soupeření, ale nerovné symbiózy.
Pokud vám příklad s fastfoodem nepřijde dostatečně apokalyptický, vemte si jako příklad třeba automatické tradingové systémy. Již několikrát jsem od profesionálů z oboru slyšel, že tyto systémy díky umělé inteligenci mohou číst a vyhodnocovat informace z přirozeného textu jako lidé, ale rychlosti jejich úsudku se nedá konkurovat. Dá se proto říct, že AI už v současnosti do značné míry rozhoduje o prosperitě nebo mizérii celých kontinentů. Rozhoduje kdo dostane hypotéku nebo úvěr. Rozhoduje co budete číst na sociálních sítích a tím nastavuje témata o kterých budete přemýšlet. Je cenotvůrce čím dál větší části maloobchodu. A lidé jí poslouchají dobrovolně. Terminátor měl alespoň tu výhodu, že to bylo vidět na první pohled.
Futuristické vize neuralinku v podání Honzy Novotného byly tedy velmi zajímavé, ale já osobně mám větší obavy z problémů, které pro nás AI představuje už teď a bojím se, že čip v hlavě nám v tom nepomůže. Uvědomil jsem si to, když se na mě podívaly ty prázdné oči člověka podávajícího mi na konci precizního procesu balíček s hamburgerem a já jsem pochopil, že pro něj ta naše automatizace nic dobrého nepřinesla.