jOpenSpace - Neuralink, umělá inteligence a její hrozby

(Pokračování reportu z ne-konference jOpenSpace)

Obavy Elona Muska z umělé inteligence jsou všeobecně známé, ale vždycky jsem měl problém uvěřit, že

  1. Umělá inteligence může dosáhnout řádově vyšší kvality než lidská. (Kromě jistých definic toho termínu, o tom později)
  2. Obrana proti ní by měla mít podobu biomodifikací lidského druhu jako takového.

Proti vysokým očekáváním Raye Kurzweila a jiných guru tohoto myšlenkového směru bych postavil jako vždy zemitého Macieje Cegłowskiho. Jeho přednášky (primárně zde, tady vtipněji a v širším kontextu) nebudu zprostředkovávat, přečtěte si je sami a udělejte si názor. Já osobně se kloním k myšlence, že zdánlivá pomalost našich mozků je nevyhnutelný důsledek jejich univerzality a úspornosti. ‎Možná je možné sestrojit stroj, který předčí Einsteina v konstrukci fyzikálních teorií, ale bude také zároveň jako on schopen rozpoznat nebezpečí a uniknout tak echtovně nehmotné konstrukci, jakou byl nacismus? A bude schopný to udělat z energie dodané miskou ovesné kaše denně?

Představa AI, která jen tak mimochodem ve svých plánech vyhubí lidstvo ve mně vyvolává představu bondovského padoucha, jehož ďábelské plány v poslední chvíli překazí Bond vytažením elektrické zásuvky. Neboli možnost nepozorovaně vydedukovat komplexní plán pouze v myšlenkách stojí na předpokladu newtonovské příčinnosti, determiničnosti a absolutních vědomostí. Ani jedno z toho podle mě v reálném (mikro)světě neplatí. Výsledky evoluce nestojí na promyšleném designu, ale na neustálém testování chaotickou realitou a v tom máme proti umělé inteligenci pár milionů let náskok. Kdyby se univerzální inteligence dala vymyslet, věřím, že bychom ji už dávno měli.

Nechci snižovat důležitost debaty o AI, právě naopak. Pro ty, kteří se bojí ovládnutí lidstva stroji mám totiž špatnou zprávu: už k tomu došlo. Jen to nemá sexy podobu ocelové nohy rozšlapávající lidskou lebku a zlověstně rudých očí Terminátora, ale objednávkového automatu v McDonaldu. Ten po příjmu objednávky naplánuje její vykonání a podle toho začne úkolovat lidské zaměstnance. Aby se neflákali, měří také kvalitu a rychlost jejich práce. Jinými slovy stroj jim vzal tu jedinou práci, která je na fastfoodu trochu lidská a odsunul je do pozice lidských dronů, které řídí.

Zdá se to paradoxní, budoucnost jsme si představovali přesně opačně. Ten nepříjemný detail, který naše představy staví na hlavu spočívá v ekonomickém hledisku. Člověk:

  • se relativně levně fyzicky reprodukuje
  • se sám opravuje
  • má fantastickou energetickou účinnost fyzické práce
  • skvěle samostatně řeší neočekávané události malého rozsahu
  • je samo‎údržbový

Tyto vlastnosti jsou pro adekvátně složité roboty ještě v současnosti prakticky nedostižné. Naproti tomu AI:

  • prakticky zdarma a bezchybně reprodukuje získané vědomosti a schopnosti
  • nedělá chyby při vykonávání libovolně složitých postupů, když jsou dobře definovány
  • dokáže zpracovat obrovské množství informací

což jsou vlastnosti, kde jim lidé asi nikdy stačit nemohou. Tyto sady vlastností poměrně jasně rozdávají role v hierarchii práce a není to plán žádné ďábelské AI na zotročení lidstva, ale banální ekonomie. Nebojím se vražedného soupeření, ale nerovné symbiózy.

Pokud vám příklad s fastfoodem nepřijde dostatečně apokalyptický, vemte si jako příklad třeba automatické tradingové systémy. Již několikrát jsem od profesionálů z oboru slyšel, že tyto systémy díky umělé inteligenci mohou číst a vyhodnocovat informace z přirozeného textu jako lidé, ale rychlosti jejich úsudku se nedá konkurovat. Dá se proto říct, že AI už v současnosti do značné míry rozhoduje o prosperitě nebo mizérii celých kontinentů. Rozhoduje kdo dostane hypotéku nebo úvěr. Rozhoduje co budete číst na sociálních sítích a tím nastavuje témata o kterých budete přemýšlet. Je cenotvůrce čím dál větší části maloobchodu. A lidé jí poslouchají dobrovolně. Terminátor měl alespoň tu výhodu, že to bylo vidět na první pohled.

Futuristické vize neuralinku v podání Honzy Novotného byly tedy velmi zajímavé, ale ‎já osobně mám větší obavy z problémů, které pro nás AI představuje už teď a bojím se, že čip v hlavě nám v tom nepomůže. Uvědomil jsem si to, když se na mě podívaly ty prázdné oči člověka podávajícího mi na konci precizního procesu balíček s hamburgerem a já jsem pochopil, že pro něj ta naše automatizace nic dobrého nepřinesla.