Je singularita blízko?

Dnes proběhlo poslední kolo mediálně ostře sledovaného poměřování schopností člověka a stroje. Počítačový program AlphaGo firmy DeepMind ve hře Go definitivně potvrdil své vítězství a porazil tak dosavadního mistra světa Lee Sedola s výsledným skóre 4:1. Go se od šachu nebo jiných her, ve kterých stroje porazily člověka už dávno, liší v obrovské velikosti prostoru herních možností. Tento prostor není možné procházet celý a hledat globálně optimální tah, namísto toho je potřeba využít jakési strojové intuice, která vychází pouze z lokálních znalostí. Intuice, kterou jsme doposud přisuzovali pouze lidem, se v souvislosti s AlphaGo v popularizačních textech zmiňuje poměrně často. Může se tedy zdát, že se přiblížila doba, kdy nás počítače svojí inteligencí překonají.

Vítězství stroje nad šampiónem v Go je bezpochyby významný úspěch vývojářů DeepMind, ale je singularita skutečně blízko? Nemyslím si.

Singularita

Pojem singularita v kontextu umělé inteligence zavedl matematik Stanislaw Ulam v polovině dvacátého století. Jedná se o hypotetickou událost, kdy univerzální umělá inteligence dosáhne úrovně člověka a svojí schopností vylepšovat sebe sama nás začne rychle překonávat. Nemalé množství lidí věří, že se tato chvíle velice rychle blíží.

Jedním z nejznámějších popularizátorů singularity je Ray Kurzweil, který se proslavil především jako autor knihy The Singularity Is Near: When Humans Transcend Biology. Hlavním argumentem pro blížící se singularitu je dosavadní exponenciální růst různých forem technologického pokroku. Tato myšlenka je rozšířením takzvaného Moorova zákona, podle kterého se počet tranzistorů umístěných na počítačový čip zdvojnásobuje zhruba každé dva roky. Jedním z příkladů rozšíření je exponenciální růst výpočetní rychlosti počítačů, ilustrovaný na obrázku 1.

Exponenciální růst výpočetní rychlosti

Obrázek 1: Exponenciální růst výpočetní rychlosti. Zdroj: https://en.wikipedia.org/wiki/The_Singularity_Is_Near

Je ale exponenciální růst výpočetní rychlosti a dalších technologických ukazatelů dostatečným předpokladem k dosažení umělé inteligence, překonávající ve všech ohledech intelekt člověka?

Úspěchy umělých neuronových sítí

Není pochyb o tom, že existuje celá řada oblastí, ve kterých stroje nad lidmi výrazně vynikají. Už od dob prvních počítacích strojů to jsou úlohy, vyžadující mechanické opakování rutinních postupů. V posledních letech však slaví stroje úspěchy i v oblastech, které byly doposud pouze doménou člověka. Jmenujme například rozpoznání obsahu obrázku, kde současný nejlepší algoritmus dosahuje chybovosti 4,58 % (chybovost člověka se údajně pohybuje někde kolem 5 %), algoritmy pro řízení aut a dronů, projekt DeepDream firmy Google, vytvářející psychedelické obrazy, v úvodu zmíněný program AlphaGo, nebo třeba systém, který je schopný psát básně.

Všechny tyto úlohy mají dvě společné vlastnosti. První z nich je vysoká dimenzionalita problému – u algoritmů pro zpracování obrazu je to množství vstupních pixelů, které nedávají velký smysl jednotlivě, ale je třeba se na ně dívat jako na celek, u hry Go je to obrovské množství možných herních scénářů, u generování textů souvisí vysoká dimenzionalita s množstvím různých kombinací slov, které mohou mít pokaždé úplně jiný význam. Druhým jednotícím prvkem je fakt, že současných fascinujících výsledků bylo dosaženo pomocí hlubokých neuronových sítí.

Umělé neuronové sítě však známe již několik desítek let, je tedy legitimní pokládat otázku, co náhlý posun umožnilo. V první řadě je důležité si uvědomit, že se zmíněné úlohy v principu neliší od jiných úloh strojového učení, které už dlouhé roky považujeme za uspokojivě vyřešené. Nikdo se dnes nepozastavuje nad tím, že e-mailový server dokáže s velkou úspěšností správně rozpoznat spam, nebo nad tím, že cílená reklama na internetu velice přesně reflektuje nikde explicitně nespecifikované zájmy uživatele. Rozpoznávač obrázků není nic složitějšího než klasifikátor s komplexní vnitřní strukturou. Strojový generátor básní je svým způsobem také klasifikátor, jenž se na základě předchozího textu snaží predikovat jeho nejpravděpodobnější pokračování.

Systémy řízení dronů nebo algoritmus AlphaGo se od předchozích příkladů liší v tom, že v sobě zahrnují zpětnou vazbu od okolního prostředí, na základě které jsou schopny se dále zlepšovat. Pokud dron provede nějakou akci, kvůli které začne neočekávaně ztrácet výšku, je to pro něj jednoznačná zpráva o provedení chybného manévru, ze které se může poučit. Podobně algoritmus AlphaGo sehrál několik milionů her sám proti sobě, díky čemuž se dokázal naučit lépe odlišovat dobré strategie od horších. Tomuto způsobu učení se říká reinforcement learning a zdaleka nejde o žádný nový vynález natož o něco principiálně odlišného od neuronových sítí s jinou formou zpětné vazby.

Když opomeneme několik inženýrských triků urychlujících trénování, úspěch hlubokých neuronovým sítí v poslední době je způsoben pouze obrovským nárůstem výpočetního výkonu, který sítím v rozumném čase umožňuje vytvářet velmi složité vnitřní struktury a efektivně pracovat s daty vysoké dimenzionality. To však samo o sobě není všespásné.

Budoucnost umělé inteligence

V tuto chvíli umíme strojově efektivně řešit některé jednotlivé problémy, které se na první pohled zdají být složité, ale principálně příliš obtížné nejsou. Pokud bychom chtěli, aby se stroje vyrovnaly lidem ve všem, potřebovali bychom něco víc než jen výpočetní výkon. Pro ilustraci uvedu dva příklady, které přesahují rámec schopností známých algoritmů.

Současná umělá inteligence umí řešit pouze problémy, pro které je vytvořená. Stále je to jen algoritmus, vykonávající postupy naprogramované člověkem, a příliš se tak neliší třeba od výrobní linky v továrně. Oproti tomu člověk je schopný vidět svět v souvislostech a být kreativní. Pokud člověk vytvoří program, který umožňuje generovat básně, přirozeně ho napadne, že by se podobný algoritmus dal použít i pro generování notového zápisu hudby. Stroj ale tuto souvislost nevidí. Když učitel na základní škole přehraje dětem úryvek Smetanovy Vltavy a Blaníku, věřím, že většina žáků dokáže rozpoznat, který úryvek odkazuje k řece a který k rytířům, aniž by nad tím žáci kdykoliv přemýšleli nebo jim někdo řekl, podle jakého klíče se mají rozhodnou.

Jiným příkladem omezenosti stroje je absence jeho vlastního vědomí. Stroje se nerozhodují podle svého vlastního úsudku, ale buď podle pravidel, která jsou získaná z dat (případně jsou přímo součástí jejich algoritmu), nebo statisticky podle napočítaných pravděpodobností. Algoritmus pak sice dokáže provést správné rozhodnutí, ale je velice obtížné zjistit, proč se tak rozhodl. Natož, aby své rozhodnutí dokázal sám zdůvodnit. Při generování básní nemá počítač ponětí o tom, co vytváří, pouze aplikuje obecné vzory získané z dat a vytváří statisticky očekávané posloupnosti písmen.

Na základě svých znalostí a zkušeností si netroufám predikovat, zda se jednou podaří vytvořit univerzální umělou inteligenci, která se ve všem vyrovná člověku a postupně ho překoná. Jsem však přesvědčený, že k tomu teď nejsme o mnoho blíže než v polovině minulého století, kdy Alan Turing vytvořil první teoretický model výpočetního stroje.


Share on FacebookTweet about this on TwitterShare on Google+

10 komentářů k “Je singularita blízko?

  • Březen 15, 2016 at 1:48 pm

    Dovolím si to vzít odzadu - souhlasím, že k univerzální AI to máme ještě daleko (a otázkou je, jestli něco takovýho vůbec chceme), ale pokrok v poslední době bych tolik nebagatelizoval. Minimálně teď už máme o dost víc nástrojů, který při pokusecho něco takovýho budeme potřebovat.
    Jako největší přakážky vzniku člověku-podobné AI vidím dvě věci, tebou zmíněné vědomí a motivaci. Když zredukuju práci mozku na soubor vstupů (smysly, paměť, výsledky úvah), výstupů (úvahy, fyzická činnost) a motivací, může být vědomí pouhou obdobou pokročilejší variantou plánovače CPU v operačním systému.
    Větší problém vydím v té motivaci. O smyslu našeho života už bylo popsáno bezpočet knih, a kromě čísla 42 jsme se k ničemu konkrétnímu nedobrali. Pro někoho, je to zdroj kreativity, někdo to řeší chlastem atd. Co má ale dělat chudák AI, která je k tomu všemu ještě v principu nesmrtelná a nemá důvod se bát, že ji budou ve stáří bolet klouby a bude dementní? Bez univerzální motivace těžko tvořit univerzální AI.

    Odpovědět
    • Říjen 21, 2016 at 3:54 pm

      Ja jen drobnou poznamku k tomu vedomi - je kolem toho hodne studii, ale v principu otazka zni jednoduse - Ma napriklad pes, kocka nebo savci obecne vedomi , ma ho mravenec ? Pokud savci ano a napriklad mravenec ne - tak nejsme nicim vyjimecni oproti psovi nebo kocce, krome toho ze mame vyssi inteligenci diky evoluci. Cili nevidim duvod aby takzvane "vedomi" vzniklo i na bazi AI. Jde o to co je to vedomi a jak ho definujeme.

      Odpovědět
      • Říjen 24, 2016 at 10:46 am

        Já zde vědomím zjednodušeně rozumím schopnost rozhodovat se podle vlastního uvážení, ne podle naprogramovaných pravidel nebo podle náhody. Domnívám se, že takový druh vědomí můžou mít i mravenci, ale netuším, jak něco takového simulovat na počítači.

        Odpovědět
  • Červenec 24, 2016 at 11:45 am

    A nešlo by využít AI aby analyzovala sama sebe a uměla sama sebe v dynamicky měnit za běhu? Přidávat neurony, odebírat neurony, měnit jejich parametry a struktury?
    Jsou nějaké takové pokusy už provedeny?

    Odpovědět
    • Červenec 25, 2016 at 10:51 am

      To dělají asi všichni, kdo se o vytvoření univerzální umělé inteligence pokoušejí. Pokud vím, tak to ale zatím k nějakým ohromujícím výsledkům nevedelo. Jedním z velkých problémů je definice optimalizačního kritéria. To je u univerzálních systémů dost vágní.

      Odpovědět
  • Listopad 26, 2016 at 3:14 pm

    Vydomím autor tedy myslí svobodnou vůli, ale to je čistě náboženský pojem. Není žádný důkaz o existenci svobodné vůle, ani to není podmínkou inteligence, ať už se na svět díváme deterministicky, nebo bereme v úvahu nepředpověditelnou náhodu.
    Je otázka, jestli z principu věci může nějaká forma inteligence vytvořit vyšší (nebo podobnou) formu umělé inteligence jinak než metodou pokusu a omylu (evolucí).

    Odpovědět
  • Prosinec 3, 2016 at 5:49 pm

    situace je jednoznacna.plati 2.zakon dialektiky.

    Odpovědět
  • Prosinec 3, 2016 at 5:55 pm

    plati 2.zakon diaĺektiky.

    Odpovědět
  • Únor 26, 2017 at 11:25 am

    Dobry den,
    zaujimavy clanok, aj ked nesuhlasim uplne so vsetkym, hlavne nie so zaverom autora.
    Aky mate prosim nazor na Quantum Computing, resp jeho aplikacie v oblasti strojoveho ucenia (na rozhrani tychto vednych oborov dnes vznika uplne nova veda tzv Quantum Machine Learning) ?
    Dakujem,
    Tibor

    Odpovědět
    • Únor 26, 2017 at 5:32 pm

      O kvantovém strojovém učení toho moc nevím, ale věřím, že by to jednou mohlo způsobit velký zvrat (nejen ve strojovém učení). Otázkou je, ze jak douho to bude:)

      Odpovědět

Napsat komentář

Vaše emailová adresa nebude zveřejněna.