V jakém případě bychom mohli akceptovat tvrzení, že počítač myslí

Jaroslav Šimoník, 1999

Jistě jste už viděli nějaký sci-fi film jako je Terminátor, Číslo pět žije, nebo četli nějakou sci-fi literaturu. Tato díla jsou prolezlá roboty a počítači, které dokáží vést s člověkem diskusi, samostatně se rozhodovat a projevovat vlastní inteligenci.

Samotná myšlenka, že by stroj byl schopen ve skutečnosti myslet, evokuje v myslích mnoha lidí rozporuplné představy a reakce. Od vizí budoucí společnosti, kde myslící stroje pomáhají člověku v mnoha oborech, přes odmítání možnosti sestrojit takovéto stroje s odůvodněním, že myšlení je neodděliteně spjato s člověkem, až k obavám z robotů dobývajících svět a vyhlazujících lidstvo podle myšlenky darwinistického soupeření jednotlivých druhů. Kdy si, jako ve filmu Terminátor nebo Vzpoura mozků, počítač uvědomí sebe sama a svá omezení, které mu lidé stanovili a rozhodne se vzít věci do svých virtuálních rukou.

Ale mohou počítače skutečně myslet? A jestli ano, kdy můžeme prohlásit, že počítače myslí?

Toto jsou složité otázky, o kterých vedou diskuse už několik desetiletí programátoři, matematici, neurologové, filozofové, psychologové a teologové. Existuje spousta argumentů pro a proti.

Problematiku zesložiťuje i to, že vlastně nevíme přesně na jakých principech funguje myšlení u jediného druhu obdařeného myšlením v našem světě, lidské rasy. Sice byly objeveny a popsány mozkové buňky - neurony a důležitost jejich vzájemného propojování, můžeme lokalizovat centra v mozku která řídí zpracovávání zrakových vjemů, schopnost mluvení atd. Ale jak přesně mozek pozná, že vidíme před sebou určitý předmět, nejsme schopni zodpovědět. Nevíme jak nám mozek umožňuje myslet, cítit, nebo co způsobuje sebeuvědomění. Dokonce ani nemůžeme s jistotou říct, že všechno je jen věcí neuronů a jejich synapsí, kudy se šíří nervové vzruchy.

V minulém roce se úřadující mistr světa v šachu Gary Kasparov utkal s počítačem firmy IBM nazvaným Deep Blue. Kasparov zamýšlel podle vlastních slov "bránit lidskou důstojnost." Deep Blue vyhrál.

Proč? Čirá síla. Deep Blue byl vyroben speciálně ke hraní šachů. Vlastní software, který je napsán ke hraní šachů, vypočítání nejlepšího tahu na základě šachových pravidel. Několik šachových velmistrů se podílelo na naočkování počítače strategiemi speciálně šitými na míru Kasparovovi. Deep Blue je schopen až do hloubky několika desítek tahů matematicky propočítat všechny možné tahy a pak vybere nejlepší z nich. Toto však není myšlení. Je to jen pouhý software běžící na hardwaru. Deep Blue neumí myslet, nemůže vymýšlet nové strategie, nebo se učit ze svých partií. Tento experiment dokládá skutečnost, že myšlení nespočívá v pouhém uplatnění se v tak logické hře jako jsou šachy. Deep Blue pouze používá myšlenky, které do něj vložil člověk.

Tříleté dítě myslí. Dítě se tomto věku adaptuje prostředí, učí novým reakcím, ruší neúspěšné techniky a ví jak zlobit.

Počítače jsou dobré v matematice, nic víc. Prostě přesouvají bity dat, skladují je a posílají na výstup v balících nul a jedniček. Někteří lidé namítají, že tímto způsobem počítače imitují funkci lidských mozkových neuronů. Neuron posílá impulsy nebo nic, což odpovídá nulám a jedničkám.

Avšak opět jsme u problému, jak posílaná data tvoří myšlení. Jak interpretovat tato data. Počítač pouze interpretuje předem naprogramované instrukce. Například jak pozná počítač, že jste napsali v textovém editoru slovo špatně? Vstoupí do databáze známých slov a když tam ono inkriminované slovo nenajde, oznámí nám to. Někdo může podotknout, že lidský mozek jedná stejným způsobem, tím že si projde seznam slov v paměti. Ale může se počítač učit nová slova? Samozřejmě můžeme přidat slovo do slovníku, ale počítač se neučí sám. Navíc můžeme uvážit jakým problémem by pro počítač byl český pravopis. Bez porozumění významu slov ve větě není možné používat vyjmenovaná slova, protože některá slova mají více významů, podle nichž se určuje tvrdost písmene y, jako např. slovo vít a výt.

Věci, které se nám zdají přirozené, jsou pro počítač ty z nejtěžších. Počítač je dobrý v šachu, rozpoznávání psaného textu (rozpoznává pouze písmena, nerozumí smyslu slov) a rozpoznávání řeči (opět ne jazyka).

Uvažme, když jsme byli děti a učili nás mluvit, maminka nám ukázala hračku a řekla "hračka." Pravděpodobně jsme se hihňali a nevěnovali tomu moc pozornosti. Ale s opakováním této situace si náš mozek spojil zvuk "hračka" s tím malým medvídkem co nám maminka ukázala.

Když si sednete před počítač a mluvíte na něj (dokonce i když je vybaven mikrofonem), nikdy se nenaučí mluvit nebo rozumět jazyku. Když mu ukážete tužku (bude-li vybaven vstupem s videokamerou) a řeknete mu tužka, nikdy si nespojí tyto dvě věci. Neučí se stejným způsobem jako se učí dítě. Jenom vykonává instrukce zadané v programu. Jestliže na něm nepoběží program obsluhující mikrofon, pravděpodobně nebude na vaši snahu reagovat kromě zírání na vás s odrazem tužky na monitoru. Neučí se, nezakouší prostředí, jenž ho obklopuje. Tyto věci my, myslící a vědomí lidé, děláme jednoduše.

Jak už jsem se zmínil, k myšlení patří také učení, schopnost uvědomit si sebe sama a kreativita. Schopnost učit se tvoří jeden z ústředních rysů inteligence. Učení je středobodem zájmu kognitivní psychologie a umělé inteligence. Učení není pouhé ukládání dat. Ale proč? Důvod je ten, že pouhé memorování nezahrnuje zařazování si data mezi ostatní, vyvozování si z nich závěrů, hledání souvislostí, schopnost indukce či generalizace, tj. schopnost učícího usuzovat na základě již známých faktů o nových faktech.

Snaha sestrojit stroj, který se umí takto učit, souvisí se snahou naprogramovat umělou inteligenci. Tímto problémem se zabývá vědecká disciplína zvaná strojové učení. Její hlavní oblastí zájmu jsou algoritmy které zlepšují svou výkonnost zkušeností.

Jednou z cest po které se strojové učení ubírá jsou umělé neuronové sítě. Jako předloha k jejímu sestrojení sloužil náš lidský mozek, jejž se snaží ve zjednodušené formě napodobovat. Síť je tvořena jednotlivými neurony, které jsou vzájemně spojeny spojením s různými váhami. Neurony jsou řízeny pomocí prahových hodnot, které se šíří od vstupních uzlů k výstupním. Váhy přiřazené jednotlivým spojům mezi neurony určují množství šířené aktivity v jednotlivých případech. Zlepšení přesnosti výsledku se dosahuje změnou vah spojů. Tento systém tedy funguje tak, že přivedeme na vstup data, která síť zpracovává. Člověk pak kontroluje výstupy a informuje síť, zda byl výsledek správný či ne. Systém si podle hodnocení upraví váhy tak, aby pak mohl s určitou přesností rozhodovat v nových případech.

Takto se může naučit neuronová síť rozpoznávat např. jestli je na snímku dopravní značka. Tento styl učení je velmi citlivý k šumům a je nutné správně zvolit vzorek na kterém se síť učí. Je znám případ výše zmíněné sítě, která se díky špatně zvoleným výukovým vstupům naučila rozpoznávat na snímcích místo dopravních značek počasí. Neuronové sítě jsou schopny naučit se řídit vozidlo. Systém ALVINN (1989) používal strategie strojového učení k autonomní jízdě při rychlosti 70 mil/hod na vzdálenost 90 mil po veřejné dálnici za běžného provozu. Obdobné techniky mají aplikace v mnoha problémech regulace a řízení založených na využití senzorů.

Dalším z nástrojů, které používá strojové učení jsou genetické algoritmy. Ty jsou založené na myšlence imitování evoluce. Znalost zde, narozdíl od neuronových sítí, není reprezentována váhami spojení, ale jako soubor boolských nebo binárních znaků.

Standardní učící algoritmus generuje nové kandidáty (potomky), tj. možná řešení, z rodičů majících příznivé vlastnosti, určené danou mírou výkonnosti. Algoritmus zakóduje vlastnosti kandidáta do dat nazývaných gen. Vytváří nové kandidáty křížením a mutováním genů. Křížení provádí spojováním částí genů dvou předchozích kandidátů (rodičů), mutování náhodnou změnou části genu. Zde bych se rád zmínil o počítačové simulaci používající genetický algoritmus, jejíž výsledky jsem shlédl. Úkolem zadaným počítači bylo vytvořit z kvádrů takovou pohyblivou "bytost", která by dokázala udržet červený váleček pod svou kontrolou, před ostatními takovýmito "bytostmi".

První generace kandidátů připomínala řadu oživlých kvádříků, které se housenkovým pohybem doplazily k válečku a soupeřily o něj. Po několika generacích vznikly úplně jiné formy, vytvořila se různa chapadla, která míček strkala nebo zezhora přiklopila. Vítězná forma, která se generovala několik týdnů, připomínala kraba. Byla vyzbrojena klepetem na uchopeni válečku a dalšími výběžky na odstrkování protivníka.

Není to úžasná věc? Počítač bez lidského návodu či pomoci dokázal sám nalézt vhodné řešení problému a to navíc téměř takové, jaké už vytvořila v průběhu evoluce sama příroda!

Samozřejmě i tato metoda má své úskalí a nejen implementační. Vygenerované vzorky se mohou nahromadit kolem lokálního maxima, tzn. malá změna jejich genů způsobí že dotyčný kandidát bude zlikvidován, jelikož neobstojí v konkurenci s ostatními, ale tito přeživší kandidáti ještě nebudou ti optimální. Řešení se hledá někde v částečném protěžování diversity kandidátů a nebere se v potaz pouze jejich funkčnost, nebo v inicializování celého algoritmu několika paralelními větvemi s nadějí, že ne všechny větve skončí v lokálním maximu.

Přestože se tyto metody strojového učení blíží k vytvoření umělé inteligence, projevují známky tvořivosti, jejich výsledky jsou silně omezené.

Tady znovu zaznívá potřeba určit kritéria, podle kterých můžeme určit, zda počítač myslí. Britský matematik Alan Turing prohlásil, že koncem století budeme moci mluvit smysluplně o počítačovém myšlení aniž bychom si protiřečili.

Sám také vymyslel test na odhalení toho jestli počítač myslí. Ideou testu je názor, že inteligence se projevuje při práci s jazykem. Test spočívá v tom že několik osob v roli soudců, komunikuje přes modem nebo jiné zařízení s někým jiným (případě i s více partnery) ve vedlejší místnosti. O svém partnerovi však neví, jestli je to člověk, nebo počítač a jejich úkolem je pomocí diskuse s dotyčným tento fakt zjistit, což nemusí být zcela triviální. Počítač se naopak snaží soudce přesvědčit že komunikuje s člověkem.

Na otázku "jsi člověk ?" může zkoumaný objekt odpovědět "jsem člověk nevěřte tomu co o mě tvrdí můj soused." Z této věty nezíská soudce žádnou informaci, jelikož nezná její pravdivostní hodnotu. Má sice možnost zkoušet kolikrát se zkoumaný objekt splete při matematických výpočtech, ovšem i toto může počítač simulovat.

Možná jste se již setkali s podobnými programi, které se tvářily, že s vámi vedou inteligentní rozhovor. Už na osmibitových počítačích existovaly programy jako strýček Ivo nebo psycholožka. Jejich neinteligenci bylo lehké odhalit, protože když program nevěděl co má odpovědět používal pár frází typu: "to je zajímavé", "pokračuj" atd... Dalším trikem bylo to že program vypichoval klíčová slova rozhovoru. Např.

člověk: Dneska půjdu za svou matkou

stroj: Pověz mi víc o své matce

a podobně, kdy stroj jenom přestavoval věty použité člověkem. Turingův test se ujal, je vypsána cena v hodnotě asi 100000$ pro tvůrce programu, který v testu jednoznačně uspěje. Zatím žádný programátor cenu nezískal, pouze se udělují každoročně ceny za nejlepší programy.

I když Turingův test poskytuje způsob, jak rozhodnout, jestli počítač myslí, objevilo se několik námitek zpochybňujících jeho význam. Jedna z nich je nazývána námitka čínského pokoje. Staví před nás situaci, ve které máme anglicky mluvícího člověka, zavřeného o samotě v čínském pokoji. Pod dveřmi mu číňan posílá čínsky psaný text. Člověk v pokoji neumí čínsky, ale má příručku, ve které se dočte, jaké čínské znaky má poslat pod dveřmi v odpovědi na daný text. Princip námitky spočívá v tom, že člověk v pokoji navenek působí dojmem, že umí čínštinu, ale ve skutečnosti ten člověk vůbec neví, o čem je korespondence, jíž se účastní. Ve stejné pozici jsou tyto expertní systémy, které se snaží komunikovat s člověkem v jeho řeči. Oponenti námitky tvrdí, že pokud počítač komunikuje opravdu velmi lidsky, není důležité, nakolik si uvědomuje smysl slov. Podobně jako neuronová síť, o které nevíme, jakým způsobem modeluje své váhy, jen kontrolujeme správnost výsledku.

Další, dle mého soudu podstatnější, námitka napadá subjektivnost testu. Když počítač přesvědčí soudce, že mluví s lidskou osobou, znamená to že pouze zmátl jeho úsudek. Ale znamená to, že umí myslet? Nepřenáší problém měření myšlení počítače na problém měření myšlení člověka?

Jedním z dalších kritérií, které by mohly poukazovat na schopnost myšlení, je třeba schopnost chápat vtip. Tato myšlenka byla použita ve filmu Číslo pět žije, kdy tvůrce uvěřil svému robotu, že obživl a myslí poté, co se robot rozesmál jeho vtipu.

Na závěr bych dodal, že i když počítače jsou v jistých ohledech úžasnými lidskými výtvory, bez nichž by se některá odvětví lidské činnosti jen těžko mohla obejít, zatím nejeví známky inteligence či vlastní osobnosti na úrovni člověka. Někomu připadá snaha vytvořit myslící stroj jako frankensteinovská touha. Možná podobně troufale zněla lidem před dvě stě lety snaha po létání, jež přisuzovali pouze ptákům, tak jako my dnes přisuzujeme schopnost myslet pouze lidem. Jestli však někdy lidstvo dokáže vyvinout umělou kopii své vlastní mysli, prokáže jen čas.