Jak se díváte na Turingův test po zhruba padesáti letech od chvíle, kdy byl poprvé navržen?


Tento test navrhl Alan Turing jako uchopitelnější náhradu za otázku „Mohou stroje myslet?", kterou neshledával dostatečně jasnou na to, aby se jí bylo možné vědecky zabývat. Testem počítač úspěšně projde tehdy, když bude schopen s lidmi rozmlouvat tak, aby nepoznali, že nemají co do činění s člověkem. A Turing se domnívá, že až budeme schopni sestrojit počítače, které tímto testem projdou, nebude o nich vůbec nemístné říkat, že myslí (i když to možná bude znamenat jisté rozšíření toho, jakým slovo „myslet" v současné době užíváme).
Myslím, že Turingův test rozhodně ani dnes neztrácí na zajímavosti. Pozoruhodné je, že zatímco na jedné straně existuje celá řada vědců a filosofů, kteří ho považují za příliš měkký (připsat počítači myšlení jen na základě toho, že tímto testem projde, považují za absurdní), naše počítače se, navzdory fantastickému technologickému pokroku, který se během padesáti let od Turingovy formulace tohoto testu odehrál, ani zdaleka nepřibližují něčemu, co by toho bylo schopno. (Ukázalo se, že počítače sice dokáží člověka velice úspěšně simulovat v nějakém velice specifickém kontextu - například slavný zcela triviální program ELIZA simulující psychoterapeuta úspěšně klamal pacienty již někdy v šedesátých letech; a dnes již, jak víme, dokáží počítače na lidské úrovni třeba i hrát šachy. Avšak počítačový systém, který by byl schopen lidsky konverzovat bez omezení, se zdá být stále v nedohlednu.)


Je relevantním argumentem proti turingovskému pohledu na myšlení Searlův ‚Čínský pokoj'?


John Searle patří k těm, kdo se domnívají, že Turingův test je scestný, protože i kdyby jím počítač nakrásně prošel, říkat o něm, že myslí, by bylo absurdní - počítač podle Searla nemůže skutečně myslet, ale jenom myšlení mechanicky napodobovat. Jeho myšlenkový experiment s Čínským pokojem to má prokázat; a stal se asi nejdiskutovanějším tématem filosofie umělé inteligence posledních desetiletí. Představme si, říká Searle, pokoj, ve kterém sedí člověk vybavený příručkami, podle kterých je schopen sestavit smysluplnou čínskou odpověď na jakoukoli čínskou otázku, kterou mu někdo okénkem podá - a to aniž by sám rozuměl slovo čínsky. Ten pokoj s tím člověkem uvnitř se tedy z hlediska Turingova testu chová docela jako Číňan; ale podle Searla by bylo absurdní říkat, že rozumí Čínsky. Takže něco jiného je rozumět a něco jiného je imitovat porozumění.
Já osobně se domnívám (a tady chci zdůraznit, že má odpověď je spíše odpovědí logika a filosofa než odborníka na UI), že slovo myslet fakticky užíváme v tom významu, ve kterém je správnost jeho aplikace na danou entitu čistě záležitostí projevů této entity (pochopitelně - jaká jiná kritéria by připadala v úvahu?) Já osobně jsem si například jist, že lidé, které dobře znám, skutečně myslí (tedy samozřejmě jist v tom smyslu, v jakém si člověk něčím ve světě kolem sebe vůbec jist být může). A kdyby někdo odhalil, že můj nejlepší přítel nemá v hlavě mozek, ale soustavu mikročipů, byl by to pro mě šok, ale kdyby se tento člověk (robot?) nadále choval tak, jak jsem na to zvyklý, jistě bych ho i já nadále bral jako myslící bytost (a jako svého přítele). Z toho se mi zdá zřejmé, že mechanismus, který stojí za chováním, není z hlediska posuzování toho, zda je toto chování rozumné a zda příslušná entita myslí.
Pokud jde o 'Čínský pokoj', mám pocit, že je třeba si uvědomit, jak komplikovaná by pravidla pro sestavování smysluplné odpovědi na jakoukoli smysluplnou otázku musela být. Představa, že by to mohl uskutečňovat člověk za pomoci příruční knihovny, se mi jeví být naprosto nerealistická. Zdá se mi, že jedinou možností, jak by to mohlo skutečně fungovat, by bylo, že by ten člověk v pokoji měl nikoli knihovnu, ale velice výkonný počítač, s velice obsáhlými databázemi a velice sofistikovaným softwarem. A ten člověk by tam pak už byl fakticky zbytečný, vše by obstaral ten počítačový systém, který bych se pak já osobně nerozpakoval nazývat UI.


Co říkáte možnosti existence Chalmersových zombií?


Zombie v tomto smyslu není ta z hollywoodských filmů, s nepřítomným výrazem, popelavou pletí a náměsíčnými pohyby - tady je zombie podle definice entita, která se z vnějšího pohledu ani v nejmenším neliší od normálního člověka, liší se od něj jenom tím, že nemá vědomí. Jestli může taková zombie existovat, pak může existovat něco, co projde Turingovým testem, aniž to má vědomí, a tudíž aniž to v normálním slova smyslu myslí. Otázka, zda existuje tento druh zombií, je tedy ekvivalentní otázce, zda je možné, aby se něco chovalo ve všech ohledech jako vědomá bytost, a přitom to vědomí postrádalo.



Souhlasíte s Turingem a např. i se Stephenem Hawkingem, že vědomí není kvalita, kterou by se věda měla zabývat? Nemáme nikdy jistotu, že všichni kromě nás nejsou Chalmersovými zombiemi. Proto má smysl hovořit jen o inteligenci, a tu poznáme na základě chování systému navenek. Souhlasíte?


V podstatě ano; ale musíme být opatrní, pokud jde o smysl výrazu „zabývat se vědomím". Věda se samozřejmě vědomím zabývá v tom smyslu, že se zabývá určitými projevy organismů, které chápe jako vědomé. Lidé jako Chalmers ale, jak se zdá, trvají na tom, že i když prozkoumáme všechny možné takové projevy, zůstává stále ještě otázka, zda je vědomí ‚skutečně přítomno' (zda je, jak se někdy říká, ve zkoumané entitě „rozsvíceno mentální světlo"). Je ovšem jasné, že na takovou otázku pak již nedokážeme odpovídat žádnými cestami, které by se daly nazvat vědeckými.
Nabízí se samozřejmě cesta introspekce: každý z nás může zkoumat své vlastní vědomí, ke kterému má bezprostřední přístup. (A zkušenost s ním je zřejmě důvod, proč Chalmers a další trvají na tom, že skutečné vědomí je něčím více než projevy vědomí.) Problém je v tom, že do svého nitra nemohu kromě sebe samého vpustit nikoho jiného, aby ta pozorování, která tam já provádím, nezávisle na mě prověřil - takže moje výsledné poznatky nemohou dosáhnout statutu poznatků vědeckých, protože od těch se vyžaduje, aby byly ověřovatelné nezávisle na jediném člověku. Pomůžeme-li si pojmoslovím známým z gramatiky, vědecké zkoumání musí být vedeno vždy „ve třetí osobě" - vědecké poznání „v první osobě", tedy poznání, které by bylo poznáním jenom pro mě, je iluzorní. Proto hovoří filosof Daniel Dennett v polemice s filosofy, kteří na introspekci trvají, o „fantazii vědy v první osobě".
Ostatně, když se podíváme na nějakou knihu, ve které se existencí vědomí zabývají vědci (a nikoli filosofové), jako je například Crickova Věda hledá duši, vidíme, že stavět otázku, tak jako Chalmers jim vůbec nepřijde na mysl. Pro Cricka prostě vědomí nemůže být ničím jiným než určitou formou (objektivně studovatelné) činnosti mozku - jde jenom o to, přijít na to jakou.



Myslíte si, že k otázce "proč nejsme Chalmersovými zombiemi" (což předpokládá každý z nás minimálně v první osobě) může co říci evoluční biologie? Mám na mysli koncepty "vědomí jako simulátor mysli druhých", "machiaveliánská inteligence" atd.


Myslím, že nemůže - plyne z toho, co jsem už řekl výše. Biologie je věda; a chápeme-li vědomí jako to, co je přístupné pouze „v první osobě", a co je tedy nepřístupné vědě, nemá k jeho existenci co říci.



Co s Penrosovou námitkou, podle které počítače nejsou schopny matematického důkazu? Spočívá rozdíl mezi člověkem a strojem trochu paradoxně právě v matematice?


Mně osobně se ani tato námitka se nezdá být příliš přesvědčivá: podle mne vychází z interpretace Gödelovy věty, která je přinejmenším problematická. Gödel dokázal, že pro formální aritmetiku nemůžeme nikdy stanovit axiomatický systém, ze kterého by byl každý výrok, jenž je v tomto jazyce formulovatelný, dokazatelný nebo vyvratitelný. Z toho se vyvozuje, že existují aritmetické výroky, které jsou pravdivé, ale nedokazatelné. A Penrose z toho dále vyvozuje, že k pravdivosti takových výroků se může dopracovat (nějakými nepopsatelnými cestami) jedině lidský rozum, nikoli stroj, který je omezený na dokazování.
To je ovšem problematický závěr. Každá učebnice matematické logiky nám dokládá, proč musí být gödelovská formule, která není ve standardním axiomatickém systému aritmetiky dokazatelná ani vyvratitelná, pravdivá - nabízí tedy v tomto smyslu její důkaz. Jistě, není to důkaz ve smyslu, v jakém jsme si zvykli termín „důkaz" v matematické logice používat - avšak tvrdit, že se k její pravdivosti dopracováváme jakýmsi ‚šestým smyslem' („nealgoritmicky", jak říká Penrose), se mi jeví jako absurdní.
Zdá se mi tedy, že při vyvozování takto bezprostředních filosofických důsledků z Gödelovy věty musíme být opatrnější, než je Penrose. (Trvá-li však někdo na její bezprostředně filosofické interpretaci, pak mohou nabídnout jinou než tu Penrosovu: logik Chaim Gaifman nedávno konstatoval, že Gödelova věta namísto Penrosova „nejsme stroje" ukazuje, že „jsme stroje, které nemohou vědět, že jsou stroje".)



Jaký máte názor na knihy typu "Descartův omyl", tj. koncepce, které zdůrazňují "vtělenost" mysli?


Myslím, že mysl skutečně je v podstatném slova smyslu vtělená. Z tohoto hlediska tedy může být Turingův test přece jenom nemístně omezený - možná, že myšlení skutečně není věcí natolik omezenou na mozek, aby mohl počítač ve skutečném slova smyslu myslet, nemá-li něco srovnatelného s naším tělem. Avšak ve vybavení počítače takovým druhem těla, jaké máme my nevidím principiální problém. Například v rámci projektu COG na Massachusetts Institute of Technology (http://www-caes.mit.edu/mvp/html/cog.html) se ostatně na něčem takovém usilovně pracuje.



Jaký máte vztah k funkcialismu, tedy představě, že vědomí či mysl jsou čímsi na způsob softwaru, který může běžet de facto na libovolném (dostatečně složitém) hardwaru? Myšlení by pak bylo cosi jako výpočet...


To souvisí s předchozí otázkou. Nejsem si jist, zda je v lidském mozku, a obecněji v lidském těle, možné nějak jasně ‚hardware' a ‚software' oddělit. Jak už jsem řekl, nemyslím si, že vědomí nutně předpokládá nějaké organické tkáně, a ne třeba silikon; na druhé straně však nejsem přesvědčen, že může být oddělitelné v podobě nějaké ‚softwarové vrstvy', která by byla přenositelná do počítače.



Pokud by se prokázala předcházející možnost, mohli bychom začít spekulovat i o nesmrtelnosti našeho vědomí. Patří takovéto úvahy podle vašeho názoru do sci-fi, nebo by se mohly stát reálnými? Nemůže být (třeba i nepřiznaná) touha po nesmrtelnosti významnou motivací pro konstrukci systémů UI?


Hranice mezi vědou a sci-fi je velice pružná. Dnešní kosmologové například, jak se zdá, vůbec nepochybují o tom, že dochází k cestování v čase (minimálně na úrovni částic); a pro některé genetiky je zase, jak to vypadá, větší záhadu než to, zda bychom mohli být nesmrtelní, otázka, proč vlastně nesmrtelní nejsme. Takže ač 'nahrání' lidského vědomí do počítače v je v současné době nepochybně věcí vyhrazenou pro sci-fi, může tomu být třeba v budoucnu jinak ... .
Pokud jde o motivace výzkumů UI, touha po nesmrtelnosti jistě není nepodstatná (viz například současné hnutí kryoniků, kteří se dávají zmrazit, aby byli v době, kdy bude možné jejich vědomí přenést z mozku do počítače, vzkříšeni); mě se ale zdá, že tou hlavní motivací je obyčejná lidská zvídavost a touha po poznání.



Myslíte si, že určité potíže v aplikacích UI souvisejí s tím, že mozek není výlučně digitální systém? Měli bychom se snažit opět konstruovat také analogové počítače?


To si nemyslím. Z toho mála, co vím o nuorofyziologii, mám dojem, že mechanismus fungování mozku a nervové soustavy je mnohem adekvátněji popsatelný jako digitální (přesněji řečeno diskrétně-stavový) než jako analogový.



Jsou podle vás plodné spekulace o tom, zda mozek je počítačem paralelním nebo sériovým, eventuálně kombinací obou z nich? A co Penrosova koncepce lidského mozku jako počítače kvantového?


Zdá se mi, že mozek jistě nelze vidět jako počítač s von Neumannovou architekturou, to jest počítač tradičního a dodnes standardního typu. Mně osobně se zdá nejatraktivnější tzv. mnohanáčrtový model vědomí navržený již zmíněným Danielem Dennettem (v jeho knize Consciousness Explained): podle něj se v určitých částech mozku objevují a mizí různé elektrické aktivity, které spolu ‚soupeří', a ty, kterým se podaří ostatní na chvíli ‚přebít' se stávají vědomými. To, co pociťujeme jako souvislý proud vědomí, by tak byla velice různorodá směs vzájemně se vytlačujících projevů různých procesů. Mozek by podle toho tedy fungoval na principu jakéhosi ‚kognitivního darwinismu'.
Pokud jde o kvantové počítače: v jistém smyslu je každý počítač kvantový, protože na subatomické úrovni funguje ‚kvantově'. To, co se ale kvantovým počítačem normálně rozumí, se vyznačuje tím, že to ‚kvantově' funguje na té úrovni, kterou máme my pod kontrolou a kterou můžeme programovat. I lidský mozek je (tak jako cokoli jiného) jistě ‚kvantové' zařízení v tom triviálním smyslu; není mi však jasné, co to vůbec znamená říci, že je ‚kvantový' v nějakém netriviálnějším smyslu.



Pokládáte za nadějnější přístup, který se snaží problémům myšlení porozumět na základě studia lidského mozku, nebo se průlomu podaří dosáhnout prostě tak, že nějakou nepochybnou UI zkonstruujeme?


Studium lidského mozku je pro UI jistě inspirativní (nelze nevzpomenout na takto inspirovaný vývoj softwarových neuronových sítí); mně se ale zdá, že v dohledné době je třeba očekávat výsledky od pragmatičtěji orientovaných přístupů.


Jaké expertní systémy se podle vašeho názoru nejvíce blíží onomu vágnímu pojmu "umělá inteligence"? Nemám tím na mysli ani tak konkrétní aplikace, ale spíše typy systémů (tj. založené na pravidlech, logice apod.).


Myslím, že nejefektivnější systémy jsou, tak jako ostatně i náš mozek a naše mysl, heterogenní - přirozený výběr je, zdá se, mistr ‚bastlení'. Vezměme šachové programy. V učebnicích se dočteme, že jsou založeny na kombinaci funkce, která ohodnocuje pozice na šachovnici, a výkonného modulu, který na několik tahů dopředu propočítává hodnoty všech dosažitelných postavení a volí cestu k tomu, které má tu nejvyšší. Skutečně funkční šachový program ale tohle jistě musí skombinovat s komponentami zcela odlišného druhu: třeba s knihovnou zahájení či s modulem pro koncovky, který pracuje na úplně jiném principu atd. Myslím tedy, že nejperspektivnější jsou skutečně systémy, které ne příliš lahodí oku teoretika - systémy ‚zbastlené' z různých principů a technik.



Jaké jsou vaše oblíbené webové stránky pokrývající problém UI?

Je jich mnoho, a já je příliš systematicky nesleduji. Jako výchozí bod je možné doporučit například stránku Americké asociace pro umělou inteligenci: http://www.aaai.org/AITopics/index.html.



Jakou česky vyšlou knihu byste doporučil čtenářům?

Já osobně mám slabost pro Daniela Dennetta, o němž jsem se v průběhu rozhovoru několikrát zmínil; a proto jsem také jednu jeho knihu, Druhy myslí, přeložil do češtiny (vyšla v Bratislavě v nakladatelství Archa v roce 1997; nyní o její reedici uvažuje nakladatelství Academia). Tato kniha se zabývá otázkou, kdy a jak se na vývojovém řetězci živých organismů mohlo něco jako vědomí objevit.



1