Názory Huberta Dreyfuse na umělou inteligenci - Hubert Dreyfus's views on artificial intelligence

Obálka knihy brožované vydání z roku 1979

Hubert Dreyfus byl kritikem výzkumu umělé inteligence . V sérii článků a knih, včetně Alchemy and AI (1965) , What Computers Can't Do ( 1972 ; 1979 ; 1992 ) a Mind over Machine (1986) , představil pesimistické hodnocení pokroku AI a kritiku filozofické základy oboru. O Dreyfusových námitkách pojednává většina úvodů do filozofie umělé inteligence , včetně Russell & Norvig (2003) , standardní učebnice AI, a Fearn (2007) , průzkum současné filozofie.

Dreyfus tvrdil, že lidská inteligence a odbornost závisí především na nevědomých procesech, spíše než na vědomé symbolické manipulaci, a že tyto nevědomé dovednosti nelze nikdy plně zachytit ve formálních pravidlech. Jeho kritika vycházela z poznatků moderních kontinentálních filozofů, jako jsou Merleau-Ponty a Heidegger , a byla zaměřena na první vlnu výzkumu AI, který k reprezentaci reality používal formální symboly na vysoké úrovni a snažil se omezit manipulaci inteligence na symbol.

Když byly Dreyfusovy myšlenky poprvé představeny v polovině 60. let, setkaly se s posměchem a přímým nepřátelstvím. By 1980, nicméně, mnoho z jeho pohledů byly nově objevené výzkumníky pracující v robotice a nové oblasti connectionism -approaches nyní nazývá „ sub-symbolické “, protože se vyhýbají důraz brzy výzkum AI o symbolech na vysoké úrovni. V 21. století přístupy založené na statistikách k strojovému učení simulují způsob, jakým mozek využívá nevědomý proces k vnímání, všímání si anomálií a rychlých úsudků. Tyto techniky jsou velmi úspěšné a v současné době jsou široce používány v průmyslu i na akademické půdě. Historik a výzkumník umělé inteligence Daniel Crevier píše: „čas prokázal přesnost a vnímavost některých Dreyfusových komentářů.“ Dreyfus v roce 2007 řekl: „Myslím, že jsem vyhrál a je po všem - vzdali to.“

Dreyfusova kritika

Grandiózní sliby umělé inteligence

V alchymii a AI (1965) a jaké počítače se neobejde (1972) , Dreyfus shrnul historii umělé inteligence a vysmíval nespoutané optimismus, která prostupovala pole. Například Herbert A. Simon po úspěchu svého programu General Problem Solver (1957) předpovídal, že do roku 1967:

  1. Počítač by byl mistrem světa v šachu.
  2. Počítač by objevil a dokázal důležitou novou matematickou větu.
  3. Většina psychologických teorií bude mít podobu počítačových programů.

Tisk hlásil tyto předpovědi v zářících zprávách o bezprostředním příchodu strojové inteligence.

Dreyfus cítil, že tento optimismus byl naprosto neoprávněný. Věřil, že jsou založeny na falešných předpokladech o povaze lidské inteligence. Pamela McCorduck vysvětluje Dreyfusovu pozici:

[A] velké nedorozumění odpovídá za veřejný zmatek ohledně myslících strojů, nedorozumění páchané nereálnými tvrzeními, která vědci v AI dělají, tvrdí, že myslící stroje jsou již tady, každopádně hned za rohem.

Tyto předpovědi byly založeny na úspěchu modelu „zpracování informací“ mysli, formulovaného Newellem a Simonem v hypotéze systémů fyzických symbolů , a později se rozšířili do filozofické pozice známé jako computationalism filozofy jako Jerry Fodor a Hilary Putnam . Věřili, že úspěšně simulovali základní proces lidského myšlení pomocí jednoduchých programů, a zdálo se, že je to krátký krok k výrobě plně inteligentních strojů. Dreyfus však tvrdil, že filozofie, zejména filozofie 20. století , objevila vážné problémy s tímto hlediskem zpracování informací. Mysl podle moderní filozofie není nic jako digitální počítač.

Dreyfusovy čtyři předpoklady výzkumu umělé inteligence

V dokumentech Alchemy and AI and What Computers Can't Do , Dreyfus identifikoval čtyři filozofické předpoklady, které podporovaly víru raných výzkumníků AI, že lidská inteligence závisela na manipulaci se symboly. „V každém případě,“ píše Dreyfus, „je tento předpoklad chápán pracovníky v [AI] jako axiom zaručující výsledky, zatímco ve skutečnosti je třeba mimo jiné ověřit jednu hypotézu úspěšností této práce.“

Biologický předpoklad
Mozek zpracovává informace v diskrétních operacích pomocí nějakého biologického ekvivalentu vypínačů.

V počátcích výzkumu neurologie si vědci uvědomili, že neurony střílejí v pulzech vše nebo nic. Několik vědců, jako je Walter Pitts a Warren McCulloch , tvrdilo, že neurony fungují podobně jako booleovské logické brány, a lze je tedy napodobit elektronickými obvody na úrovni neuronu. Když se počátkem 50. let začaly široce používat digitální počítače, byl tento argument rozšířen, aby naznačil, že mozek je obrovský systém fyzických symbolů , který manipuluje s binárními symboly nula a jedna. Dreyfus dokázal vyvrátit biologický předpoklad citováním výzkumu v neurologii, který naznačoval, že akce a načasování vypalování neuronů měly analogické složky. Daniel Crevier však podotýká, že „na počátku 70. let stále ještě několik lidí tuto víru zastávalo a nikdo se proti Dreyfusovi nehádal“ ohledně biologického předpokladu.

Psychologický předpoklad
Mysl lze považovat za zařízení fungující na bitech informací podle formálních pravidel.

Vyvrátil tento předpoklad tím, že ukázal, že většina toho, co „víme“ o světě, se skládá ze složitých postojů nebo tendencí, které nás nutí přiklánět se k jedné interpretaci nad druhou. Tvrdil, že i když používáme explicitní symboly, používáme je na nevědomém pozadí zdravého rozumu a že bez tohoto pozadí naše symboly přestanou něco znamenat. Toto pozadí, podle názoru Dreyfuse, nebylo implementováno v jednotlivých mozcích jako explicitní jednotlivé symboly s výslovnými individuálními významy.

Epistemologický předpoklad
Všechny znalosti lze formalizovat.

To se týká filozofické otázky epistemologie nebo studia znalostí . I když souhlasíme s tím, že psychologický předpoklad je nepravdivý, vědci v oblasti umělé inteligence by mohli stále argumentovat (jak to má zakladatel AI John McCarthy ), že je možné, aby stroj na zpracování symbolů představoval veškeré znalosti bez ohledu na to, zda lidské bytosti představují znalosti stejným způsobem. Dreyfus tvrdil, že pro tento předpoklad neexistuje žádné ospravedlnění, protože tolik lidských znalostí není symbolických.

Ontologický předpoklad
Svět se skládá z nezávislých faktů, které mohou být reprezentovány nezávislými symboly

Dreyfus také identifikoval jemnější předpoklad o světě. Výzkumníci umělé inteligence (a futuristé a autoři sci-fi) často předpokládají, že formální vědecké znalosti nemají žádné omezení, protože předpokládají, že jakýkoli fenomén ve vesmíru lze popsat symboly nebo vědeckými teoriemi. To předpokládá, že vše, co existuje, lze chápat jako objekty, vlastnosti objektů, třídy objektů, vztahy objektů atd.: Přesně ty věci, které lze popsat logikou, jazykem a matematikou. Studium bytí nebo existence se nazývá ontologie , a tak to Dreyfus nazývá ontologickým předpokladem. Pokud je to nepravdivé, pak to vyvolává pochybnosti o tom, co můžeme nakonec vědět a jaké inteligentní stroje nám nakonec dokážou pomoci.

Know-how vs. know-that: nadřazenost intuice

V Mind Over Machine (1986) , napsaném v době rozkvětu expertních systémů , analyzoval Dreyfus rozdíl mezi lidskou odborností a programy, které ji údajně zachytily. Toto se rozšířilo o myšlenky z What Computers Can't Do , kde učinil podobný argument kritizující školu „ kognitivní simulace “ výzkumu AI, kterou praktikovali Allen Newell a Herbert A. Simon v 60. letech.

Dreyfus tvrdil, že řešení a odbornost lidských problémů závisí na našem pozadí, kontextu, na tom, co je vzhledem k situaci důležité a zajímavé, spíše než na procesu hledání kombinací možností, jak najít to, co potřebujeme. Dreyfus by to popsal v roce 1986 jako rozdíl mezi „know-that“ a „know-how“ na základě Heideggerova rozlišování mezi přítomností a okamžitou dostupností .

Vědění - to je naše vědomé schopnosti řešení problémů krok za krokem. Tyto dovednosti používáme, když narazíme na obtížný problém, který vyžaduje, abychom se zastavili, ustoupili a prohledávali myšlenky jeden po druhém. V takových chvílích se myšlenky stávají velmi přesnými a jednoduchými: stávají se symboly bez kontextu, s nimiž manipulujeme pomocí logiky a jazyka. To jsou dovednosti, které Newell a Simon prokázali jak psychologickými experimenty, tak počítačovými programy. Dreyfus souhlasil s tím, že jejich programy adekvátně napodobovaly dovednosti, které nazývá „vědomím toho“.

Na druhé straně know-how je způsob, jakým normálně řešíme věci. Děláme akce, aniž bychom vůbec použili vědomé symbolické uvažování, jako když rozpoznáme tvář, dojedeme do práce nebo najdeme správnou věc. Zdá se, že jednoduše přeskočíme na příslušnou odpověď, aniž bychom zvažovali jakékoli alternativy. Toto je podstata odbornosti, tvrdil Dreyfus: když jsou naše intuice trénovány do té míry, že zapomeneme na pravidla a jednoduše „zvětšíme situaci“ a reagujeme.

Lidský smysl situace, podle Dreyfuse, je založen na našich cílech, našich tělech a naší kultuře - všechny naše nevědomé intuice, postoje a znalosti o světě. Tento „kontext“, nebo „na pozadí“ (vztahující se k Heidegger je Dasein ) je forma poznání, která není uložena v našem mozku symbolicky, ale intuitivně nějakým způsobem. Ovlivňuje to, co si všimneme a co si nevšimneme, co očekáváme a jaké možnosti nezvažujeme: rozlišujeme mezi tím, co je podstatné a nepodstatné. Věci, které jsou nepodstatné, jsou odsunuty do našeho „okrajového vědomí“ (výpůjčka fráze od Williama Jamese ): miliony věcí, o kterých víme, ale momentálně na ně opravdu nemyslíme.

Dreyfus nevěří, že programy AI, jak byly implementovány v 70. a 80. letech, mohly zachytit toto „pozadí“ nebo provést takové rychlé řešení problémů, jaké umožňují. Tvrdil, že naše podvědomé znalosti nelze nikdy symbolicky zachytit. Pokud umělá inteligence nemohla najít způsob, jak tyto problémy vyřešit, byla odsouzena k neúspěchu, cvičení „lezení na strom s očima na Měsíci“.

Dějiny

Dreyfus začal formulovat svou kritiku počátkem 60. let, když byl profesorem na MIT , poté semeništěm výzkumu umělé inteligence. Jeho první publikací na toto téma je půlstránková námitka k proslovu Herberta A. Simona na jaře roku 1961. Dreyfuse jako filozofa zvlášť obtěžovalo, že vědci z AI věřili, že jsou na pokraji řešení mnoha dlouhodobé filozofické problémy během několika let, používání počítačů.

Alchymie a umělá inteligence

V roce 1965 byl Dreyfus najat (s pomocí svého bratra Stuarta Dreyfuse ) Paulem Armerem, aby strávil léto v zařízení RAND Corporation v Santa Monice, kde by psal Alchemy and Artificial Intelligence, první salvu jeho útoku. Armer si myslel, že najímá nestranného kritika, a byl překvapen, když Dreyfus vyrobil kousavý papír určený k demolici základů pole. (Armer prohlásil, že si není vědom předchozí Dreyfusovy předchozí publikace.) Armer odložil její vydání, ale nakonec si uvědomil, že „jen proto, že došlo k závěru, že se vám nelíbí, nebyl důvod ji nezveřejnit.“ Nakonec vyšlo jako RAND Memo a brzy se stalo bestsellerem.

Článek jednoznačně zesměšňoval výzkum AI a porovnával jej s alchymií : zavádějící pokus o změnu kovů na zlato založený na teoretickém základu, který nebyl ničím jiným než mytologií a zbožným přáním. Vysmíval se velkolepým předpovědím předních výzkumníků AI, předpovídal, že existují limity, za které by AI nepokročila, a naznačoval, že těchto limitů bude brzy dosaženo.

Reakce

Článek podle Pamely McCorduckové „způsobil rozruch“. Odpověď komunity AI byla posměšná a osobní. Seymour Papert odmítl jednu třetinu příspěvku jako „drby“ a tvrdil, že každá citace byla záměrně vytržena z kontextu. Herbert A. Simon obvinil Dreyfuse z hraní „politiky“, aby mohl ke svým myšlenkám připojit prestižní jméno RAND. Simon řekl: „To, co mi na tom vadí, bylo jméno RAND spojené s tím odpadem.“

Dreyfus, který učil na MIT , si pamatuje, že jeho kolegové pracující v AI „se neodvážili vidět se mnou na obědě.“ Joseph Weizenbaum , autor knihy ELIZA , cítil, jak jeho kolegové zacházeli s Dreyfusem neprofesionálně a dětinsky. Ačkoli byl přímým kritikem Dreyfusových pozic, vzpomíná: „Stal jsem se jediným členem komunity AI, který byl viděn jíst oběd s Dreyfusem. A záměrně jsem dal jasně najevo, že to jejich není způsob, jak zacházet s lidskou bytostí.“

Tento článek byl předmětem krátkého článku v časopise The New Yorker magazine z 11. června 1966. Dílo zmiňovalo Dreyfusovo tvrzení, že zatímco počítače mohou hrát dámu, žádný počítač ještě nemohl hrát slušnou šachovou hru. Zpráva s ironickým humorem (jako měl Dreyfus) o vítězství desetiletého nad vedoucím šachovým programem, a to „ještě víc, než je obvyklá samolibost“.

V naději, že obnovení UI pověst, Seymour Papert uspořádal šachový zápas mezi Dreyfus a Richard Greenblatt s Mac Hack programu. Dreyfus prohrál, k velké Papertově spokojenosti. Sdružení pro výpočetní techniku bulletinu použil titulek:

„Desetiletý může porazit stroj - Dreyfus: Ale stroj dokáže porazit Dreyfuse “

Dreyfus si v tisku stěžoval, že neřekl, že počítač nikdy nebude hrát šachy, na což Herbert A. Simon odpověděl: „Měli byste si uvědomit, že někteří z těch, kteří jsou kousnuti vašimi ostrými prózami, jsou pravděpodobně ve své lidské slabosti, odhryznout ... mohu být tak smělý, abych naznačil, že byste mohli začít s ochlazováním --- obnovení vašeho smyslu pro humor bylo dobrým prvním krokem. “

Ospravedlněno

Na počátku 90. let se několik radikálních názorů Dreyfuse stalo mainstreamem.

Neúspěšné předpovědi . Jak předpověděl Dreyfus, grandiózní předpovědi raných vědců v oblasti umělé inteligence se nesplnily. Plně inteligentní stroje (nyní známé jako „ silná AI “) se neobjevily v polovině 70. let, jak se předpovídalo. HAL 9000 (jehož schopnosti přirozeného jazyka, vnímání a řešení problémů byly založeny na radách a názorech Marvina Minského ) se neobjevil v roce 2001. „Výzkumníci umělé inteligence“, píše Nicolas Fearn, „jednoznačně potřebují něco vysvětlit.“ Dnes se vědci zdráhají dělat takové předpovědi, jaké byly učiněny v počátcích. (Ačkoli někteří futuristé, jako je Ray Kurzweil , stále mají stejný druh optimismu.)

Biologický předpoklad , i když byl běžný ve čtyřicátých a na počátku padesátých let, již většina vědců v oblasti umělé inteligence nepředpokládala v době, kdy Dreyfus publikoval Co počítače nemohou dělat . Ačkoli mnoho lidí stále tvrdí, že je nezbytné zpětně analyzovat mozek simulací působení neuronů (například Ray Kurzweil nebo Jeff Hawkins ), nepředpokládají, že neurony jsou v zásadě digitální, ale spíše že působení analogových neuronů může být simulovány digitálními stroji s přiměřenou úrovní přesnosti. ( Alan Turing provedl stejné pozorování již v roce 1950.)

Psychologické předpoklady a dovednosti v bezvědomí . Mnoho vědců z oblasti umělé inteligence se shodlo na tom, že lidské uvažování nespočívá primárně v manipulaci se symboly na vysoké úrovni. Od té doby, co Dreyfus poprvé publikoval své kritiky v 60. letech, se výzkum AI obecně odklonil od manipulace se symboly na vysoké úrovni nebo „ GOFAI “ směrem k novým modelům, které mají zachytit více našich nevědomých úvah. Daniel Crevier píše, že do roku 1993, na rozdíl od roku 1965, vědci v oblasti umělé inteligence „již neudělali psychologický předpoklad“ a bez něj pokračovali vpřed.

V 80. letech tyto nové „ subsymbolické “ přístupy zahrnovaly:

  • Paradigmata výpočetní inteligence , jako jsou neuronové sítě , evoluční algoritmy atd., Jsou většinou zaměřena na simulované nevědomé uvažování. Sám Dreyfus souhlasí s tím, že tyto subsymbolické metody mohou zachytit druh „tendencí“ a „postojů“, které považuje za nezbytné pro inteligenci a odborné znalosti.
  • Výzkum znalostí o rozumu se zaměřil na reprodukci „pozadí“ nebo kontextu znalostí.
  • Výzkumníci v oblasti robotiky jako Hans Moravec a Rodney Brooks si byli mezi prvními, kteří si uvědomili, že nevědomé dovednosti se ukáží jako nejobtížnější reverzní inženýrství. (Viz Moravecův paradox .) Brooks by na konci 80. let stál v čele hnutí, které by mělo přímý cíl na použití symbolů na vysoké úrovni, zvaných Nouvelle AI . Nachází hnutí v robotice výzkum pokouší zachytit naše podvědomé dovednosti při vnímání a pozornosti.

V 90. letech a v prvních desetiletích 21. století používaly přístupy k strojovému učení založené na statistikách techniky související s ekonomikou a statistikou, které umožňovaly strojům „hádat“ - činit nepřesná, pravděpodobnostní rozhodnutí a předpovědi založené na zkušenostech a učení. Tyto programy simulují způsob, jakým jsou naše podvědomé instinkty schopny vnímat, všímat si anomálií a činit rychlé úsudky, podobně jako Dreyfus nazýval „dimenzování situace a reakce“, ale zde se „situace“ skládá z obrovského množství číselných údajů. Tyto techniky jsou velmi úspěšné a v současné době jsou široce používány v průmyslu i na akademické půdě.

Tento výzkum šel vpřed bez jakékoli přímé souvislosti s Dreyfusovou prací.

Know-how a know-that . Výzkum v psychologii a ekonomii dokázal, že Dreyfusova (a Heideggerova) spekulace o povaze řešení lidského problému byla v podstatě správná. Daniel Kahnemann a Amos Tversky shromáždili obrovské množství přesvědčivých důkazů, že lidé používají k řešení problémů dvě velmi odlišné metody, které pojmenovali „systém 1“ a „systém 2“. Systém jedna, známý také jako adaptivní nevědomí , je rychlý, intuitivní a v bezvědomí. Systém 2 je pomalý, logický a promyšlený. Jejich výzkum byl shromážděn v knize Thinking, Fast and Slow a inspiroval populární knihu Malcolma Gladwella Blink . Stejně jako u AI byl tento výzkum zcela nezávislý na Dreyfusovi i Heideggerovi.

Ignorováno

Ačkoli jednoznačně souhlasil výzkum AI s Dreyfusem, McCorduck tvrdil, že „můj dojem je, že tento pokrok nastal po částech a v reakci na těžké dané problémy a Dreyfusovi ne dluží nic.“

Komunita AI se až na několik výjimek rozhodla nereagovat přímo na Dreyfuse. „Je příliš hloupý, než aby to vzal vážně,“ řekl výzkumník Pamele McCorduckové. Marvin Minsky řekl o Dreyfusovi (a dalších kritikách vycházejících z filozofie ), že „nedorozumějí a měli by být ignorováni“. Když Dreyfus v roce 1972 rozšířil Alchemy and AI na délku knihy a vydal ji jako What Computers Can't Do v roce 1972, nikdo z komunity AI se nerozhodl odpovědět (s výjimkou několika kritických recenzí). McCorduck se ptá: „Pokud má Dreyfus tak špatnou hlavu, proč se lidé z umělé inteligence nesnažili vyvrátit ho?“

Součástí problému byl druh filozofie, kterou Dreyfus použil ve své kritice. Dreyfus byl odborníkem na moderní evropské filozofy (jako Heidegger a Merleau-Ponty ). Výzkumníci AI v 60. letech naopak založili své chápání lidské mysli na technických principech a účinných technikách řešení problémů souvisejících s vědou o řízení . Na základní úrovni mluvili jiným jazykem. Edward Feigenbaum si stěžoval: „Co nám nabízí? Fenomenologie ! Ta koule chmýří. Ta cukrová vata!“ V roce 1965 byla prostě příliš velká propast mezi evropskou filozofií a umělou inteligencí , mezeru, která byla mezitím vyplněna kognitivní vědou , konekcionalismem a robotickým výzkumem. Trvalo by mnoho let, než se vědci umělé inteligence dokázali vypořádat s problémy, které byly důležité pro kontinentální filozofii, jako je situovanost , ztělesnění , vnímání a gestalt .

Dalším problémem bylo, že tvrdil (nebo vypadal, že tvrdí), že AI nikdy nebude schopna zachytit lidskou schopnost porozumět kontextu, situaci nebo účelu ve formě pravidel. Ale (jak by později vysvětlili Peter Norvig a Stuart Russell ) nelze argument této formy vyhrát: jen proto, že si člověk nedokáže představit formální pravidla, která řídí lidskou inteligenci a odbornost, to neznamená, že žádná taková pravidla neexistují. Citují odpověď Alana Turinga na všechny argumenty podobné Dreyfusově:

„nemůžeme se tak snadno přesvědčit o absenci úplných zákonů chování ... Jediným způsobem, jak víme, že takové zákony najdeme, je vědecké pozorování a rozhodně nevíme o žádných okolnostech, za kterých bychom mohli říci:‚ Hledali jsme dost . Takové zákony neexistují. ““

Dreyfus nepředpokládal, že si vědci AI uvědomí svou chybu a začnou pracovat na nových řešeních, odklon od symbolických metod, které Dreyfus kritizoval. V roce 1965 si nepředstavoval, že takové programy jednoho dne budou vytvořeny, a tak tvrdil, že AI je nemožná. V roce 1965 si vědci z umělé inteligence nepředstavovali, že jsou takové programy nezbytné, a tak tvrdili, že umělá inteligence je téměř úplná. Oba se mýlili.

Vážnějším problémem byl dojem, že Dreyfusova kritika byla nenapravitelně nepřátelská. McCorduck napsal: „Jeho výsměch byl tak provokující, že odcizil každého, koho by mohl osvítit. A to je škoda.“ Daniel Crevier uvedl, že „čas prokázal přesnost a vnímavost některých Dreyfusových komentářů. Kdyby je formuloval méně agresivně, konstruktivní opatření, která navrhovali, by mohla být přijata mnohem dříve.“

Viz také

Poznámky

Reference