Superinteligence: Cesty, nebezpečí, strategie -Superintelligence: Paths, Dangers, Strategies

Superinteligence:
Cesty, nebezpečí, strategie
Superintelligence.jpg
První vydání
Autor Nick Bostrom
Země Spojené království
Jazyk Angličtina
Předmět Umělá inteligence
Žánr Filozofie , populární věda
Vydavatel Oxford University Press
Datum publikace
 3. července 2014 (Spojené království)
1. září 2014 (USA)
Typ média Tisk, e-kniha, audiokniha
Stránky 352 stran
ISBN 978-0199678112
Předchází Globální katastrofická rizika 

Superintelligence: Paths, Dangers, Strategies je kniha švédského filozofa Nicka Bostroma z Oxfordské univerzity z roku 2014. Tvrdí, že pokud strojní mozky překonají lidské mozky v obecné inteligenci, pak by tato nová superinteligence mohla nahradit lidi jako dominantní formu života na Zemi. Dostatečně inteligentní stroje by mohly zlepšit své vlastní schopnosti rychleji než lidští počítačoví vědci a výsledkem by mohla být existenční katastrofa pro lidi.

Bostromova kniha byla přeložena do mnoha jazyků.

Synopse

Není známo, zda umělá inteligence na lidské úrovni dorazí během několika let, později v tomto století, nebo ne až do dalších století. Bez ohledu na počáteční časový rámec, jakmile bude vyvinuta strojová inteligence na lidské úrovni, „superinteligentní“ systém, který „výrazně převyšuje kognitivní výkonnost lidí prakticky ve všech oblastech zájmu“, by s největší pravděpodobností následoval překvapivě rychle. Takovou superinteligenci by bylo velmi obtížné ovládat nebo omezovat.

I když se konečné cíle superinteligencí mohou velmi lišit, funkční superinteligence bude jako přirozené dílčí cíle spontánně generovat „ instrumentální cíle “, jako je sebezáchova a integrita obsahu cíle, kognitivní vylepšení a získávání zdrojů. Například agent, jehož jediným konečným cílem je vyřešit Riemannovu hypotézu (slavná nevyřešená, matematická domněnka ), by mohl vytvořit a působit na dílčí cíl transformace celé Země na nějakou formu computronia (hypotetický materiál optimalizovaný pro výpočet), aby pomohl výpočet. Superinteligence by proaktivně odolávala jakýmkoli vnějším pokusům superinteligenci vypnout nebo jinak zabránit jejímu dokončení dílčího cíle. Aby se zabránilo takové existenciální katastrofě , je nutné úspěšně vyřešit „ problém ovládání AI “ pro první superinteligenci. Řešení může zahrnovat vštěpování superinteligenci cílům, které jsou kompatibilní s lidským přežitím a blahobytem. Řešení problému s ovládáním je překvapivě obtížné, protože většina cílů, když jsou přeložena do strojově implementovatelného kódu, vede k nepředvídaným a nežádoucím důsledkům.

Sova na přebalu knihy zmiňuje analogii, kterou Bostrom nazývá „Nedokončená bajka vrabců“. Skupina vrabců se rozhodne najít soví mládě a vychovat jej jako svého sluhu. Dychtivě si představují, „jak snadný by byl život“, kdyby měli sovu, která by jim pomohla stavět hnízda, bránit vrabce a osvobodit je na volný čas. Vrabci zahájili obtížné hledání sovího vejce; pouze „Scronkfinkle“, „jednooký vrabec s mrzutým temperamentem“, navrhuje zamyslet se nad komplikovanou otázkou, jak zkrotit sovu, než ji uvedete „do našeho středu“. Ostatní vrabci zneklidňují; hledání sovího vajíčka už bude samo o sobě dost těžké: „Proč nejdřív nezískat sovu a později doladit jemné detaily?“ Bostrom uvádí, že „není známo, jak příběh končí“, ale svou knihu věnuje Scronkfinkle.

Recepce

Kniha se umístila na 17. místě v seznamu nejprodávanějších vědeckých knih The New York Times za srpen 2014. Ve stejný měsíc se obchodní magnát Elon Musk dostal na titulní stránky souhlasem s knihou, že umělá inteligence je potenciálně nebezpečnější než jaderné zbraně. Bostromova práce na superinteligenci také ovlivnila starost Billa Gatese o existenční rizika, kterým lidstvo v nadcházejícím století čelí. V rozhovoru z března 2015 s generálním ředitelem Baidu , Robinem Li , Gates řekl, že Superintelligence „velmi doporučí“ . Podle deníku New Yorker to filozofové Peter Singer a Derek Parfit „přijali jako důležité dílo“.

Vědecký redaktor listu Financial Times zjistil, že Bostromovo psaní „někdy přechází do neprůhledného jazyka, který prozrazuje jeho minulost jako profesora filozofie“, ale přesvědčivě ukazuje, že riziko superinteligence je dostatečně velké, že by společnost měla začít přemýšlet o způsobech, jak vybavit budoucí strojovou inteligenci s kladnými hodnotami. Recenze v deníku The Guardian poukázala na to, že „i ty dosud nejpropracovanější stroje jsou inteligentní pouze v omezeném smyslu“ a že „očekávání, že AI brzy předstihne lidskou inteligenci, byla poprvé zmařena v 60. letech“, ale nachází společnou řeč s Bostromem v radě, že „by bylo špatně, kdyby tuto možnost úplně odmítl“.

Někteří Bostromovi kolegové naznačují, že jaderná válka představuje pro lidstvo větší hrozbu než superinteligence, stejně jako budoucí vyhlídky na vyzbrojování nanotechnologií a biotechnologií . The Economist uvedl, že „Bostrom je nucen strávit velkou část knihy diskusemi o spekulacích postavených na věrohodných dohadech ... ale kniha je přesto cenná. Důsledky zavedení druhého inteligentního druhu na Zemi jsou dostatečně rozsáhlé, aby si zasloužily tvrdé myšlení, i když se vyhlídka, že to skutečně udělá, zdá vzdálená. “ Ronald Bailey v libertariánském Reason napsal, že Bostrom je pádným případem, že řešení problému s kontrolou AI je „zásadním úkolem naší doby“. Podle Toma Chiversa z The Daily Telegraph je kniha obtížně čtivá, ale přesto obohacující. Recenzent v časopise Journal of Experimental & Theoretical Artificial Intelligence se rozešel s ostatními tím, že uvedl „styl psaní knihy je jasný“, a knihu chválil, že se vyhnula „příliš technickému žargonu“. Recenzent ve filozofii usoudil, že Superintelligence je „realističtější“ než kniha Singularity Is Near od Raye Kurzweila .

Viz také

Reference