načítání...
nákupní košík
Košík

je prázdný
a
b

E-kniha: Superinteligence -- Až budou stroje chytřejší než lidé - Nick Bostrom

Superinteligence -- Až budou stroje chytřejší než lidé
-11%
sleva

Elektronická kniha: Superinteligence -- Až budou stroje chytřejší než lidé
Autor:

Mnozí si dnes kladou otázku, zda umělá inteligence překoná v dohledné budoucnosti tu lidskou, a pokud ano, jaké to bude mít důsledky. Budeme umělou inteligenci, která si je ... (celý popis)
Titul je skladem - ke stažení ihned
Médium: e-kniha
Vaše cena s DPH:  249 Kč 222
+
-
7,4
bo za nákup

ukázka z knihy ukázka

Titul je dostupný ve formě:
elektronická forma tištěná forma

hodnoceni - 0%hodnoceni - 0%hodnoceni - 0%hodnoceni - 0%hodnoceni - 0%   celkové hodnocení
0 hodnocení + 0 recenzí

Specifikace
Nakladatelství: » PROSTOR
Dostupné formáty
ke stažení:
EPUB, MOBI, PDF
Upozornění: většina e-knih je zabezpečena proti tisku
Médium: e-book
Počet stran: 512
Jazyk: česky
ADOBE DRM: bez
ISBN: 978-80-726-0389-3
Ukázka: » zobrazit ukázku
Popis

Mnozí si dnes kladou otázku, zda umělá inteligence překoná v dohledné budoucnosti tu lidskou, a pokud ano, jaké to bude mít důsledky. Budeme umělou inteligenci, která si je vědoma sama sebe, ještě schopni kontrolovat? Bude naším spojencem? Nebo nás nebude už potřebovat, a může nás tudíž chtít zničit? Vznikne nový „živočišný“ druh, který bude kombinací člověka a jím vyvinuté umělé inteligence? Na tyto a další otázky se pokouší odpovědět monografická kniha Nicka Bostroma.


Autor nabízí nejprve historický přehled různých kroků, které vedly ke vzniku zárodků umělé inteligence, jakož i přehled toho, kde se její vývoj nachází dnes. Probírá jednotlivé druhy umělé inteligence – od počítačů až po nové formy, které by mohly kombinovat stroje s biologickou materií. Předkládá rovněž komplexní přehled názorů odborníků na to, jakým směrem se bude vývoj umělé inteligence ubírat.


V centru jeho pozornosti stojí otázka, zda může umělá inteligence – buď ve formě stroje, nebo v kombinaci s biologickými formami rozumu – napodobit fungování lidského mozku. Dokud toho umělá inteligence nebude schopná, bude z podstaty věci omezená. Lidský mozek má podle něj určité schopnosti, které ostatní formy nám známého biologického života postrádají. Na planetě Zemi to lidem dává dominantní postavení, které jim umožňuje mít převahu nad ostatními formami života, včetně těch vysoce inteligentních, jako jsou lidoopi.


Bostrom varuje, že podobně jako přežití lidoopů nyní jen kvůli malé genetické výhodě záleží na vůli lidí, může se stát, že pokud vytvoříme superinteligenci, která bude podobným způsobem nadřazena nám, stane se naše vlastní přežití závislé na ní. Naší výhodou však je, že to, zda učiníme krok k vyšší formě inteligence, než je ta naše, závisí na nás. To, že lidstvo dojde k bodu, kdy bude schopno uvést superinteligenci v život, je podle autora nevyhnutelné. Otázka zní, jak toto zrození superinteligence provést tak, aby nás v krátkém čase nezahubilo. Autor při tom nabízí různé scénáře možného vývoje.


Klade si otázku, jakou bude mít superinteligence „motivaci“ pro svá rozhodnutí. V centru lidského chování stojí morální dilemata. Bude možné trvalé morální sebeomezení naprogramovat nějakým způsobem do umělé inteligence, která se bude schopna sama vylepšovat? Odpověď není zcela jistá, a Bostrom se proto zabývá několika možnostmi, jak by se lidstvo mohlo proti ztrátě kontroly nad umělou superinteligencí bránit. I zde ale naráží na dilemata, protože inteligence převyšující tu lidskou může být schopná takové naprogramované kontroly či mechanismy k jejímu sebezničení odhalit a obejít…


Kniha je čtivá a přístupná nejen odborníkům, ale i širokému publiku. Její výhodou je, že se zabývá scénáři, jež mohou vyplynout z dalšího vylepšování technologií, které dnes používá v různých formách každé dítě.

Nick Bostrom (1973), vl. jm. Niklas Boström, pochází ze Švédska. Studoval mimo jiné filozofii, matematiku a fyziku na univerzitách v Göteborgu, ve Stockholmu a na King’s College v Londýně. V současnosti je profesorem Oxfordské univerzity a zakládajícím ředitelem Future of Humanity Institute, multidisciplinárního centra, které umožňuje nadaným filozofům a vědcům bádat nad velkými otázkami lidstva. Je autorem více než 200 prací přeložených do 24 jazyků. K oblastem jeho zájmu a zkoumání patří simulace reality, antropický princip, vliv umělé inteligence a etická role technologií v dnešním i budoucím světě. K monografiím patří Anthropic Bias (Antropický princip, 2002), Global Catastrophic Risks (Globální katastrofická rizika, 2008) a Human Enhancement (Lepší lidstvo, 2009). Časopis Foreign Policy ho dvakrát zařadil mezi sto nejvlivnějších intelektuálů světa.

Zařazeno v kategoriích
Nick Bostrom - další tituly autora:
Recenze a komentáře k titulu
Zatím žádné recenze.


Ukázka / obsah
Přepis ukázky

NICK BOSTROM: SUPERINTELIGENCE4

Superinteligence

Vyšlo také v tištěné verzi

Objednat můžete na

www.eprostor.com

www.e-reading.cz

www.palmknihy.cz

Nick Bostrom

Superinteligence – e-kniha

Copyright © PROSTOR, nakladatelství, s. r. o., 2018

Všechna práva vyhrazena.

Žádná část této publikace nesmí být rozšiřována

bez písemného souhlasu majitelů práv.


Bostrom 1


NICK BOSTROM: SUPERINTELIGENCE2

e

d

i

c

e

G

L

O

B

U

S


Bostrom 3

Nick Bostrom

Superinteligence

Až budou stroje chytřejší než lidé

PROSTOR


Bostrom 5

přeložil Jan Petříček

PROSTOR | PRAHA | 2018

AŽ BUDOU STROJE CHYTŘEJŠÍ NEŽ LIDÉ

NICK BOSTROM

SUPER

INTELI

GENCE


NICK BOSTROM: SUPERINTELIGENCE6

SUPERINTELLIGENCE: PATHS, DANGERS, STRATEGIES, FIRST EDITION

was originally published in English in 2014. This translation is published

by arrangement with Oxford University Press.

Copyright © Nick Bostrom, 2014

All rights reserved

Czech edition © PROSTOR, 2018

Translation © Jan Petříček, 2017

Cover picture © shutterstock/isifa, 2018

ISBN 978-80-7260-389-3


Bostrom 7

OBSAH

Nedokončená bajka o vrabcích 11

Předmluva 13

kapitola 1

Dosavadní vývoj a dnešní schopnosti 17

Režimy růstu a velké dějiny 17

Nadějné vyhlídky 20

Období naděje a zoufalství 23

Současný stav oboru 33

Názory na budoucnost strojové inteligence 42

kapitola 2

Cesty k superinteligenci 47

Umělá inteligence (UI) 48

Úplná emulace mozku 58

Biologická kognice 68

Rozhranímozekočítač 80

Sítě a organizace 86

Shrnutí 88

kapitola 3

Formy superinteligence 91

Rychlostní superinteligence 92

Kolektivní superinteligence 93

Kvalitativní superinteligence 97

Přímý a nepřímý dosah 99

Výhody digitální inteligence 101

kapitola 4

Kinetika inteligenční exploze 106

Doba a rychlost vzestupu 106

Systémový odpor 112

Cesty nezahrnující strojovou inteligenci 112

Cesta emulace a UI 114

Optimalizační výkon a explozivnost 123


NICK BOSTROM: SUPERINTELIGENCE8

kapitola 5

Rozhodující strategická výhoda 129

Získá vedoucí projekt rozhodující strategickou výhodu? 130

Velikost úspěšného projektu 136

Monitorování 137

Mezinárodní spolupráce 140

Od rozhodující strategické výhody ke globální samovládě 142

kapitola 6

Kognitivní superschopnosti 146

Funkce a superschopnosti 147

Scénář převratu 152

Moc nad přírodou a moc nad agenty 158

kapitola 7

Superinteligentní vůle 166

Vztah mezi inteligencí a motivací 166

Instrumentální konvergence 171

Sebezáchova 172

Integrita obsahu cílů 172

Vylepšování kognice 175

Zdokonalování technologií 176

Získávání zdrojů 177

kapitola 8

Jak pravděpodobná je zkáza lidstva? 181

Směřovala by inteligenční exploze k existenční katastrofě? 181

Zrádný obrat 183

Druhy zhoubného selhání 188

Zvrácené uskutečnění cíle 188

Překypění infrastruktury 192

Zločiny v mysli 197

kapitola 9

Problém kontroly 199

Dva problémy zastoupení 199

Metody kontroly schopností 202

Metody izolace 202

Metody pobídek 205

Zbrzdění 209

Nástražné mechanismy 213

Metody výběru motivací 215

Přímá specifikace 216

Domestikace 219

Nepřímá normativnost 220

Augmentace 221

Přehled 222


Bostrom 9

kapitola 10

Věštírny, džinové, suveréni, nástroje 224

Věštírny 224

Džinové a suveréni 229

Nástrojové UI 232

Srovnání 239

kapitola 11

Multipolární scénáře 243

O koních a lidech 244

Mzdy a nezaměstnanost 245

Kapitál a blahobyt 247

Malthusiánský princip v historické perspektivě 249

Populační růst a investice 251

Život v algoritmické ekonomice 253

Dobrovolné otroctví, masová úmrtí 255

Jak zábavná by maximálně efektivní práce byla? 258

Nevědomí subdodavatelé? 261

Evoluce nemusí směřovat vzhůru 264

Utvoří se v porevoluční době globální samovláda? 269

Druhý přechod 269

Superorganismy a úspory z rozsahu 270

Smluvní sjednocení 274

kapitola 12

Získávání hodnot 281

Problém nahrávání hodnot 281

Evoluční výběr 284

Zpětnovazební učení 286

Postupný růst hodnot 287

Motivační lešení 289

Učení se hodnotám 291

Modulace emulace 304

Budování institucí 306

Přehled 312

kapitola 13

Volba kritérií pro volby 315

Potřeba nepřímé normativnosti 315

Koherentní extrapolovaná vůle 318

Několik vysvětlení 319

Proč dát přednost KEV 322

Další poznámky 325

Morální modely 327

Dělej to, co mám na mysli 331

Seznam konstrukčních voleb 334

Obsah cílů 335

Teorie rozhodování 336

Epistemologie 338


NICK BOSTROM: SUPERINTELIGENCE10

Ratifikace 340

Dostatečně dobrý výsledek 342

kapitola 14

Strategická mapa 344

Vědecká a technologická strategie 345

Diferencovaný technologický vývoj 345

Upřednostňované pořadí 347

Rychlost změn a vylepšování kognice 351

Spárování technologií 356

Vypočítavost v komunikaci 359

Cesty a předstupně 361

Dopady hardwarového pokroku 361

Měli bychom podporovat výzkum úplné emulace mozku? 364

Z osobního hlediska dáváme přednost rychlosti 369

Spolupráce 370

Závodová dynamika a její nebezpečí 370

O přínosech kooperace 374

Pracovat společně 380

kapitola 15

Kritické období 383

Filozofie s datem uzávěrky 383

Co bychom měli dělat? 385

Poznání strategického terénu 386

Budování kapacity 387

Konkrétní opatření 388

Ať vyjde na světlo to nejlepší v nás 389

Doslov 391

Poznámky 396

Seznam literatury 473

Seznamy obrázků, tabulek a rámečků 496

Slovníček 498

Poděkování 502

Rejstřík 504


Bostrom 11

Nedokončená bajka o vrabcích

Bylo právě období stavby hnízd, avšak po dnech dlouhé tvrdé práce

teď vrabci seděli ve večerním světle, odpočívali a štěbetali.

„Všichni jsme tak malí a slabí. Pomyslete, jak by byl náš život snadný, kdybychom měli sovu, která by nám pomáhala se stavbou hnízd!“

„Ano!“ řekl další vrabec. „A mohla by se starat o naše staré a o mláďata.“

„Mohla by nám radit a dávat pozor na kočku,“ dodal třetí.

Potom promluvil Pastus, ptačí stařešina: „Vyšleme zvědy do všech stran a pokusme se někde najít opuštěné soví mládě nebo vejce. Třeba by stačila i mladá vrána nebo lasička. Tohle by mohlo být to nejlepší, co nás kdy potkalo, přinejmenším od otevření Pavilonu nevyčerpatelného zrní vedle na dvorku.“

Celé hejno bylo nadšené a všude kolem začali vrabci štěbetat z plných plic.

Jediný Vrzličák, mrzutý jednooký vrabec, nebyl o rozumnosti tohoto podniku přesvědčen. I pravil: „To bude jistě náš konec. Než sovu přivedeme mezi nás, neměli bychom se nejprve zamyslet, jak ji ochočit?“

Pastus odpověděl: „Ochočit sovu, to zní jako neobyčejně náročný úkol. Už nalezení sovího vajíčka bude velmi obtížné. Začněme tedy u toho. Až se nám podaří si sovu opatřit, můžeme začít přemýšlet, jak si poradit s další výzvou.“

„Ten plán má zásadní vadu!“ zapištěl Vrzličák, avšak jeho protesty byly marné, neboť hejno už vzlétlo, aby začalo uskutečňovat Pastovy pokyny.

Pouze dva nebo tři vrabci zůstali na místě. Pokoušeli se společně vymyslet, jak by šlo sovy domestikovat. Brzy si uvědomili, že Pastus

NICK BOSTROM: SUPERINTELIGENCE12

měl pravdu: šlo o neobyčejně náročný úkol, především proto, že jim

chyběla skutečná sova, s níž by mohli cvičně pracovat. Přesto se

i nadále snažili, jak nejlépe dovedli, a žili ve stálém strachu, že se

hejno se sovím vejcem vrátí dříve, než naleznou řešení problému

kontroly.

Není známo, jak příběh končí, avšak tuto knihu autor věnuje

Vrzličákovi a jeho následovníkům.

Předmluva 13

Předmluva

Uvnitř vaší lebky se nachází věc, která teď čte tuto větu. Tato věc –

lidský mozek – má některé schopnosti, které chybějí mozkůmostatních zvířat. Právě těmto jeho charakteristickým schopnostemvděčíme za své dominantní postavení na planetě Zemi. Jiná zvířata mají

silnější svaly a ostřejší drápy, ale my máme chytřejší mozky. Díky své

skromné převaze v oblasti obecné inteligence jsme dospělik vytvoření jazyka, technologie a komplexního společenského uspořádání.

Spolu s  tím, jak každá generace staví na výdobytcích té předchozí,

naše převaha postupem času narůstá.

Pokud jednoho dne vytvoříme strojové mozky s  vyšší obecnou inteligencí, než mají mozky lidské, mohla by se tato novásuperinteligence stát velice mocnou. A stejně jako osud goril nyní závisí více na nás lidech než na samotných gorilách, závisel by i  osud našeho druhu na činech strojové superinteligence.

Máme ovšem jednu výhodu: tato vymoženost by byla našímvlastním dílem. V principu bychom mohli postavit takovousuperinteligenci, která by ochraňovala lidské hodnoty. Rozhodně bychom měli silný důvod tak učinit. V  praxi ovšem problém kontroly – jak mít pod kontrolou, co superinteligence bude dělat? – vypadá poměrně obtížně. Také se zdá, že dostaneme jenom jednu šanci. Jakmile by nepřátelská superinteligence existovala, zabránila by nám v tom, abychom ji nahradili jinou nebo abychom změnili její preference. Náš osud by byl zpečetěn.

V této knize se pokouším porozumět tomu, jakou výzvuvyhlídka na vznik superinteligence představuje a jak bychom na ni mohli nejlépe odpovědět. Dost možná jde o tu nejdůležitější a nejhrozivější

NICK BOSTROM: SUPERINTELIGENCE14

výzvu, jaké kdy lidstvo čelilo. A ať už uspějeme, nebo selžeme, je to

pravděpodobně ta poslední výzva, které kdy budeme čelit.

Součástí mé argumentace není tvrzení, že se nacházíme na prahu velkého průlomu ve vývoji umělé inteligence (UI) nebo žemůžeme přesně předpovědět, kdy by k němu mohlo dojít. Zdá secelkem pravděpodobné, že nastane někdy v  tomto století, ale nevíme to jistě. První dvě kapitoly se zabývají možnými cestami k  tomuto průlomu a  otázkou, kdy by k  němu mohlo dojít. Většina knihy se však týká toho, k čemu dojde poté. Budeme zkoumat kinetikuinteligenční exploze, formy a schopnosti superinteligence a také to, jaké strategické volby budou dostupné superinteligentnímu agentovi,který získá rozhodující převahu. Poté obrátíme pozornost k problému kontroly a budeme se ptát, jak bychom mohli počáteční podmínky zformovat tak, aby výsledný stav umožňoval naše přežití a  byl pro nás prospěšný. Ke konci knihy se z  většího odstupu podíváme na širší obraz, který před námi na základě našeho zkoumání vyvstane. Předložíme několik návrhů, co bychom v tuto chvíli měli udělat pro zvýšení šancí, že se v budoucnosti vyhneme existenční katastrofě.

Tuto knihu nebylo snadné napsat. Cesta, kterou jsem proklestil, snad ostatním badatelům umožní k nově vymezené hranici dospět rychleji a pohodlněji, aby se tam ocitli svěží a připraveni připojit se k práci na rozšiřování dosahu našeho poznání. (A je-li cesta, kterou jsem připravil, trochu hrbolatá a klikatá, recenzenti snad připosuzování výsledku nepodcení, jak nepřátelským byl terén ex ante!)

Tuto knihu nebylo snadné napsat: snažil jsem se, aby se dala snadno číst, ale nemyslím, že se mi to zcela podařilo. Během psaní jsem si coby cílové publikum představoval vlastní mladší já a pokoušel jsem se vytvořit knihu, jakou by mě bavilo číst. Možná se ukáže, že takto určený výsek populace je poněkud úzký. Přesto se domnívám, že by obsah knihy měl být přístupný pro mnoho lidí, pokud nad ním budou přemýšlet a odolají pokušení každou novou myšlenku okamžitě připodobnit tomu klišé ze své kulturnízásobárny, které se jí nejvíce podobá, a  tak si ji ihned vyložit nesprávně. Čtenáři postrádající vzdělání v oboru by se neměli nechat odradit matematickými rovnicemi či technickými termíny, jež se v  knize

Předmluva 15

občas objeví, neboť ústřední myšlenky se lze vždy dobrat s pomocí

doprovodných vysvětlení. (Čtenáři, kteří se naopak chtějí dozvědět

více technických podrobností, jich naleznou dosyta v poznámkách

na konci knihy.)

1

Mnohá tvrzení této knihy jsou nejspíš nesprávná.

2

Je taképravdě

podobné, že jsem opomenul vzít v  úvahu některé zásadně důležité

faktory, a  učinil tak neplatnými některé nebo všechny své závěry.

Věnoval jsem velkou pozornost tomu, abych v celém textu vyznačil

různé stupně nejistoty a jejich nuance, a přeplnil jsem jejnevzhledný

mi obraty typu „mohlo by“, „může“, „možná“, „zřejmě“, „asi“,„prav

děpodobně“. Všechny kvalifikátory byly na svá místa zařazenypeč

livě a  uváženě. Avšak tyto místní projevy epistemické skromnosti

nejsou postačující; musejí zde být doplněny o  systémové přiznání

nejistoty a omylnosti. Nejde o falešnou skromnost: jakkoliv se totiž

domnívám, že je má kniha pravděpodobně zásadním způsobemne

správná a zavádějící, myslím si, že alternativní stanoviska představená

v existující literatuře jsou podstatně horší – včetně onohozákladní

ho stanoviska nebo oné „nulové hypotézy“, podle které je bezpečné

či rozumné vyhlídku na vznik superinteligence prozatím ignorovat. NICK BOSTROM: SUPERINTELIGENCE16

1. Dosavadní vývoj a dnešní schopnosti 17

kapitola 1

Dosavadní vývoj

a dnešní schopnosti

N

ejprve se vrátíme do minulosti. Podíváme-li se na dějiny

v  nejširším měřítku, uvidíme posloupnost rozdílných režimů růstu, z nichž každý je rychlejší než ten předcházející. Tento vzorec dějinného vývoje podle některých názorů nasvědčuje tomu, že by mohl být možný další, ještě rychlejší režim růstu. Na tento postřeh však neklademe příliš velký důraz – téma této knihy netvoří „zrychlování technologického pokroku“, „exponenciál ní růst“ ani rozličné myšlenky, jež jsou někdy sdružovány do pojmu „singularita“. Následně přehlédneme dějiny umělé inteligence a poté zmapujeme její dnešní schopnosti. Nakonec se podíváme na některé nedávné průzkumy mínění mezi expertya popřemýšlíme nad naší nevědomostí ohledně doby, kdy dojde k budoucím pokrokům. Režimy růstu a velké dějiny Před pouhými pár miliony let se naši předci stále ještě houpali na větvích v  afrických pralesích. Vzestup od posledního společného předka lidí a  lidoopů k  druhu Homo sapiens proběhl na geologické i  evoluční časové ose velmi rychle. Osvojili jsme si vzpřímené držení těla, získali jsme chápavé palce, a  především jsme podstouili jisté poměrně malé změny ve velikosti mozku a  v  uspořádání

NICK BOSTROM: SUPERINTELIGENCE18

nervové soustavy, jež vedly k  velkému pokroku v  našich kognitivních schopnostech. Díky tomu dokážeme mnohem lépe než jakýkoliv jiný druh na planetě abstraktně přemýšlet, předávat si složité

myšlenky a hromadit informace napříč generacemi.

Tyto schopnosti lidem umožnily rozvíjet stále účinnější výrobní technologie, takže se naši předci mohli přestěhovat daleko od deštného pralesa a  savany. Zvláště po vzniku zemědělství se začala zvyšovat hustota a celková velikost lidské populace. S více lidmi se objevovalo více myšlenek – a díky větší hustotě obyvatelstva se tyto myšlenky mohly šířit rychleji a  někteří jednotlivci se mohli věnovat rozvoji specializovaných dovedností. Tento vývoj zvýšil tempo růstu ekonomické produktivity a technologické kapacity.K druhému srovnatelnému skokovému navýšení tempa růstu vedly pozdější proměny související s průmyslovou revolucí.

Takové změny v tempu růstu mají významné následky. Předněkolika stovkami tisíc let, v  době rané lidské (či hominidní)prehistorie, probíhal růst tak pomalu, že trvalo zhruba milion let, než se lidská výrobní kapacita zvýšila natolik, aby bylo možné uživit další milion jednotlivců žijících na úrovni existenčního minima. V roce 5000 př.  n.  l., v  době po neolitické revoluci, již bylo tempo růstu o  tolik vyšší, že na tentýž objem růstu stačila jenom dvě staletí. V současnosti, v době po průmyslové revoluci, světová ekonomika o tento objem roste v průměru každých devadesát minut.

3

Pokud se současné tempo růstu udrží alespoň po středně dlouhou dobu, přinese i ono působivé výsledky. Poroste-li světová ekonomika nadále stejnou rychlostí jako v posledních padesáti letech, bude do roku 2050 svět asi 5,4krát a do roku 2100 přibližně 34krát bohatší, než je dnes.

4

Avšak perspektiva stále pokračujícího exponenciálního růstubledne ve srovnání s vyhlídkou na to, co by se stalo, kdyby svět zažil další skokové navýšení tempa růstu, jež by svou velikostí bylosrovnatelné s  navýšeními spojenými s  neolitickou a  průmyslovou revolucí. Ekonom Robin Hanson na základě údajů o ekonomice a demografii minulých období odhaduje, že typická doba, za niž se velikostsvětové ekonomiky zdvojnásobí, činí pro pleistocenní společnost lovců a  sběračů 224  000 let, pro společnost zemědělců 909 let a  pro

1. Dosavadní vývoj a dnešní schopnosti 19

průmyslovou společnost 6,3 roku.

5

(Současné období podleHansonova modelu představuje směs zemědělského a  průmyslového režimu růstu – světová ekonomika jako celek se dosud dvojnásobně

za 6,3 roku nezvětšuje.) Pokud by došlo k dalšímu takovému skoku

a  pokud by byl podobně veliký jako oba předchozí, nastal by tím

nový režim růstu, v  němž by se světová ekonomika dvojnásobně

zvětšovala každé dva týdny.

Z dnešního hlediska působí takové tempo růstu neuvěřitelně.Pozorovatelé z dřívějších epoch by možná považovali za stejněabsurdní, že se jednou velikost světové ekonomiky bude zdvojnásobovat několikrát během jednoho lidského života. Právě tuto neobyčejnou situaci přesto nyní považujeme za obyčejnou.

Myšlenka blížící se technologické singularity byla široce zpopularizována, nejprve zásluhou vlivného článku Vernora Vinge a poté zásluhou textů Raye Kurzweila a dalších autorů.

6

Výraz„singularita“ je však zmateným způsobem používán v  mnoha nesourodých

významech a  byl obdařen hrozivou (a  přece téměř chiliastickou)

aurou technologicko-utopistických konotací.

7

Protože pro našeúvahy je většina z těchto významů a konotací irelevantní, můžemev zájmu větší jasnosti slovo „singularita“ nahradit přesnější terminologií.

Z myšlenek souvisejících se „singularitou“ nás zde zajímá možnost inteligenční exploze, zvláště perspektiva vzniku strojové superinteligence. Takové diagramy růstu, jako jsou ty na obrázku 1, možná některé čtenáře přesvědčí, že je na spadnutí další drastická změna v režimu růstu, srovnatelná s neolitickou nebo průmyslovourevolucí. Tito čtenáři pak mohou dovodit, že lze stěží vymyslet scénář, v němž se doba dvojnásobného růstu světové ekonomiky zkrátí na dva týdny, a jenž přitom nezahrnuje stvoření umělých mozků, které budou mnohem rychlejší a  výkonnější než ty dobře známé biologické. Argumentace pro to, že bychom vidinu revoluce ve strojové inteligenci měli brát vážně, se však nemusí opírat o  cvičení v prokládání dat křivkou ani o  extrapolace z  dřívějšího ekonomického růstu. Jak uvidíme, existují silnější důvody, proč bychom se měli mít na pozoru.

NICK BOSTROM: SUPERINTELIGENCE20

Obrázek 1 Dějiny světového hrubého domácího produktu (HDP) v dlouhodobéper

spektivě Zakreslíme-li je do grafu v lineárním měřítku, vypadají dějiny světové ekono

miky jako vodorovná čára, jež se těsně drží osy x, dokud náhle nezamíří prudce nahoru

I pokud si přiblížíme jenom posledních 10 000 let, stále má křivka v podstatě podobu

jednoho pravého úhlu (a) Až během posledních asi 100 let se křivka postřehnutelně

zvedá nad nulovou úroveň (b) (Různé křivky v grafu odpovídají různým souborům dat,

jež dávají lehce odlišné odhady )

8

Nadějné vyhlídky

Vznik strojů, jež se nám vyrovnají co do obecné inteligence – tj. jež

budou mít zdravý rozum a budou schopny se efektivně učit, uvažovat

a plánovat, takže se napříč širokým spektrem přirozenýcha abstrakt

ních oblastí vyrovnají s komplexními úlohami na zpracováváníinfor

mací –, lidé očekávali už od vynálezu počítačů ve čtyřicátých letech

G R O WT H MO D E S A N D B I G H I S T O R Y | 3

Such a growth ra te seems fa ntastic by cur rent lights. Obs er ver s in

earlier epochs might have found it equally prepos ter ous to suppos e that

the world economy would one day be doubling several times within a

single lif es pan. Yet that is the extraordinary condi tio n we now take to be

ordinary.

popularized, startin g with Ver nor Vinge’s seminal es say and contin uing

with the writin gs of Ray Kurzwei l and other s.

4

(a)

(b)

5

10

15

20

25

30

35

40

45

1700 1750 1800 1850 1900 1950 2000

5

10

15

20

25

30

35

40

45

20000–2000–4000–6000–8000Světový HDP v bilionech (2012 Int$)

Světový HDP v bilionech (2012 Int$)

Rok

Rok

Long-term history of world GDP. Plotted on a linear scale, the history of the

world economy looks like a flat line hugging the x-axis, until it suddenly spikes vertically

5

)

9780199678100-Bostrom.indb 3 02/02/16 12:46 PM

1. Dosavadní vývoj a dnešní schopnosti 21

20. století. Tehdy předpovídali, že takové stroje vzniknou zhruba za

20 let.

9

Od té doby se datum jejich očekávaného příchoduvzdalovalo rychlostí jednoho roku za rok, takže i dnešní futurologové, kteří

se zabývají možností umělé obecné inteligence, často soudí, že inteligentní stroje se objeví za dvě desetiletí.

10

Vzdálenost dvou desetiletí je pro hlasatele radikální změnyideální: je dostatečně krátká, aby vzbuzovala pozornost a působilarelevantně, ale zároveň dostatečně dlouhá, aby se dalo předpokládat, že během ní dojde k  řadě objevů, které si nyní dokážeme představit jenom matně. Srovnejme ji s  kratšími časovými obdobími: většina technologií, které budou mít na svět velký dopad v  příštích pěti či deseti letech, se už v omezeném rozsahu používá a technologie,které svět přetvoří za patnáct let, pravděpodobně již existují v podobě laboratorních prototypů. Zhruba dvacet let také prognostikovi obvykle zbývá do konce kariéry, což snižuje rizika, která by smělá předpověď mohla představovat pro jeho pověst.

Z  toho, že v  minulosti byly některé předpovědi ohledně umělé inteligence přehnané, však neplyne, že UI není možná nebo že nikdy nebude vyvinuta.

11

Hlavním důvodem, proč byl pokrokpomalejší, než se očekávalo, byla skutečnost, že technické obtíže spojené

s konstrukcí inteligentních strojů byly nakonec větší, nežprůkopníci UI předvídali. Zůstává však otevřené, jak přesně velké tyto obtíže

jsou a  jak daleko jsme dnes od toho, abychom je překonali. Občas

se ukáže, že problém, jenž na počátku vypadal beznadějně složitě,

lze vyřešit překvapivě snadno (ačkoliv k opaku pravděpodobnědochází častěji).

V následující kapitole se podíváme na několik cest, které můžou vést ke strojové inteligenci, jež by se vyrovnala té lidské. Hned na začátku však upozorněme, že ať už se mezi ní a  nynějším stavem nachází dalších zastávek, kolik jen chcete, není strojová inteligence lidské úrovně konečnou destinací. Další zastávkou, ležící na dohled od ní, je strojová inteligence, která tu naši převyšuje. Vlak pokroku se možná ve stanici Člověkovice nezastaví, ba v  ní ani nezpomalí. Pravděpodobně jí jenom prosviští.

Možná prvním, kdo formuloval základní body tohoto scénáře,

NICK BOSTROM: SUPERINTELIGENCE22

byl matematik I. J. Good, jenž během druhé světové války pracoval

jako hlavní statistik v Turingově kryptoanalytickém týmu. V hojně

citované pasáži z roku 1965 Good napsal:

Nechť je ultrainteligentní stroj definován jako takový stroj, který ve všech

intelektuálních činnostech dokáže dosáhnout mnohem vyšší úrovně než

libovolný člověk, ať jakkoliv chytrý Protože jednou z lidskýchintelektuál

ních aktivit je i navrhování strojů, dokázal by ultrainteligentní strojnavr

hovat ještě lepší stroje; bezpochyby by tedy došlo k „inteligenčníexplo

zi“ a lidská inteligence by zůstala daleko pozadu První ultrainteligentní

stroj je tudíž tím posledním vynálezem, který kdy člověk bude muset

vytvořit – pod podmínkou, že tento stroj bude dostatečně povolný, aby

nám sdělil, jak jej udržet pod kontrolou

12

Dnes se může zdát očividné, že s  takovou inteligenční explozí by

byla spojena velká existenční rizika, a že bychom se tedy vyhlídkou

na ni měli zabývat s  tou největší vážností, i  pokud by bylo známo

(což není), že pravděpodobnost jejího uskutečnění je poměrněma

lá. Průkopníci v umělé inteligenci však – vzdor svému přesvědčení

o brzkém nástupu UI lidské úrovně – většinou nezvažovali možnost

nadlidské UI. Jako by své spekulativní svalstvo příliš vyčerpali při

koncipování radikální možnosti, že stroje dosáhnou lidské inteli

gence, takže už nedokázali pochopit, jaký by to nevyhnutelně mě

lo následek – totiž že by se stroje posléze staly superinteligentními.

Průkopníci oboru UI většinou nepřipouštěli, že by jejich podnik

s sebou mohl nést nějaká rizika.

13

Bezpečnostním obavám či etickým

pochybnostem týkajícím se stvoření umělých myslí a potenciálních

vládců lidstva se nevěnovali ani verbálně, natož aby o  nich vážně

přemýšleli. Tato mezera je překvapivá i  v  kontextu dobových stan

dardů kritického hodnocení technologií, jež nebyly právě nejvyšší.

14

Nelze než doufat, že až tento podnik skutečně začne býtproveditel

ný, budeme nejen disponovat technologickou zběhlostí potřebnou

k  nastartování inteligenční exploze, nýbrž také budeme mít tech

nologie více pod kontrolou. Možná to bude nutné, abychom onen

výbuch dokázali přežít.

1. Dosavadní vývoj a dnešní schopnosti 23

Než se však obrátíme k  tomu, co nás čeká v  budoucnosti, bude užitečné se krátce podívat na dosavadní dějiny strojové inteligence. Období naděje a zoufalství V létě roku 1956 se deset vědců, které spojoval zájem o neuronové sítě, teorii automatů a zkoumání inteligence, zúčastnilošestitýdenního pracovního semináře na Dartmouth College. TentoDartmouthský letní projekt je často považován za událost, která dala vzniknout umělé inteligenci coby výzkumnému oboru. Mnozí z účastníkůbudou později řazeni mezi jeho zakladatele. Optimismus delegátů se odráží v návrhu předloženém Rockefellerově nadaci, která seminář financovala: Navrhujeme, aby bylo provedeno dvouměsíční zkoumání uměléinteligence, jehož se zúčastní deset lidí ... Toto zkoumání bude vedenodomněnkou, že všechny aspekty učení či všechny ostatní rysy inteligence mohou být v principu popsány tak přesně, že bude možné vytvořit stroj, který je bude simulovat Pokusíme se zjistit, jak vytvořit stroje,které budou užívat jazyk, tvořit abstrakce a pojmy, řešit ty druhy úloh, jež jsou nyní vyhrazeny lidem, a které se budou zdokonalovat Domníváme se, že když na těchto problémech bude během jednoho léta společně pracovat pečlivě vybraná skupina vědců, bude možné v jednom nebo ve více z nich dosáhnout významného pokroku Během šesti desetiletí, která uběhla od tohoto ukvapeného začátku, procházel obor umělé inteligence střídavě obdobími, kdy jejobklopovalo mnoho povyku a velká očekávání, a dobami nezdarů a zklamání.

Podle pozdějšího výroku Johna McCarthyho (hlavního pořadatele dartmouthského semináře) toto první nadšené období, na jehož počátku stálo setkání v Dartmouthu, vystihuje zvolání:„A přece to jde!“ V  této rané době badatelé budovali systémy, které měly vyvrátit různá tvrzení typu: „Žádný stroj nikdy nedokáže vykonat X.“ Taková skeptická prohlášení byla v té době běžná. Badatelé jim

NICK BOSTROM: SUPERINTELIGENCE24

čelili tak, že vytvářeli malé systémy, které dokázaly X provéstv „mi

krosvětě“ (tj.  v  dobře definované, omezené oblasti, v  níž se mohly

v redukované podobě uskutečnit ty výkony, jež měly býtpředvede

ny), čímž prokázali realizovatelnost takových systémů a ukázali, že

stroje v principu X vykonat můžou. Jeden takový raný systém,na

zvaný Logický teoretik (Logic Theorist), byl schopen provést důkaz

většiny teorémů z  druhé kapitoly Whiteheadova a  Russellova spi

su Prinicipia Mathematica, a dokonce objevil jeden důkaz, jenž byl

mnohem elegantnější než ten původní. Vyvrátil tak názor, podle

kterého stroje mohou „myslet jenom numericky“, a ukázal, že jsou

schopny rovněž provádět dedukce a objevovat logické důkazy.

15

Na

Logického teoretika navázal program Obecný řešitel úloh (General

Problem Solver), který v principu dokázal vyřešit celou řaduformál

ně vymezených úloh.

16

Vznikly rovněž programy schopné řešit ta

kové příklady z infinitezimálního počtu, jaké jsou typické proprv

ní rok vysokoškolského studia, úlohy založené na vizuální analogii

(podobné těm, které se objevují v některých IQ testech)a jednodu

ché algebraické slovní úlohy.

17

Robot Shakey (čili Třesavka – tak byl

pojmenován pro svůj sklon se během provozu třást) demonstroval,

jak lze logické myšlení propojit s vnímáním a použít jek plánová

ní a kontrole fyzické činnosti.

18

Program ELIZA ukázal, jak bypo

čítač mohl napodobit rogeriánského psychoterapeuta.

19

V polovině

sedmdesátých let program SHRDLU předvedl, jak se simulovaná

robotická ruka dokáže v  simulovaném světě geometrických kostek

řídit pokyny (a jak program může odpovídat na anglické otázkyza

dávané uživatelem).

20

V dalších desetiletích byly vytvořeny systémy,

které ukázaly, že stroje dokážou komponovat ve stylu různýchskla

datelů vážné hudby, předčit v některých klinických diagnostických

úkolech začínající lékaře, samostatně řídit automobily a  přicházet

s vynálezy, na které lze získat patent.

21

Objevila se dokonce UI,kte

rá vypráví své vlastní vtipy.

22

(Ne že by její humor byl úplně na výši:

„Co dostanete, když zkřížíte citoslovce podivu a sýr? Aj-dam.“ Děti

ale svými slovními hříčkami údajně vždy pobaví.)

Často se ukázalo, že metody, které přinesly úspěchy u těchtora

ných ukázkových systémů, lze obtížně přenést na širší škálu problémů

1. Dosavadní vývoj a dnešní schopnosti 25

nebo na náročnější případy daného problému. Jedním z důvodů je

„kombinatorická exploze“ možností, jež musejí prozkoumat metody

založené na něčem takovém jako „prohledávání hrubou silou“ (tj. na

prověření všech možných variant). Takové metody dobře fungují

pro jednoduché případy dané úlohy, avšak selhávají, jakmile sevěci začnou trochu komplikovat. Chceme-li například v deduktivním

systému, jenž zahrnuje jedno odvozovací pravidlo a pět axiomů,dokázat teorém s důkazem o pěti krocích, můžeme jednoduše provést

výčet všech 3125 možných kombinací a u každé z nich ověřit, jestli

vede k zamýšlenému závěru. Řešení hrubou silou by fungovalo i pro

důkazy o šesti nebo sedmi krocích. Jak se však úkol komplikuje,brzy se tato metoda dostává do nesnází. Dokázat teorém s  důkazem

o  padesáti krocích netrvá jen desetkrát déle než ten, jehož důkaz

má pět kroků: uplatníme-li hrubou sílu, ve skutečnosti to vyžaduje, abychom prošli 5

50

≈ 8,9 × 10

34

možných posloupností – na což

nemají dost výpočetního výkonu ani ty nejrychlejší superpočítače.

K překonání kombinatorické exploze jsou zapotřebí algoritmy, jež pracují se strukturou v cílové oblasti a s pomocí heuristickéhoprohledávání, plánování a  flexibilních abstraktních reprezentací uplatňují dřívější znalosti, což jsou schopnosti, které byly u  prvních systémů UI rozvinuté jen chabě. Výkonnost těchto systémů trpěla také kvůli špatným metodám práce s neurčitostí, závislosti na křehkých a neukotvených symbolických reprezentacích, nedostatku data významným hardwarovým omezením (nedostatečné paměťové kapacitě a  pomalým procesorům). Povědomí o  těchto obtížích vzrůstalo v první polovině sedmdesátých let 20. století. Zjištění, že mnohé projekty v UI nemohou splnit, co původně slibovaly, vedlo k nástupu první „zimy UI“: období úspor, kdy klesalo financování, zvyšoval se skepticismus a UI vyšla z módy.

Nové jaro přišlo na začátku osmdesátých let, kdy Japonsko začalo s  projektem počítačových systémů páté generace. Šlo o  dobře financovaný projekt, na němž spolupracoval veřejný a  soukromý sektor a  jehož cílem bylo překonat nejlepší UI té doby. Prostředkem k dosažení tohoto cíle mělo být vytvoření architekturymasivně paralelních systémů, která by sloužila jako platforma pro umělou

NICK BOSTROM: SUPERINTELIGENCE26

inteligenci. Začátek osmdesátých let byl zároveň dobou, kdy svého

vrcholu dosáhla fascinace japonským „poválečným hospodářským

zázrakem“ a  kdy se vůdčí postavy západního obchodu a  politiky

horlivě snažily odhalit japonský recept v naději, že jeho úspěchzoakují doma. Když se Japonsko rozhodlo investovat do UI, několik

dalších zemí je napodobilo.

V  následujících letech se velmi rozšířily expertní systémy, které měly sloužit jako podpůrné prostředky při rozhodování. Šloo pravidlové programy, jež činily jednoduché úsudky na základěznalostní báze získané od lidských expertů v dané oblasti, namáhavě ručně zakódované do formálního jazyka. Malé expertní systémy všaknebyly dost užitečné a u těch větších se ukázalo, že jejich vývoj,validace a aktualizace jsou velmi nákladné. Navíc se s velkými systémy obvykle těžce pracovalo. Bylo nepraktické opatřovat si samostatný počítač kvůli jedinému programu. Před koncem osmdesátých let i toto plodné období pominulo.

Japonskému projektu počítačů páté generace ani jeho protějškům ve Spojených státech a v Evropě se nepodařilo splnit jejich cíle.Nadešla druhá zima UI. V  té době jeden kritik po právu truchlil nad „dosavadními dějinami výzkumu umělé inteligence, které sestávají vždy jen z  drobných úspěchů v  dílčích oblastech, na něž okamžitě navazuje neúspěch v dosažení obecnějších cílů, na které jako by ony počáteční úspěchy zprvu poukazovaly.“

23

Soukromí investoři se

začali vyhýbat všem podnikům nesoucím značku „uměláinteligence“. Dokonce i  mezi akademiky a  jejich sponzory se UI stala nevítaným přízviskem.

24

Technologický vývoj však pokračoval rychlým tempema v devadesátých letech druhou zimu UI vystřídala obleva. Opětovnýoptimismus byl vyvolán příchodem nových technik, jež se zdály nabízet alternativy k  tradičnímu logicistnímu paradigmatu, často označovanému „Stará dobrá umělá inteligence“ či krátce „SDUI“ („Good Old-Fashioned Artificial Intelligence“ – „GOFAI“), které sezaměřovalo na vysokoúrovňovou manipulaci se symboly a  svého vrcholu dosáhlo s  expertními systémy z  osmdesátých let. Nové oblíbené techniky, mezi něž patřily neuronové sítě a genetické algoritmy,

1. Dosavadní vývoj a dnešní schopnosti 27

slibovaly překonání některých nedostatků logicistního přístupu,obzvláště „křehkosti“, která charakterizovala klasické UI programy (ty

obvykle plodily úplné nesmysly, pokud programátoři zadali byť jen

jediný lehce nesprávný předpoklad). Nové techniky se mohly pochlubit organičtějším chováním. Například neuronové sítěvykazovaly vlastnost nazývanou „elegantní degradace“: výsledkem drobného

poškození neuronové sítě obvykle bylo malé zhoršení jejího výkonu, nikoliv úplné selhání. Ještě důležitější bylo, že se neuronové sítě

dokázaly učit ze zkušenosti, když objevovaly přirozené způsoby, jak

zobecňovat z příkladů, a odkrývaly ve svých vstupních datechskryté statistické vzorce.

25

Díky tomu byly dobré v rozpoznávání vzorů

a  v  klasifikačních úlohách. Pokud například neuronovou síť natrénujeme na souboru dat sestávajícím ze sonarových signálů, můžeme

ji naučit, aby akustické profily ponorek, námořních min a mořských

živočichů rozeznávala s větší přesností než lidští experti – a to aniž

by někdo předem musel přijít na to, jak přesně jednotlivé kategorie

definovat nebo jakou váhu přiřadit různým charakteristikám signálů.

Jednoduché neuronové sítě sice byly známy už od koncepadesátých let, ale dočkaly se obrody po zavedení algoritmu zpětnéhošíření, který umožnil trénování vícevrstvých neuronových sítí.

26

Tyto

sítě, které mají mezi vstupní a výstupní vrstvou neuronů jednu nebo

několik přechodných („skrytých“) vrstev, se dokážou naučit mnohem širší škále funkcí než jejich jednodušší předchůdci.

27

V kombinaci se stále výkonnějšími počítači, jež nyní začínaly být dostupné,

umožnily tyto vylepšené algoritmy inženýrům tvořit neuronové sítě,

které již měly řadu prakticky užitečných aplikací.

Díky vlastnostem, které je přibližovaly lidským mozkům,vycházely neuronové sítě ze srovnání s logickým puntičkářstvíma křehkostí tradičních pravidlových systémů SDUI příznivě – natolik, že zavdaly podnět ke vzniku nového „ismu“, totiž konekcionismu, který zdůrazňoval důležitost masivně paralelního subsymbolického procesování. Umělé neuronové sítě se od těchto dob staly předmětem více než 150  000 vědeckých studií a  i  nadále představují důležitou metodu strojového učení.

Dalším přístupem, jehož vznik napomohl k ukončení druhé zimy

NICK BOSTROM: SUPERINTELIGENCE28

UI, jsou evoluční metody, například genetické algoritmya genetic

ké programování. Ty možná měly v  akademické sféře menší vliv

než neuronové sítě, avšak byly široce zpopularizovány. U evolučních

modelů udržujeme populaci možných řešení (kterými mohou být

datové struktury nebo programy) a nahodile generujeme novápo

tenciální řešení tak, že členy původní populace vystavíme mutacím

nebo je rekombinujeme. V pravidelných intervalech populaciproře

záváme aplikací selekčního kritéria (kriteriální či „fitness“ funkce),

které dovoluje přejít do dalšího pokolení jenom těm lepším řešením.

Pokud tento postup zopakujeme přes tisíce generací, průměrnákva

lita řešení přítomných v populaci se bude postupně zvyšovat. Když

tento druh algoritmu funguje, dokáže dát vzniknout účinnýmřeše

ním nejrůznějších úloh – řešením, která mohou být pozoruhodně

novátorská a neintuitivní a která se často podobají spíše přírodním

útvarům než něčemu, co by vyprojektovali lidští inženýři. K  tomu

přitom v principu může dojít i bez toho, aby člověk programudodá

val mnoho dalších vstupů kromě počátečního vymezení kriteriální

funkce, která je často velice jednoduchá. V  praxi je však ke správ

nému fungování evolučních metod zapotřebí velkých dovedností

a vynalézavosti, zvláště při koncipování dobrého formátureprezen

tace. Bez účinné metody kódování možných řešení (bez genetického

jazyka odpovídajícího latentní struktuře v  cílové oblasti) většinou

evoluční hledání donekonečna bloudí v  rozlehlém prohledávaném

prostoru nebo se zasekne na lokálním optimu. A  dokonce i v pří

padě, že dobrý formát reprezentace nalezneme, je evolučníalgorit

mu



       
Knihkupectví Knihy.ABZ.cz - online prodej | ABZ Knihy, a.s.
ABZ knihy, a.s.
 
 
 

Knihy.ABZ.cz - knihkupectví online -  © 2004-2018 - ABZ ABZ knihy, a.s. TOPlist