Stephen Hawking: AI může být ta největší událost v dějinách, nebo nejhorší

Stephen Hawking už vícekrát veřejně promluvil na téma umělé inteligence a neustále upozorňuje, že je třeba velké obezřetnosti, aby se nestalo, že by se nám vymkla z rukou. To bylo v době prvního snímku Terminátor čisté sci-fi, ale  nyní s prudkým vývojem hardwaru a jeho výkonu pro AI nabývá umělá inteligence schopná překonat tu lidskou stále reálnějších obrysů. 

 

 

"Počítače mohou, teoreticky, emulovat lidskou inteligenci a překonat ji", prohlásil Hawking na technologické konferenci v Portugalsku. "Úspěch při vytvoření takto efektivní AI může být ta největší událost v historii naší civilizace. Nebo ta nejhorší, to prostě dosud nevíme. Nemůžeme tak ani vědět, zda nám taková AI bude pomáhat, nebo nás ignorovat, aby si šla vlastní cestou, nebo se nás rozhodne zničit". 

 

"AI by tak mohla být to nejhorší, co potkalo naši civilizaci", pokračoval Hawking. "Přináší mnohá nebezpečí, jako silné autonomní zbraně nebo nové způsoby, jakými bude několik silných utlačovat zbytek slabých. Může také přinést velké narušení naší ekonomiky". 

 

Obvyklým kritikem umělé inteligence je také Elon Musk, který sáhl daleko do minulosti, v níž sám Sokrates vystoupil proti vynálezu písma. Jde o rozhovor Theutha, egyptského boha nabízejícího dar písma, s králem Amonem. Dle legendy měl Amon Theuthovi říci: "Tento tvůj objev vyvolá zapomnětlivost v duších učedníků, neboť ti nebudou používat svou paměť; budou pouze věřit psanému písmu to, co si sami nepamatují. To, co nabízíš, není prostředek nápomocný k paměti, ale ke vzpomínání, takže svým následovníkům nepředáš pravdu, ale jen zdání pravdy a zatímco oni se budou moci učit mnoha věcem, nenaučí se nic". 

 

 

Pointa je ta, že vynález písma dokázal změnit lidskou společnost a její fungování zcela zásadním způsobem a Elon Musk vzpomínkou na tento mýtus varuje, že s nástupem umělé inteligence by to mohlo být podobné. Stačí v něm vyměnit písmo za umělou inteligenci a paměť za myšlení či přemýšlení. To ale samozřejmě nutně nemusí přinést něco špatného, však si stačí uvědomit, co vývoji evropské civilizace přineslo nejen písmo, ale jeho masové rozšíření díky vynálezu tisku. Byla to možnost individuálně přemýšlet o textech, tehdy především o Písmu svatém, a o svobodě jeho výkladu, na což mělo do té doby monopol právě jen několik mocných. Následovaly reformy, renesance a humanismus, na což dnes jednoznačně nahlížíme jako na pozitivní vývoj dějin. 

 

Hawking také neustále připomíná, že se zde zabýváme inteligencí na lidské úrovni, což je oblast, kterou máme sami ve svém případě pramálo probádanou. Jak chceme zajistit, že podobně nebo ještě mnohem více inteligentní AI se bude chovat dle našich předpokladů, že si nevyvine své vlastní duševní choroby, které by mohly způsobit katastrofu, když sami nevíme, co přesně vyvolává řadu těch lidských a jak proti nim účinně postupovat? Skotské střiky asi nepřichází v úvahu, i když taková počítačová lobotomie by jako záchranná brzda fungovat mohla.

 

 

Čili Hawking v zásadě není proti rozvoji AI, ale má velké obavy z toho, co může přinést, pokud podceníme možné následky.

 

Zdroj: Extremetech