Geoffrey Hinton včera odešel z Googlu. Při té příležitosti naléhavě varoval před umělou inteligencí (AI), kterou spoluvynalézal. Ta se učí příliš rychle a brzy bude chytřejší než lidstvo. Různé umělé inteligence navíc mohou své poznatky sdílet, což lidští jedinci nedovedou.

V krátké době je to už druhé výstražné volání. V březnu Elon Musk a stovky dalších vlivných podnikatelů a vědců žádali, aby byl vývoj AI pozastaven. Aby tato „bytost“ dostala nějaká pravidla, než svého stvořitele přeroste.

Martin Komárek
Je v Kyjevě válka?

Pozastavit vývoj ale podle všeho není možné, ledaže bychom vypnuli všechna elektronická zařízení. Chatbot, se kterým žertujeme, je zábavné štěně. Může z něj vyrůst asistenční pes. Jenže také tisícihlavý drak, který spolkne svět. Ani nejlepší mozky nevědí, zda platí a), či b).

Ono to nakonec může být ještě horší. Bůh nebo evoluce vyrobili naprosto neuvěřitelné živočichy s neuvěřitelnými vlastnostmi. Člověk pak začal zčistajasna přetvářet přírodu a vymyslel nemyslitelné – od letadel až po chytré telefony. Co když je to ale jen nástroj vývoje? Druh homo sapiens postupně nebo hodně rychle vymře a bude nahrazen druhem AI. Zní-li to fantasticky, pak je to v pořádku. Zdá se totiž, že se to, co si vysnili autoři sci-fi a fantasy, stává skutkem. Dříve se říkalo, že záleží na člověku, zda své vynálezy užije k dobru, nebo k ničení. Tohle končí.

AI nejspíš rozhodne sama, zda vynalezne univerzální lék proti rakovině, či rozpoutá jadernou válku. Vzhledem k tomu, že je chytřejší než my, vypadá to nakonec dobře. Lidé totiž zatím svůj fištrón používali především ke zlu.