ZAKÁZANÉ TECHNOLOGIE: Pojďme se bát

Ideou „zakázaných technologií‟ se zabývám třicet let. Všiml jsem si, že každá skutečná novinka, každý technologický game changer vyvolá ve společnosti nevraživou reakci. Bylo to vždycky. Budování železniční sítě naráželo na protesty zemědělců, že kvůli hluku lokomotiv krávy přestávají produkovat mléko a muž s červeným praporkem kráčející před chladičem uvedl automobil do světové silniční sítě. Bylo to v devatenáctém století, v době dychtivé po inovací, době podnikatelské a objevitelské, v době vrcholu euroatlantické civilizace. Obavy neměly zuby. Nepodařilo se zakázat železnici ani automobilismus. Duch devatenáctého století se přelil i do epochy následující, takže letectví se rozvíjelo bez vážnějších námitek. Idea „zakázaných technologií‟ teprve klíčila a dařit se jí začalo až po světové válce. Žádnému oboru se nedaří tak dobře, jako omezovatelství a zakazovatelství. Jaderná energetika nabízela šanci zbavit se jednou pro vždy fosilních paliv. Podařilo se ji zarazit, zadusit, mnohde i zničit. Letectví? Funguje, ale nadzvukové dopravní letouny mají utrum. Kosmonautika? Nějak žije, ale drhne to, drhne. Automobilů je mnoho a celý náš svět je na individuální dopravě závislý. Podařilo se aspoň dopravu zesabotovat a k volantu usedáme s pocitem viny.

Pak přišla umělá inteligence. Ještě nestačila spustit kořínky a už měla své protivníky. A že to nebyli žádná vidláci argumentující objemem vemene své krávy. Před překotným rozvojem varovali Bill Gates i Elon Musk, před smrtí Stephen Hawking věštil konec lidstva. Mezi protestujícími byli i ti, co se o rozvoj AI zasloužili, Yoshua Bengio, Geoffrey Hinton a Stuart Russell.

Nedivil bych se, kdyby novodobý luddismus dostal nový impuls. Firma Anthropic nasadila minulé úterý AI model Claude Fable 5. Už v pátek přišla omezující vládní direktiva. Model je tak silný a účinný, že k němu nesmí mít přístup cizinci. Rozumějte dobře: všichni cizinci, včetně těch, kteří pobývají na území USA a dokonce včetně zaměstnanců firmy Anthropic. Namítnete, že Popelka může celkem snadno oddělit hrách od popelu, s cizinci je to horší. Anthropic to tedy vyřešil tak, že zatrhnul Fable 5 pro celý svět. Důvodem je národní bezpečnost.

Už je to tady! Ta věc je nebezpečná. Když se podařila Anthropicu, podaří se i někomu jinému. Americké firmě? Čínské nebo dokonce severokorejské? Ohromná příležitost pro zakazovatelské hnutí.

Ve výsledku to asi tak horké nebude. Všechno se nejspíš vysvětlí a pojede se business as usual. Strach ale bude posílený. Rádi se chopíme se kdejaké příležitosti se bát. Tím spíš, že tentokrát je k tomu hodně důvodů, dodám já, notorický technooptimista. Když vidím, jakou paseku udělal ve společnosti internet, copak asi udělá umělá inteligence puštěná ze řetězu? Tím hůř, že ten řetěz nikdy neexistoval…