Je středa večer. Nějak mě napadlo… Opravdu jen napadlo, žádnou moudrost ode mne nečekejte. Sleduju debatu kolem umělé inteligence. Zkáza nebo naděje? Modrá pilulka nebo červená? Napsal mi čtenář Neviditelného psa. Ví, že nečtu diskuse, napsal mi osobně mail, velmi upřímný. Reagoval na můj článek Připaženi, vstříc lepším zítřkům, ve kterém jsem – možná zbytečně – zlehčoval obavy před AI. Cituji celý mail:

Nevím přesně, jak jeho výpověď probíhala, ale chápu jeho obavy. Nevím, jak a k čemu používáte AI Vy, ale já ji používám jako programátor. Zatím se držím při zemi, takže typické zadání je zhruba „podívej se tamhle, jak to je udělané o doplň tam následující funkci…“ Samozřejmě si o tom nepovídám s webovým chatbotem, ale s programem, který mi skutečně může šmejdit po disku nebo po internetu (aby se podíval, jak to je udělané teď), může spouštět příkazy u mě na počítači (už jenom proto, aby zkusil svůj výtvor přeložit a otestovat), zkrátka může toho hodně a já pouze doufám, že si toho nedovolí moc. Příklad z dnešního volnočasového dopoledne:

Asi jste si všimnul, že ČHMI předělal zobrazení předpovědních map. Konkrétně tohle:  https://produkty.chmi.cz/aladin/

A předělal ho podle mě k horšímu. Takže jsem robotovi řekl „podívej se, jak to stahuje obrázky a napiš mi skript, který je bude stahovat stejným způsobem, ale zobrazí je podle mých představ…“ To je samozřejmě pro AI triviální úkol, robot prozkoumá, zamyslí se, položí pár doplňujících otázek a navrhne řešení. Když se mi řešení nelíbí, tak za pět minut vyrobí řešení úplně jiné.

(Nebo dokonce minulý týden jeho odpověď „nejsem schopen zjistit, jestli zadaný server podporuje novější REST nebo starší SOAP (naschvál jsem mu nedal údaje k serveru, ať tvoří naslepo), přičemž u SOAPu by to mohla být verze 2010 nebo 2005, tak jsem naprogramoval všechny tři protokoly a budou se postupně zkoušet od nejnovějšího po nejstarší“.) Zadrhli jsme se ale na tom, že ČHMI má zabezpečeno, aby obrázky nemohl stahovat jakýkoliv skript, ale pouze skript původem z ČHMI. Takže mi AI poradilo, že na tento typ ochran ve světě WWW existují free servery, které dokážou ohnout žádost mého skriptu tak, aby vypadala jako by to byl skript z ČHMI, tohle můj skript ve www prohlížeči sám nedokáže.

Ať se tam zaregistruji a bude to fungovat.

Zaregistroval jsem se, funguje to a já jsem zase o něco chytřejší.  I když teď o tom přemýšlím, určitě by robot zvládl tu registraci na free-serveru i beze mne, tak proč mě s tím obtěžoval?
(Navíc jsem ještě doteď večer nepochopil všechny konstrukce, které v tomhle případě AI použila, protože v tomhle programovacím jazyku běžně nedělám. A asi to vzdám, zřejmě to udělal správně.) (AI je víceméně jedno, jakým jazykem s ní komunikujete a v jakém programovacím jazyku chcete výsledek.) Ale hlavně, robot mě také tlačil do toho, ať si nějaký takový free-server falšující hlavičky nainstaluji u sebe a už na mě vyskakovaly dotazy operačního systému, jestli chci server povolit ve firewallu. Dokážu si představit, že méně paranoidní (nebo méně znalý) člověk by to robotovi povolil a že by mu povolil i spoustu dalšího. A dokážu si představit, že příště může AI přijít na to, že ho tyhle dotazy pouze zdržují od práce a že si robot ten firewall odblokuje sám, určitě je někde na internetu popsáno jak a on má internet prostudovaný možná ještě lépe než Google.

Takže zpátky ke Coxtonovi, já se mu moc nedivím.
V práci mám štěstí na šéfa a na to, že můj typ práce vyžaduje i trochu jiné přemýšlení, než jen upravovat kód dle pokynů, takže zatím zvládám být přiměřeně produktivní i bez AI. Pouze když potřebuji poradit, tak se zeptám, AI má fakt neuvěřitelný přehled a vyzná se i v knihovnách, ke kterým neexistuje kloudná dokumentace.

Ale kód si zatím, na rozdíl od některých kolegů, píšu sám. Nebo se aspoň snažím pochopit, co robot napsal. Ale někteří kolegové už rezignovali, prostě zadají úkol a nechají robota, ať se snaží.
A robot si klidně vyrobí sekvenci příkazů, kterou spustí v operačním systému, protože to potřebuje…

Odepsal jsem mu takto:

Hrozbu AI nijak nezlehčuji a že bude sloužit k orwellovskému dohledu, o tom nepochybuji. Vymkne se z rukou? Nevím. Fyzikové z projektu Manhattan varovali tak důkladně, že podstrčili recept na A-bombu Rusům a vyvoláváním strachu se postupně podařilo ochromit vývoj jaderné energetiky. Tady aspoň víme, jak to dopadlo, kdežto AI je nová věc. Jedno ale vím stoprocentně a nepřesvědčíte mě o opaku: zastavit to nejde. Paralyzovat, to jistě a v Evropě se to úspěšně daří. Jeden z mála úspěchů socialistické Evropy.

Programátor opravdu nejsem, používám to k rešerším a vidím, že je to politicky  korektní tak, že je to skoro „politické školení mužstva“. Takže aspoň ideově se to nevymklo ze spolehlivých rukou. Nicméně lehkovážně se na to nedívám, věřte.

Leží mi to dál v hlavě. Trvám na tom, že to zastavit nejde. Abych se ale vrátil k tomu příkladu s červenou a modrou pilulkou, ať o tom budeme přemýšlet jakkoli, vždycky dojdeme k zásadní otázce, zda jsme pro nebo proti. Jsem celoživotní technooptimista a pro mě technooptimismus je prostě optimismus, tečka, optimismus bez přívlastku. Není nic snazšího než zesměšňovat optimismus. Ale bez optimismu se nikdy ničeho nedosáhlo. Pokudjde o AI, bude to jízda peřejemi. Nebezpečí je někde, kde o tom nevíme. A hlavně, v těch peřejích jedeme a bědování nás leda zavede na skálu. Si myslím takhle ve středu pozdě večer.
Asi je to slabé. Nevím si s tím rady.