Science fiction jako balvan na cestě vědy

Úvodem mi dovolte prohlásit, že název mého vystoupení je typický click-bait, naprosto nemravný a zavrženíhodný podraz na publikum. Naprosto právem odsuzuje tuto praktiku server Manipulátoři a je to projev morální degradace, která proniká jako toxická plíseň do veřejného prostoru. Ano, předpokládal jsem, že upoutám pozornost, když na půdě Akademie věd za balvan na cestě vědy označím literární žánr, jemuž se věnuji celý život jako praktik i teoretik. Je to hanebnost a omluvu nemám žádnou, tedy skoro žádnou, jelikož jednu přece jenom mám.

Opravdu si totiž myslím, že science fiction je balvan na cestě vědy.

Postupně se pokusím to doložit a začnu aktualitou.

Média se vědou zabývají minimálně, pokud vůbec. Existují výjimky. K nim patří březnová výzva, aby se na půl roku zastavil vývoj umělé inteligence, jelikož funkci – cituji – digitálních myslí nerozumí dokonce ani jejich tvůrci a nedokážou předvídat nebo je spolehlivě kontrolovat. Výzvu podepsaly kapacity a celebrity typu Elona Muska, Steve Wozniaka nebo Yuval Noah Harariho. Další vývoj umělé inteligence by mohla představovat hlubokou změnu v historii života na Zemi a měla by být plánována a řízena s přiměřenou péčí, píše se ve výzvě doslova.

Ona hluboká změna by byla nevyhnutelně negativní, proč jinak by si skvělí lidé zpečetili výzvu svým jménem.

Dovedeme si to představit my všichni, kdo jsme viděli film Matrix. Nemnohým, kteří ho neviděli, stručně objasním, oč v něm jde:

Lidské bytosti tu jsou redukovány do jakýchsi zámotků ve vegetativním stavu, přičemž umělá inteligence jim vygeneruje zcela iluzivní ideální svět, takzvaný matrix. V něm se pak odvíjejí standardní lidské osudy v běžných kulisách všedního života, až na to, že to je vše zdánlivé, umělé, falešné – je to vygenerované umělou inteligencí.

Ano, film Matrix naprosto jednoznačně spadá do kategorie science fiction. Patří k mistrovským dílům v rámci žánru a svým vlivem přesáhl hranice sci-fi komunity. Ve svých úvahách na něj mnozí navázali a spekulovali o samé poznatelnosti světa, což je téma pro generace filosofů sahající až po Sokratovy učitele. Na jedné straně tedy vede k plodným spekulacím- pro mě osobně je navazující koncept antropického vesmíru zcela fascinující, na druhé straně je to vize nepochybně odpudivá a však také tvůrci filmu se netají sympatií k hrdinovi, který vede rebelii s cílem zlovolné počínání umělé inteligence zlikvidovat.

Tohle podtrhuji: počínání umělé inteligence, které byl ponechán volný průchod, aniž byla prvotními tvůrci chápána, její cíle předvídány a aniž byly provedeny kroky ke kontrole či zastavení. Vyznění díla je tedy čistě v duchu výzvy institutu Future of life.

Právě ta nepředvídatelnost a ztráta kontroly, vize přechodu z lidmi definovaného procesu do samovývoje je předkládána jako ten největší strašák.

Vraťme se ke sci-fi.

O patnáct let starší než Matrix je původně béčkový film Terminátor. Zde bylo strašení samovývojem předvedeno v čistě rodokapsovém stylu. Umělá inteligence zde souvisí s robotikou. Je to přirozené, jelikož robot, ať ho definujeme jakkoli, vždy to bude nějaká hardwarová entita určená k fyzickému výkonu ve fyzickém světě, tedy robot v jakékoli podobě musí být vybaven prvky umělé inteligence – a týká se to už zametacích robotů, které máme mnozí z nás doma. Ve filmu Terminátor se předpokládá, že dokonalí roboti vyráběli ještě dokonalejší roboty, až produkty dosáhly takového stupně dokonalosti, kdy jim existence lidí na planetě přišla na obtíž a rozhodli se lidstvo zlikvidovat. A vrátíme se ještě o bezmála dvacet let dozadu k filmu Vesmírná Odysea. Zde byl předveden počítací stroj nadaný umělou inteligencí HAL 9000, který se během výpravy do hlubokého kosmu rozhodl, že na splnění mise posádka nestačí, že ji tedy pozabíjí a misi dokončí sám. Kubrickův film opravdu není žádná béčková produkce a patří ke klasice filmové tvorby dvacátého století a nikdy neexistující počítač HAL 9000 je nejslavnější produkt výpočetní techniky všech dob. Já sám jsem si ho pracně sestavil z písmenek jako uvítací nápis do autoexeku svého prvního PC v dřevních dobách operačního systému DOS a CRT monitorů. Od té doby dodnes každý ví, že umělá inteligence je potměšilý parchant, který číhá, až se nebudete koukat, aby vám zakroutil krkem. A mimochodem, ještě před Clarkem a Kubrickem přišel v roce 1959 s tou myšlenkou Stanislaw Lem v povídce kladivo.

Když Lem psal svoje Kladivo a o deset let později v době spolupráce Arthura C. Clarka Kubrickem byly na světě takzvaně počítače druhé generace. Dosavadní elektroniky byly nahrazeny tranzistory. V podstatě uměly jen počítat – a přesto v této době vznikaly vize konfliktů tehdy absolutně neexistující umělé inteligence a člověka, ať jako individuální bytosti nebo dokonce celého lidstva. Následovaly počítače třetí generace vybavené integrovanými obvody. S odstupem bezmála čtyřiceti let mi to přijde jako absurdní situace – uvádím ji jako ilustraci toho, jak funguje myšlení spisovatele sci-fi.

V polovině osmdesátých let jsem přes léto fungoval jako operátor u sálového počítače Akademie věd v Kobylisích, šlo o klon systému IBM 360. Byla to potvora o rozměru tří parních mlátiček na obilí v klimatizovaném sále s operační pamětí čtyř mega. Spolu s dalšími maníky a manicemi jsem kolem toho chodil coby živá periférie. Neumělo to nic nebo skoro ni. Chodil jsem kolem toho a vymýšlel koncept pole šťastných náhod a pole nešťastných náhod v duchu v přírodě panující parity. Chodil jsem a vymýšlel, jak by se mohlo stát, že si tahle IBM tři sta šedesátka usmyslí někoho zabít. Vymýšlel a vymyslel a knížka Pole šťastných náhod vskutku vyšla.

Připomínám ji tu jako morbidní ukázku práce autora sci-fi, zcela v korelaci s bombastickým názvem mé prezentace.

Spisovatel… každý spisovatel, nejen sci-fi, je v zajetí pravidel dramatu. Není příběhu bez konfliktu. On miloval ji a ona jeho a měli tři děti, postavili si domeček a žili šťastně až do smrti. Zkuste o tom napsat román. Já román spřádal v Kobylisích u zběsile nefungující bestie IBM 360. Jak má vypadat příbě? Fantazie se prolínala s realitou. Realita vypadala takto: Přišla paní Pyšvejcová a přinesla děrné štítky z OPBH Prahy 4. Odpoledne si odnesla sjetinu s výsledky a taky ty štítky spoutané gumičkou. Povstane z toho nějaká povídka? Ne. Základní literární zásada zní: když nejde o život, nejde o nic. Není úniku. Spisovatel je anděl zhouby. Řeknu rovnou, že padlý anděl zkázy, protože archanděl Michael s plamenným mečem je výkonný orgán celestiální policie a trestá zlo, kdežto úkolem sci-fi je zlo vyhledávat a kde není, vytvořit ho.

A jsme u toho.

V úvodu jsem se dotkl smutného faktu, že se média o vědu nezajímají. Je to zboží bez zákazníků. Nikdo ji nechce. Musí být předávána publiku jako hořká pilulka v poživatelném obalu. Tímto obalem je drama, konflikt, napětí, nebezpečí, riziko. Sci-fi umí vědeckou novinku takto obalit a prodat. Jak?

V podobě čehosi nebezpečného, člověku nepřátelského, zlého. Typický čtenář sci-fi se dostane ke svému žánru v raném věku. O formativním efektu se nedá pochybovat. Celé generace jsou vychovávány v přesvědčení, že od technických inovací musíme čekat to nejhorší, je to zlo na kolečkách, které čeká na naši nepozornost, aby nám skočilo po krku.

Tak to vidíte. Dostal jsem se k finálně první části své promluvy a s uspokojením pozoruji, že si počínám naprosto v souladu s duchem doby.

Ten se řídí jednoduchou zásadou: pomni, abys sám sebe bičoval, a čím víc přitlačíš, tím většího potlesku se ti dostane.

Odsudek mého milovaného literárního žánru jsem si tedy vychutnal, nezbývá než… ne, neodvolám nic. Jen půjdu o krok dál.

***

Dosud jsem jaksi mlčky předpokládal, že existuje cosi jako přímá vazba literatury sci-fi a vědeckého a technického rozvoje. Science fiction patří do oblasti marsyatického umění, marsyatický je vznešené označení pro pokleslé. Najdeme jen málo argumentů pro její obhajobu, vím o jednom a i ten je pochybný.

Říká se: není to tak, že se z každého mladého čtenáře scifi stane vědec nebo technik, ale je to tak, že každý vědec nebo technik v mládí četl sci-fi. Nevím, jestli to tak je a dokonce si ani nejsem jistý, že bych si přál, aby to tak bylo. Dovedu si představit průzkum který by to měl prověřit, ale nevěřím, že by byl průkazný a už vůbec nevěřím, že by byl užitečný. Prostě, je tu sci-fi a její autoři a čtenáři, a jsou tu vědci a technici. Dvě množiny vzájemně se prolínající, aniž bychom věděli v jakém poměru. Co ale je asi mimo diskusi, je konstatování, že na obecné vnímání vědy a techniky bude mít sci-fi nějaký vliv. Tím, že sci-fi vytváří strašáky, vrhá stín na pozitivitu vědeckého a technického pokroku.

Ale pozor, je tu ještě jeden aspekt nedůvěry a v krajním případě až nevraživosti laické veřejnosti vůči vědě a za tu sscience fiction nemůže. Tedy, přímo za ni nemůže, jenom z ní parazituje a jí se podbízí. Sama příčina je totiž přirozená.

Vědec funguje ve společnosti v opozitním postavení vůči nevědci, technik je ve stejném gardu vůči laikovi. Jeden i druhý mají vědomosti a schopnosti oproti okolí, které nemá ani jedno, ani druhé. Budí to nedůvěru, v krajním případě nenávist. Když převor premonstrátského kláštera Louka Prokop Diviš konal v polovině osmnáctého století svoje pokusy s elektřinou a postavil svůj bleskosvod, vyvolal lidový hněv a věru nelze předpokládat, že by znojemské sedláky vybičovala k nevraživosti četba sci-fi. V lidové legendě doktora Fausta odnesl čert do pekla. Jakého provinění se dopustil, aby si zasloužil věčné utrpení? Konal vědecký výzkum a snažil se poznat mechanismus pohybu hvězd. Zbyla po něm díra ve stropě a lid tleskal zaslouženému trestu. Vědec je osoba podezřelá a jeho počínání je něco, na co si musíme dát pozor. Jeho zlovolnou podstatu vystihla už Mary Shelly. Její román Moderní Prometheus známý jako Frankenstein pochází z roku 1818, je tedy přes dvě stě let starý. Bylo to na samém úsvitu vědy, která měla v průběhu jednoho století změnit svět víc než všechna staletí předcházející. Jakpak předvedla vědce a jeho dílo mladá žena, které bylo devatenáct, když Frankensteina začala psát? Vykreslila ho jako nezodpovědného šílence, který přivede na svět nezvladatelné monstrum, nadané nepřirozenou, tudíž umělou inteligencí.

Ve stejném duchu navázal Jules Verne, zakladatel žánru sci-fi. V jeho dílech se vyskytují mnozí vědci a technici – šmahem to jsou šílenci a darebáci. Bezvýhradně pozitivní postavy jsou armádní důstojníci a také inženýři: ve vojsku vědy jsou inženýři také cosi jako důstojníci, rozhodně to nejsou ti, kdo se zabývají základním výzkumem a určují směr, kudy se tažení povede. Tím nastavil trend. V napočaté cestě pokračoval Herbert G. Wells. Divíte se obecně sdílené averzi překlopené do zákonných ustanovení? Stačí si přečíst anebo ve filmové adaptaci shlédnout Wellsův Ostrov doktora Moreaua.

Celé generace spisovatelů sci-fi líčily výdobytky vědy v nejčernějších barvách s malými výjimkami technooptimismu. Zejména ve třicátých a čtyřicátých létech byly pozitivní výsledky tak zásadně přístupné širokým vrstvám, civilizační úroveň se tak pozvedla, že bylo těžké házet na vědce a techniky stín podezření: automobil nabídl svobodnou individuální mobilitu, elektřina rozsvítila příbytky, lidi bavil kinematograf, rádio a brzy i televize, letecká doprava rušila vzdálenosti. Technooptimismus u nás kulminoval v románu Krtoryt contra ptakolet od Hanuše Sedláčka z roku 1948. Řeší se v něm dilema individuální dopravy: má se do každého domu zavést extra tunel metra, nebo má být přistávací plocha pro letadla na každé střeše? Sedláček dochází ke kompromisu: ve sklepě metro, na střeše letiště! Zvláštní odnoží technooptimistických sci-fi produkovala padesátá léta. Komunistická ideologie sama sebe proklamovala jako garanta vědeckého a technického pokroku, živeno to bylo nespornými úspěchy Sovětského svazu v kosmickém výzkumu. To ale byla poslední jiskra literárního technooptimismu, prskla a zhasla v černé tůni skepse.

*

Zmíněná rezoluce o umělé inteigenci podepsaná Muskem a dalšími je nepochybně varovná. Těžko si nevzpomenout na manifest podepsaný Albertem Einsteinem a Bertrandem Russellem v roce 1955 varujícím před dalším vývojem zbraní hromadného ničení. Nebyla to první iniciativa tohoto druhu. Robert Openheimer, jeden z otců atomové bomby, se zhrozil její „záře jasnější než tisíc sluncí‟ a veřejně se od další účastni distancoval. Manifest se stal podkladem pro pozdější Pugwashskou konferenci o vědě a světových záležitostech. Podnik to byl vedený těmi nejušlechtilejšími úmysly.

Výsledek?

Odpor proti atomové zbrani v první řadě vedl k tomu, že američtí idealističtí vědci předali její tajemství Stalinově Sovětskému svazu. Jinými slovy, zradili svoji vlast, vydali tajemství strašlivé zbraně masovému vrahovi, jemuž pak v rozpoutání dalšího dějství světové války zabránila jen potupná smrt. Žádné memorandum a žádná konference nezabránily prudkému rozvoji nukleárních a termonukleárních zbraní. Mělo to dokonce opačný efekt. Sovětský režim se licoměrně tvářil, že iniciativu podporuje – mezi zakládajícími členy Pugwashské konference byli i sovětští vědci. O autoritu vědců se po celou dobu studené války opíralo i takzvané mírové hnutí. To bylo ve skutečnosti součástí psychologické války komunistické Moskvy proti svobodnému západu. Využívalo podezíravosti veřejnosti vůči vědeckému bádání a mírnilo veřejnou podporu obranným aktivitám svobodného světa.

Co je horšího: od jaderných zbraní vedl krátký můstek k jaderné energetice. A zde se ocitáme v nejsoučasnější současnosti. Dnes je čtrnáctého dubna. Zítra nastane černý den: Německo uzavře své poslední tři ultramoderní a skvěle výkonné jaderné elektrárny a aby bylo čím svítit a čím pohánět stroje v továrnách, naplno se rozjedou elektrárny uhelné, to vše pod praporem boje proti fosilní energetice. Tento doslova zločin na Německu a zločin na celé Evropě, protože důsledky poneseme i my, způsobila především strana Zelených, která historicky vznikla na protestech proti jaderným zbraním. Návaznost na ušlechtilí varování je tu zjevná. Kdyby žil Hieronymus Bosch, jistě by dokázal zobrazit triumf zaslepené absurdity nad racionalitou. Možná by stálo za to požádat umělou inteligenci, aby se o takové dílo v Boschově stylu pokusila. Ano, Einstein-Russellův manifest byl veden těmi nejlepšími úmysly. Právě ta nepochybuji o ušlechtilosti pohnutek autorů a signatářů petice vyžadující omezení a regulaci výzkumu umělé inteligence. Zkušenost bohužel ukazuje, že ušlechtilost ne vždy vede k pozitivním výsledkům. Dovedu si představit, že by podobná petice vznikla už v polovině osmnáctého století jako reakce na parní stroj Jamese Watta. Projevy nevraživosti tehdy skutečně existovaly, dalším vývoje této technologie nenávist akcelerovala zvlášť poté, když se parní stroj posadil ve třicátých létech devatenáctého století na koleje a začal rozvoj železnic. Jako autor sci-fi si mohu dovolit načrtnout vizi, jak by to dopadlo, kdyby už tehdy fungovali v Anglii zelení aktivisté. George Stephenson by si ani neškrtl se svou lokomotivou Rocket, přilepovali by se ke koňským povozům tak dlouho, až by parlament spolu s korunou škodlivou novinku zakázaly.

Odpor proti jádru, jak se obecně celé problematice říká, není jediný příklad politizované averze vůči výsledkům vědeckého výzkumu. Společensky má mimořádně těžké dopady a má nemalý podíl na současné krizi vyvolané ruskou agresí proti oslabenému Západu. Bez nejmenších pochyb těží z nedůvěry veřejnosti k vědě – odtud plyne absurdní podpora občasné energetiky, tedy výroby elektrické energie občas vanoucím větrem a občas pálícím sluncem, aniž by byly k disposici prostředky, jak získanou energii skladovat. Mám jediné vysvětlení pro tuto absurditu: veřejnost, po generace vychovávaná k nedůvěře k vědě a technice – mimo jiné sci-fi autory – má pocit, že vítr a slunce jsou nejmíň věda a technika a tudíž je možné jim svěřit starost o svícení, otop a osobní, veřejnou dopravu a lehký i těžký průmysl.

Není to jediná oblast, do níž nedůvěra k vědě a technice zasahuje.

Druhou oblastí je genetické inženýrství.

Stručně připomenu, že u jeho zrodu byl objev DNA Jamesem Watsonem a Francisem Crickem v roce 1953. O dvacet let později se podařilo geneticky modifikovat první mikroorganismus, o rok později myš. A zrodil se odpor. Přestože jde o převratnou technologii s možností pozitivně zasáhnout vše co souvisí se životem, ať je to medicína, zemědělství, životní prostředí a samozřejmě v důsledcích i životní prostředí, od samého začátku jí byly obrazně řečeno zavěšena na nohy závaží, aby jí bránila v pohybu. Mají na sobě líbivá hesla PŘEDBĚŽNÁ OPATRNOST a ODPOVĚDNOST. V druhé polovině dvacátého století se hodně mluvilo o tom, že jednadvacáté století bude takzvaně zelené, že právě biotechnologie budou tím hlavním odvětvím. Mohli bychom diskutovat o tom, které odvětví bylo nedůvěrou k vědě postiženo více, zdali energetika anebo genetické inženýrství.

Jsme tedy v situace zcela absurdní. Rušíme elektrárny s vizí, že veškerá individuální doprava bude do pětadvaceti let elektrická. A vykřikujeme, že zrušíme pesticidy a umělá hnojiva a přitom zakazujeme technologie, které mohou jedno i druhé přinejmenším částečně nahradit.

V této souvislosti je třeba upozornit ještě na jednu okolnost.

Nejde jen o to, že se zavřou fungující elektrárny a že se bude sabotovat proklamativně podporovaná výstavba nových jaderných zdrojů: k odporu jsou nachystány politické strany, aktivistická hnutí, ale dnes už i banky, které si nastavily vlastní investiční pravidla a přebírají tak úlohu někdejší Státní plánovací komise, která regulovala a řídila vše, co se má a nemá vyrábět a co má obyvatelstvo spotřebovávat. Technický a vědecký obor nemá vodovodní kohoutek, který uzavřete a voda neteče a pak si ji obnovíte v plném proudu pootočením kohoutku. Omezením oboru ztrácejí lidé v něm angažovaní motivaci, odcházejí jinam, obvykle bez možnosti návratu. Ztrácejí kvalifikaci a nevyhnutelně si stárnou. A další odborníci se nevychovávají, který mladý muž nebo mladá žena by chtěli věnovat kriticky důležité formativní roky svého života sázce na umrtveného koně?

Pochmurný obraz mohu trochu vyjasnit – konstatováním bohužel též pochmurným.

Jelikož zákony přírody platí univerzálně, nejsou omezeny na hranice Schengenského prostoru a lze je zkoumat a aplikovat i jinde, což se děje. Jaderná energetika u nás skomírá, ale v Rusku, Číně a Jižní Koreji se jí daří a dá se čekat její rozvoj v dalších částech světa, které nepodléhá zelenému tmářství. Totéž platí o genetickém inženýrství. Pomalu sice máme první čtvrtinu dvacátého století za sebou, až mě mrazí v zádech při tom konstatování – ale zeleného století se pořád ještě můžeme dočkat. Ale jeho centra budou, co já vím, v Indii, v Indonézii, zajímavá vědecká centra vznikají v Ugandě.

*

To vše co jsem tu zatím nastínil vyznívá dosti temně. Myslím, že jsem naplnil smysl názvu mé prezentace. Moc se to ale netýkalo tématu, které jsem měl v zadání, když mě zdejší učené společenství pozvalo, abych pohovořil o umělé inteligenci. Zatím jsem se o ní zmínil jen v souvislosti s proklamací Future of life v reakci na produkt společnosti Open AI třídy GPT-4. Aktuálně se k ní připojilo dvacet tisíc podobně znepokojených lidí.

Mohl bych vše odbýt konstatováním, že na neštěstí bylo zaděláno, když v roce 2015 založili pánové Sam Altman, Elon Musk a další společnost Open AI. Kdyby firma neměla v názvu umělou inteligenci a její produkt by se jmenoval nějak jako zpracování textu, petice by se nepsaly a noviny by si produktu nevšimly. Pokud jste sami konali pokusy, možná jste zjistili, že jde o počítačový program, který na vaše zadání vyprodukuje jalový text, který dává na první pohled smysl, ale při bližším zkoumání zjistíte, že je to jalový nicneříkající blábol, obsahující chyby. Ty jsou o to záludnější, že nejsou hned k rozeznání. Inteligence a kreativity v tom není ani za mák. Totéž platí o grafických výstupech aktuálních obrazových generátorech. Podobně jako textové výstupy jsou zprůměrováním řetězců slov, v grafickém provedení je to průměr obrazů. Že by se tu zrodil nový Picasso nebo Dalí opravdu nehrozí.

Že toto konstatuji neznamená, že bych snad probůh popíral existenci technik, které zpracovávají stále větší datové soubory. Dokonce i dialog v otevřeném běžném jazyceuž je součástí našeho života. Zadal jsem do Googlu dotaz „K čemu je dobrá umělá inteligence‟ a Google odpověděl: Umělá inteligence umožňuje technickým systémům reagovat na vjemy z jejich prostředí, řešit problémy a dosahovat určitých cílů. Zabudovaný počítač přijímá data – která byla již připravena, nebo jsou sbírána pomocí vlastních sensorů a kamer – ty následně vyhodnotí a reaguje na ně. To není citát z existujícího článku, to je čistý extrakt datového souboru, který textový generátor Google sám vytvořil, naprosto v duchu produktů, které vzbudily takovou pozornost.

Umělá inteligence je pojem citovaný a skloňovaný ve všech pádech. Dnes je všechno obdařeno umělou inteligencí, každý vařečka a lžíce na boty. Ještě nedávno bylo všechno nano. Média ve své době objevila nanotechnologie a jakmile něco mělo být dražší, bylo to nano. Značka AI je už dlouho podobným lákadlem. Všimněte si, co všechno je inzerováno že to „obsahuje prvky AI‟. Když tedy vešel na scénu produkt, který sám sebe označil za umělou inteligenci, nastal poprask.

Nicméně takto snadno se s fenomenem nechci srovnat – a nejen proto, že jsem autor sci-fi, tudíž něco jako veřejný nepřítel a že mám strašení veřejnosti jaksi v popisu práce. To, že je kolem něčeho poprask neznamená, že je to humbuk. Naopak. Jako člověk koumavý cítím, že jsme na prahu už čtvrté převratné inovace, jíž jsem byl svědkem a aktivním účastníkem.

Začalo to v osmdesátých létech počítači. Nejdřív to byly hračky pro koumavé náctileté, já byl tehdy už cetiletý a počkal si, až přišel systém osobních počítačů třídy IBM PC – což bylo mimochodem v době mého působení u sálového počítače Akademie věd, tak jsem písíčko viděl poprvé. Po deseti letech přišel internet, další světotvorný fenomen a budu o něm ještě mluvit, až se pustím do úvah o možných hrozbách umělé inteligence. Více méně ve stejné době vstoupila na scénu digitální fotografie a ta mi na dvacet let ovlivnila život. Vzpomenu ji jako příklad, jako srovnání s tím, co se teď předkládá jako umělá inteligence. Na příklad mě přivedl můj přítel Michal Houdek, ajťák a zároveň fotograf a manažer technologicky nasměrované pí ár agentury.

Koncem devadesátých let byla analogová, tedy na filmu založená fotografie dokonalá. Když – dejme tomu – hoteliér potřeboval vyrobit propagační leták, najal si fotografa a koupil za drahý peníz sadu fotek a dal vytisknout leták. Pak přišla digitální fotografie, on si koupil digitál, hotel si nafotil sám a leták pořídil za třetinu nákladů.

Současné generátory textů vytvářejí nudné jalové produkty. Jenže většina dnešních textů – psaných lidmi – jsou nudné jalové produkty. Obchodní korespondence, tiskové zprávy, prezentace výrobků. Píší je lidé. Zajisté to nejsou špičkoví stylisté – asi tak, jako si ten hoteliér taky nenajal Jadrana Šetlíka, aby mu nafotil penzion Tulipán. Tito nádeníci stylistiky v podstatě pracují stejně, jako automatický generátor textů. Také mají naučeno, jaká slova nejčastěji jdou po sobě, aby vytvořila větu a jaké věty mají navazovat na sebe. Invence v tomto typu textové produkce není žádná. Už teď mají svoji profesní pozici ohroženou.

*

To je samozřejmý průvodní jev každé technické inovace. Strojová velkovýroba potlačila ruční malovýrobu. Ale pozor, potlačila, ale nezničila. Fotolitografické reprodukční techniky ale zcela zničily umění reprodukčního dřevorytu. Film utlumil funkci divadla jako lidové zábavy a tak bych mohl pokračovat od jedné inovace ke druhé. Mnohé profese jsou ohrožené. O kompilátorech obchodních textů jsem se zmínil. S tím ale souvisí strojový překlad. Překladač DeepL udivuje svou dokonalostí, pro běžné překládání textů je zcela vhodný a může posloužit jako podklad i pro náročnější překlady umělecké povahy, kdy na základě hrubého překladu je třeba tvořivě vystihnout nikoli jen přesný obsah, ale umělecké vyznění textu.

Co nás ovšem fascinuje jsou aktuální generátory obrazu. I zde jde o takzvané strojové učení, tedy o jakési zprůměrování obrazového materiálu. Obrazové výstupy mají dětské nemoci, jak v provedení, hodně se psalo o tom, že mají problémy s počtem prstů nebo dokonce s počtem rukou, tak technicky, mají zatím malé rozlišení, takže nejsou vhodné k náročnému tisku, rozumějte tisku na papír. Ohroženi jsou výtvarníci a samozřejmě o obrazové banky, které médiím zejména těm internetovým obrazový materiál prodávají. Vy si pro svůj článek na webu koupíte obrázek fotorealistického Karlova mostu a zaplatíte firmě Midjourney, místo abyste zaplatili honorář Richardu Horákovi anebo agentuře. Jak přišla Midjourney k obrazu Karlova mostu? Zprůměrovala iks skutečných fotografií památky, aniž se autorskými právy zabývala. V podstatě je ukradla a vygenerovaný obraz je legalizovaný plagiát. Lze si stěžovat, doporučovaná instance je lampárna Hlavního nádraží.

Toto ale nejsou hlavní hrozby obsažené v petici Muska, Wozniaka a dalších kvalifikovaných veličin. Povšimnu si dvou hlavních okruhů.

Cituji:

Měli bychom vyvinout nelidské mysli, které by nás nakonec mohly převýšit, přechytračit, zastaraly a nahradit nás? Měli bychom riskovat ztrátu kontroly nad naší civilizací? Taková rozhodnutí nesmí být delegována na nevolené technologické lídry. Výkonné systémy umělé inteligence by měly být vyvíjeny pouze tehdy, když jsme si jisti, že jejich účinky budou pozitivní a jejich rizika budou zvládnutelná, píše se tu doslova.

To je opakování klasického argumentu. Používá se od doby, kdy se začalo mluvit o počítačích páté generace, to jsou ty, které by byly nadány skutečnou inteligencí ba dokonce superinteligencí. Superinteligence je název ikonické a tudíž hojně citované knihy Nicka Bostroma z roku 2014, která na více než čtyřech stovkách stran vypočítává všemožné podoby pohromy, která nastane, až počítače budou chytřejší než lidé. Háček vidím v tom, že na hodnověrnou prognózu pozitivních účinků – a minima rizik – bychom potřebovali superinteligenci, jenže tu nemůžeme mít, jelikož rozhodnutí ji vytvořit nesmíme delegovat na nevolené technologické lídry. Jestli máte pocit, že to zesměšňuji, myslíte si to správně. Negativní následky inovací – pokud samozřejmě nejde o vojenský výzkum nebo manipulaci s viry, jako se to stalo ve Wuchanu s coronavirem – mám tedy na mysli negativní následky inovace zaměřené na obecný prospěch předvídat lze částečně, avšak ty zásadní dopady přijdou odjinud.

Dám příklad, který s vývojem umělé inteligence souvisí.

O internetu jsem se už zmínil. Když ho vypustili do světa, bylo jasné, že negativně poskytne média: byl od prapočátku multimediální a limitovaly ho jen kapacity přenosu dat. Každý věděl, že tištěná média ustoupí do pozadí. Hovořilo se o politickém vlivu a měla se tím na mysli referenda a volební systémy jako takové. Nikdo ale nepředvídal vznik sociálních sítí. Nikoho nenapadlo, co se stane, aby každý mohl žvanit do čehokoli a už vůbec ne, že se žvástům bude přikládat váha. To co se dříve házelo do koše a jmenovalo se to dopis rozhořčeného čtenáře se stalo alternativní publicistikou. Řetězové maily vytvářené darebáky a blby svým vlivem soupeří se státní televizí. Tohle nikoho nenapadlo.

Napadlo to ale autory zde diskutované petice. Obávají se, že stroje – cituji – zaplaví naše informační kanály propagandou a nepravdou. Obávají se právem. Záplava propagandy a nepravdy nás ohrožuje už teď prostřednictví všeho, co internet v různých jeho podobách nabízí a jazykové generátory k tomu bezpochyby přispějí. Navíc, už dnes se to děje, Chat GPT4 je sice novinka, ale předchůdce má, připomenu ruské továrny na lži, produkující falešné twitterové účty masivně bombardující klienty sociálních sítí svobodného světa. Nevěřím ale, že nás ochrání půlroční moratorium a ustavení jakési rady moudrých. Italové do toho zhurta šlápli a nařídili firmě OpenAI, aby znemožnila přístup k ChatGPT italským uživatelům. Lze čekat právní bitvy kolem ochrany autorských práv, v generování obrazu je to evidentní.

Přesto všechno si myslím, že stejně jako internet je pozitivní inovace a zlepšil lidem život a že jeho přínos výrazně převažuje nad negativními dopady, generátorů textu a obrazu se naučíme používat ve směru, který se už teď rýsuje, ale v nepříliš vzdáleném budoucnu se objeví další možnosti. Zvláště proto, že se dá brzy čekat další přelom: zatím se bavíme o generování písemného textu, avšak na pořadu dne je běžná hlasová komunikace člověka se strojem.

Bude to obrovská výzva pro soudnost a charakter každého z nás. Už dnešní textové a obrazové výstupy jsou sugestivní. Jak magické budou výstupy zvukové! A zase – nastane vlna varování: už Bradbury ve 451 stupňů Fahrenheita varoval před lidmi omámenými švitořivými mušličkami v uších. Na mysl se vtírá průpovídka o dobrém sluhovi a zlém pánu. Hlasový interface umělé inteligence bude pro někoho nedocenitelný pomocník a změní to styl práce. Někoho to zničí. Všimli jsme si zprávy v médiích, že se kdosi nechal zdeptat klimaalarmistickými výstupy textového generátoru natolik, že spáchal sebevraždu.

Bude to jako je už dnes – ve větším. Nápor nesmyslu a bludu se zesílí. Zároveň se zpřístupní informace a rozšíří se možnosti. Půjde to křivolakými cestami, přibude petic a varovných hlasů. Vlády jsou posedlé myšlenkou ochrany – najděte hrozbu a my vás před ní ochráníme. Budou se vnucovat a jejich aparát se rozroste, místo aby hledaly funkční řešení a zjednodušení agendy: to by byl smysl umělé inteligence jako inteligentního zpracování dat. To vše nastane, nicméně zůstávám optimistou. Proti konceptu ochrany stojí koncept osobní odpovědnosti a zdravého rozumu. Ano, generátory textů tvrdě postihne školství a celková úroveň vzdělání asi poklesne o další schod dolů k plytkosti a bezduchosti. Platí ale Paretova zásada osmdesát ku dvaceti: těch dvacet procent kreativních jedinců, ať to jsou děti ve školách nebo pracovníci v nejrůznějších odvětvích, využije skvělých možností, jež jim nová technologie nabídne.

Tím chci skončit a čekám, že se mě zeptáte, proč si tím jsem tak jistý.

Na to odpovím jednoduše: protože tak to bylo vždycky.