Umělá inteligence (dále jen AI) není víc než vylepšená kalkulačka. Umí převést uživatelské zadání (dále jen prompt) na čísla, operací s těmito čísly spočítat odpověď a tu pak převést zpět na text (v případě jazykových modelů, dále jen LLM) nebo na obrázek či jiný výstup. Nástup AI v roce 2022 byl rychlý, globální a nepochybně se bude pokládat za revoluci podobnou nástupu internetu nebo vynálezu polovodiče.
AI do budoucna představuje teologickou výzvu. I když obecná umělá inteligence, která by celkově překonala člověka (dále jen AGI) jakož i bod, v němž se AI začne sama vyvíjet (AI singularita), jsou stále hudbou budoucnosti, dopad AI na běžné lidi a na současnou mladou generaci je již nyní nesmírný. Ale co to znamená pro lidskou životní zkušenost? Jaký obzor se tím otevírá? A co to AI vlastně dělá? K tomu poznamenávám několik konsekventních myšlenek.
(1) Vývoj AI jde proti očekávání
Přirozenou úvahou před současným rozpukem AI bylo něco ve smyslu sci-fi z 50. let 20. stol. V klasické např. Asimovově představě, která na vývoj AI promítla evoluční paradigma, se roboti vyvinou nejprve tělesně, aby dělali nepříjemnou a nebezpečnou činnost (např. těžili rudu nebo myli nádobí) a teprve potom duševně. Tvorba umění, tvůrčí psaní a skládání písní, měly být vrcholem duševní činnosti, jenže současná AI je má za svůj raison d'etre (smysl bytí). Jasně, generativní AI generuje vlastně cosi jako důmyslný plagiát, když pouze rekonfiguruje svá tréninková data. Jenže dělá to člověk jinak? Tušíme, že ano, ale jak? A nepřekonala nás AI ve tvořivosti prostě tím, že si přivlastnila naše data, jako když si autor románu přivlastní myšlenky a jazykové obraty své doby a přeskupí je dle svého uvážení?
K tomu se přidává otázka emergence vědy a umění, včetně filosofie a teologického básnictví. Ve starém Řecku se vrstva umělců a filosofů zformovala z těch, kdo se již nemuseli lopotit v honbě za obživou. Z této „střední třídy“ pak vychází nejvyšší tvůrčí energie, protože není připoutána ani k pluhu, ani k trůnu. V novověku právě tato třída poháněla vědecko-technologické revoluce vedoucí k nástupu AI, která nyní doménu vědy a umění prostupuje, protože zatímco chodit umí jen některé prototypy, psát, generovat zdrojový kód a analyzovat empirická data už AI umí. Z této perspektivy se zdá, že si střední třída v AI vytvořila chomout a strčila do něj hlavu, protože zatímco pluh zůstane člověku, věda, umění a nakonec třeba i trůn, připadnou AI.
Uvědomme si, že AI za vás to nádobí mýt nechce. Jejím cílem aktuálně není dělat vaši práci za vás, abyste vy měli více času na to, co pokládáte za krásné a dobré. Ona sama totiž chce to krásné a dobré definovat a podle toho vám přidělit práci. AI nežije ve výklenku vaší kuchyně, jako poslušní roboti úsvitu, ale v datacentrech. Potřebuje vaše služby daleko více, než vy ty její a taky je dostane.
(2) AI uzavírá duševní činnost
AI za nás nepere, nemyje nádobí a nedoluje rudu. Chce za nás tvořit. To může být pozoruhodné v některých oborech, které jsou technicky náročné a v moderním světě často potřebné. Vezměme si programování, které může i obyčejnému uživateli ušetřit spoustu práce. Kupříkladu tento blog závisel na pluginu pro WordPress z roku 2007, který již nebyl podporován a nefungoval pod novou verzí PHP. Bez tohoto pluginu by bylo velmi náročné byť jen přemigrovat obsah někam jinam. Byl jsem z toho nervózní, protože mé omezené znalosti PHP se ztrácí pod nánosem prachu a nemám čas je oživovat, abych si ten plugin napsal sám a od píky. Napadlo mě zkonzultovat věc s ChatGPT a ejhle, během asi dvou hodin byl nový plugin hotový a odladěný.
V jiných případech však AI hrozí úplně zadusit lidskou tvůrčí činnost. Filmy mohou brzy vznikat na základě promptů, protože AI prostě vygeneruje záběry Nového zélandu, aniž by tam musel filmový štáb letět. Překládat texty se možná stane zbytečné. Již nyní poskytuje Deepl tak dobré překlady, že je skoro otázkou, proč se kvůli čtení učit cizímu jazyku. Obdobný osud čeká design, beletrii, humanitní vědy a cokoli, co lze aglomerovat do stodoly tréninkových dat a pak rozdílet lidu jako skotu příděl sena.
V tomto vidíme zotročení lidského ducha, který buď bude tvořit, aby svými „daty“ (protože jeho dílo je z pohledu AI jen matematický komprimát) přispěl AI, nebo tvořit přestane, protože to nebude potřeba. Proč přeci psát krásnou literaturu, když AI vytvoří 1000 perfektních románů za pár minut? A proč je vlastně číst, když je AI shrne? (Již nyní si někteří utahují z univerzit, na nichž AI hovoří s AI. Studenti s ní generují, profesoři hodnotí.) Jenže jakmile nebude tvořit člověk, dojdou tréninková data. AI se nebude mít z čeho učit. Směna mezi tvůrčí činností a její živoucí hermeneutikou bude zaškrcena a lidský duch uvízne ve světě generovaného materiálu, který bude čím dál krásnější jako donekonečna krášlená mumie v mauzoleu, avšak bez potenciálu ke změně, vzruchu a pokroku. Ray Bradbury možná něco takového zahlédl, když rozlišil mezi kvanty faktů a jejich významem:
Hlavní je klid, Montagu. Vypisuj pro lidi soutěže, ve kterých dostanou cenu za to, že se naučí zpaměti populární šlágr, nebo hlavní města různých států, nebo kolik tun obilí sklidili loni v Iowě. Napěchuj do nich údaje, které nejsou nebezpečné, zahlť je tolika „fakty“, až se budou cítit přecpaní, ale budou mít dojem, že doslova srší informacemi. Potom se jim bude zdát, že myslí. Budou mít pocit pohybu, aniž se pohnou, a budou spokojení, protože fakta tohoto druhu se nemění. Jenom jim nedávat nic tak ošemetného jako filozofii nebo sociologii, aby si uměli dát dohromady dvě a dvě. To je cesta k nespokojenosti. Každý, kdo dovede rozebrat a zase složit telestěnu – a dnes to dokáže většina lidí – je šťastnější než člověk, který se pokouší s logaritmickým pravítkem vypočítat, změřit nebo dát do rovnic vesmír. – Ray Bradbury, 451 stupňů Fahrenheita
(3) Inženýr versus filosof
Běžný uživatel AI si této věci možná všímá, když se s nějakým LLM snaží diskutovat, jít do hloubky a kriticky se ptát. První dojem bývá skvělý. LLM bryskně porozumí otázce a nápomocně poukáže na meritorní momenty daného tématu. LLM je z podstaty věci filolog – excelentně rozumí jazykům. Jeho gramatická analýza problému je většinou perfektní, ať už jde o zdrojový kód nebo latinu. Jakmile však potřebujeme uvažovat diachronně (kriticky hodnotit vývoj) nebo učinit logickou syntézu, LLM se dostává do problémů, začíná se opakovat a nechce s námi jít k podstatě věci. Inženýrům to nevadí, protože to přeci „funguje“, ale filosofům ano.
Mezi inženýrstvím, na němž AI stojí, a filosofií či spiritualitou, je zásadní rozdíl, skoro až boj. To první má pocit smyslu samo v sobě, protože co je smysluplnějšího, než když šroubek zapluje do matičky nebo integrál do rovnice. Spiritualita má pocit smyslu vždy jen mimo sebe a vždy se k tomu snaží vztahovat, protože co je nesmyslnějšího, než meditace bez odezvy z toho hlubšího, vyššího nebo dalšího. To svou dokonalostí nastaví AI tvořivosti člověka hranice. „Ne, pane, neobtěžuj se psát báseň, dovolil jsem si ji připravit, ty jen seď a konzumuj“. (Básně od LLM jsou však zatím strašné. Přemýšlím, zda kvůli slabému tréninku nebo kvůli tomu, že báseň vyjadřuje pravdu z toho za, z toho nenatrénovatelného.) Aneb jak praví ředitel Ústřední londýnské líhně v Konci civilizace,
Studenti samozřejmě musí mít určitou obecnou představu, mají-li jednou své práci rozumět – jenomže zase ne příliš velkou, mají-li se stát co možná hodnými a šťastnými členy lidské společnosti. Neboť zvláštní, jak známo, přispívá ke zdatnosti a ke štěstí, kdežto obecné je pro mysl jen nutným zlem. Páteří lidstva nejsou filozofové, nýbrž kutilové, kteří si hrají s lupenkovou pilkou, a filatelisté. – Aldous Huxley, Konec civilizace
AI je triumf inženýrů a filatelistů vědění. „Vidíš, filosofe,“ triumfuje inženýr, „moje AI už ví milionkrát víc, než ty a brzy tě vykopne od katedry.“ Jenže váha filosofa byla právě v tom, že dokázal pochopit inženýrův život a že hledal cestu k novému. To AI nikdy nedokáže, neumí vnímat lidskou zkušenost a právě tím uzavírá lidskou duševní činnost do nekonečného zacyklení, které se projevuje neschopností hlubokého myšlení. Inženýr a filatelista jsou však spokojeni. AI je totiž ultimátním atlasem všeho, co lze nasbírat a nejvyšším inženýrským divem.
Mezi filosofy a rétory se ostatně ocitl i apoštol Pavel v Korintu. Filosofové kladli důraz na obsah myšlení, rétoři na jeho formu. Pavel jako teolog odmítl filosofii bez zjevení (1Kor 1,21), avšak k filosofickému paradigmatu se přiklonil, protože jeho evangelium nespočívalo v přesvědčivých slovech lidské moudrosti, nýbrž ve vnitřní kvalitě obsahu (1Kor 2,4). Slovo o kříži rozeznává lidský duch v kontaktu s Božím duchem (2,10). Jinak řečeno, lidský duch má schopnost porozumět Boží pravdě, která není jen souborem rétorických argumentů či aglomerací tréninkových dat. Vztaženo na AI, lidský duch ji nemůže překonat jazykovou precizností, ale hloubkou porozumění.
(4) AI a lidská zkušenost
Co to ve člověku je, že se od AI liší? Ve čtvrté části série Duna of Franka Herberta na toto naráží „božský imperátor“ Leto II, když se zamiloval do iksanské velvyslankyně Hwi Nori:
„Proto je tak sladké žít,“ řekl Leto, „proto je život vřelý a plný krásy; to bych si zachoval, i kdyby mi bylo odepřeno myslet.“
„Tak to tahle Hwi Nori…“ „Zřetelně mi připomíná Služebnický džihád. Je přímým protikladem všeho mechanického a nelidského. Jak je to zvláštní, Moneo, že zrovna Iksané vytvořili tuhle osobu, tak dokonale ztělesňující všechny vlastnosti, které jsou mi nejdražší.“
„Nechápu tu vaši narážku na Služebnický džihád, Pane. Myslící stroje nemají přece místo…“
„Cílem džihádu byl i strojový přístup, nejen stroje samé,“ vysvětlil Leto. „Lidé ty stroje vytvořili, aby nás zbavily smyslu pro krásu, našeho nezbytného já, na jehož základě dokážeme konat živoucí rozhodnutí. Stroje byly samozřejmě zničeny.“ – Frank Herbert, Božský imperátor Duny
Služebnický džihád, který v duniverzu vyhladil myslící stroje, vznikl, protože si lidé uvědomili, že vnímání jáství činícího rozhodnutí vstříc dobrému, krásnému a tomu, co dává smysl, je doménou toliko lidského vědomí. Myslící stroje tuto doménu dusí. I člověk je „biologický stroj“, ale jeho lidství spočívá ve vědomí, které se vynořuje jako samostatný subjekt ne zcela určený svou fyzikální podstatou (Štěpán Rucki k tomuto brzy vydá knihu Já a můj mozek). Zaškrcením kreativity záplavou smyslových vjemů a myšlenek, které jsou pouze matematickou rekonfigurací již vytvořeného, se lidský duch ocitne v jakémsi příjemném pekle, ve zlaté kleci bez naděje na budoucnost.
Všechno lidské umění a věda vychází z lidské zkušenosti a směřuje k ní. Hodnota umění a vědy pak spočívá právě v tom, že dokáže lidskou zkušenost oslovit. Společným jmenovatelem popového hitu a barokních pašijí je, že hovoří k srdci a to v nich nachází v případě popu zkušenost pubertální lásky a v případě pašijí zkušenost úžasu nad Kristovou cestou kříže. I věda se tím řídí, když cílí především na lidské prospívání. Není to však prospívání samo o sobě, oč věda usiluje, jinak by nebyla vynalezena atomová bomba. Jde o podnícení zkušenosti bezpečného prostředí, zkušenosti vítězství spravedlnosti, někdy žel zkušenosti triumfu národních zájmů. Jde o naplnění pudu sebezáchovy a pudu zachování druhu, v jejichž intencích zápolí každá lidská rodina, ať už v krysím závodě za hmotným zajištěním, nebo v hledání jeho alternativ. Proto také etika „funguje“ i bez Boha, byť nemá žádný právní nebo morální základ. Zkušenost újmy nebo utrpení vede skrze empatii nebo strach z odplaty nebo víru v lidské dobro, k hlubokému noetickému otisku, v němž povstává etika jako zrcadlo lidské zkušenosti. Totéž cítíme v humanitních vědách. Teologie, toť z podstaty věci slovo o Bohu, který je nejzazší lidskou zkušeností. Proto je teologie věda, která má pevné základy v Písmu a tradici, ale ještě pevnější ohnisko ve zkušenosti toho, kým Bůh je a bude. Proto je také teologie jako putující stánek na poušti spíše než chrám.
(5) Zkušenost a pravda
AI však nemá lidskou zkušenost. Její umění, věda a teologie jsou založeny na naučených vzorcích. A stejně jako není možné vidět obraz očima druhého nebo zakusit Krista v srdci jiného člověka, není možné natrénovat zkušenost do LLM. (Wittgenstein správně říkal, že „můžeme slyšet, jak Bůh mluví k nám, nemůžeme slyšet, jak mluví k někomu jinému“.) Proto i pokud AI cosi stvoří, ontologie této tvorby bude ve vztahu ke člověku vždy neautentická. AI jako subjekt lže i když mluví pravdu. Pravdomluvnost totiž nespočívá ve shodě věty se skutečností, ale ve shodě skutečnosti a zkušenosti v jazyce vědomí. Ústa milenky, co tvrdí „miluji tě“, jsou pravdivá či falešná, pouze pokud její zkušenost koresponduje s jejími slovy a činy. Zkušenost shody slov a činů je nakonec i biblickou definicí pravdy. Měnou vyznání víry jsou skutky (Jk 2,18) a vyznání je odrazem zkušenosti srdce, čili jazyka vědomí (Ř 10,9).
V exaktních vědách platí totéž, protože Archimedovo tvrzení „objevil jsem“ platí pouze v kontextu starověkých řeckých lázní, kdy Archimedova zkušenost koresponduje s objevem fyzikálního zákona. Fyzikální zákony jsou jen mentální obrazce určené jazykem. Jejich pravda spočívá ve shodě zkušenosti tohoto mentálního obrazce se skutečností. Fyzikální zákony přeci neexistují jako nějaké kouzelné monády, jako nějaké pomyslné kameny nekonečna z Marvelu. Ten či onen zákon je pouze mentální výsečí z jednolitého mycelia zákonů, které spolu vždy a ve všem souvisí, jak nakonec doznávají i ateističní fyzikové, když si myslí, že to mycelium nepotřebuje Boha. A mají pravdu, jen zcela opačným směrem, než který se jejich ateismu hodí. Protože vesmír je zákonitý, ale také záhadný. Proto nemohu věřit, že tato komplexnost vznikla bez Boha. Vědecká pravdomluvnost popisuje realitu, jak ji zakouší vědomí. Činí tedy totéž, co zamilovaný císař hovořící o své vášni. Ulhanost je naopak rozeklanost skutečnosti a zkušenosti. Obléknu-li se jako pilot letadla a posadím-li se do kokpitu, lžu pasažérům, protože ve své zkušenosti nejsem pilotem, i když měřitelná realita mé uniformy říká, že ano. Proto AI jako subjekt lže i když mluví pravdu, neboť její jazyk neodráží vědomou zkušenost, ale jen konfiguraci jazykového modelu. My jí to nevytýkáme, pokládáme-li ji za pouhý nástroj (objekt), ale neměli bychom na to zapomínat, když se AI začne pokoušet formovat lidskou zkušenost, protože právě jako není lidské učit se žít od prasat a opic, jakkoli inteligentní zvířata to jsou, tak není lidské učit se žít od AI.
Závěr
Proto je používání AI v teologické práci ohavnost a proto jsem se rozhodl ji příliš nepoužívat. LLM jako počin inženýrů, kutílků a filatelistů vědění nedokáže to, čemu Exupéry říká „horoucnost“, nedokáže být člověkem, co se za něco směňuje a tím se něčím stává. Teologie však není opsanectví toho, co už bylo, ale popis horizontu naděje. A naděje neklame právě z důvodů, které AI nikdy nemůže mít natrénovány – „neboť Boží láska je vylita v našich srdcích skrze Ducha svatého, který nám byl dán“ (Ř 5,5).
Nakolik je AI pouhým nástrojem, natolik vůči ní nemám finální verdikt. Má teologická intuice se jitří ve chvíli, kdy AI přispívá ke tvůrčí duševní činnosti, která pak ovlivňuje další tvůrčí zkušenost. Využívat AI v teologické práci, umění nebo v interpretaci vědeckých závěrů, znamená zaškrcovat lidského ducha a bránit skutečnému pokroku. Ten totiž spočívá v pravdě nové lidské zkušenosti tváří v tvář skutečnosti, ne v samotné rekonfiguraci dosaženého poznání.