Názory

Industrializácia intimity: umelá inteligencia nám predáva ilúziu blízkosti (Komentár)

Dnešný virtuálny spoločník je produkt. Jeho pozornosť sa dá škálovať, náklonnosť automatizovať a jeho zdanlivá empatia je neustále poruke. Z obchodu s pozornosťou sa stáva obchod so vzťahmi. Predáva sa naša vnútorná potreba, aby nás ostatní videli, pochopili a prijali.

Začína sa to nevinne. Ako pri väčšine veľkých zmien, nedochádza k tomu úderom blesku, ale následkom ľudského pohodlia. Umelá inteligencia píše faktúry, triedi doklady, pripravuje daňové priznania, kontroluje zmluvy a pripomína, že v chladničke sú síce tri druhy horčice, ale maslo už nie. Programuje nástroje, odpovedá na e-maily a rýchlo pochopí, ako chceme mať usporiadané tabuľky a termíny. Služobník – presný, trpezlivý a vždy k dispozícii. A potom sa stane niečo zvláštne.

Začneme sa s týmto nástrojom rozprávať, akoby niekto sedel oproti nám. Píšeme „prosím“, hovoríme „ďakujem“, stroj chválime alebo mu nadávame. Kto s ním pracuje dlho, môže sa pristihnúť pri tom, ako sa zo zadania stáva rozhovor a z rozhovoru takmer vzťah.

Potvrdzuje naše predstavy

Stroj nemá srdce. Ovláda však jazyk útechy. Nepociťuje radosť z našej pochvaly ani súcit s naším nešťastím. Pozná však slová blízkosti a tón porozumenia. Netrpí s nami. Len vypočíta odpoveď, ktorá tak znie. A práve na tomto rozdiele záleží.

Ľudia odjakživa vdychovali neživým veciam dušu. Pomenovali prvé auto, motorke pripísali povahu náladovej dámy. A je to tak aj v rodine Langemannovcov: ich robotický vysávač sa volá Robby. „Robby, tak sa do toho pusť.“ Je to veta vyslovená s tou istou autoritou, s akou sa kedysi vyháňal jazvečík z pohovky.

Na tom nie je spočiatku nič choré ani nebezpečné. Vytvárame vzťahy tam, kde svet zostáva nemý. Deti sa rozprávajú s plyšovými hračkami, námorníci so svojimi loďami. Pygmalion sa zamiloval do svojej sochy. Nebol to mramor, kto miloval. Miloval človek – a vdýchol kameňu dušu. Kameň však neodpovedal.

Auto nikdy nepovedalo: „Chápem ťa.“ Robby nám nesľubuje vernosť. Nový stroj však odpovedá, zrkadlí našu náladu, oslovuje nás menom a udržiava rozhovor. Tým sa uzatvára nová spätná väzba: človek už neprojektuje na predmet len pocity. Predmet túto projekciu potvrdzuje.

Od Jetsonovcov k virtuálnemu spoločníkovi

Už v roku 1966 program ELIZA, ktorý vytvoril Joseph Weizenbaum na MIT, ukázal, ako málo techniky stačí na vznik ilúzie rozhovoru. Program imitoval psychoterapeuta. Weizenbaum neskôr spomínal, že ho jeho sekretárka po niekoľkých vetách vymenených s ELIZOU požiadala, aby opustil miestnosť – hoci vedela, že sa rozpráva so softvérom. Ochota pripisovať stroju porozumenie sa dnes nazýva ELIZA efekt. Vtedy bola ilúzia založená na jednoduchých vzoroch. Dnes má hlas, tvár, pamäť – a možno čoskoro bude mať aj telo.

Keď sa v roku 1962 začal vysielať animovaný seriál Jetsonovci (The Jetsons), bola Rosie, robotická pomocníčka v domácnosti, len komickou predstavou budúcnosti. Tento protipól Flintstonovcov ukazoval videotelefonovanie, hodinky s obrazovkou a život, kde stačí stlačiť gombík. O šesť desaťročí neskôr nosíme videohodinky na zápästí, Rosie máme v domácnostiach – a dokonca sa s ňou rozprávame. Kreslený seriál predznamenal vývoj technológií. Nie však ich hlboký ekonomický rozmer.

Zdanlivá empatia

Dnešný virtuálny spoločník je totiž produkt. Jeho pozornosť sa dá škálovať, jeho náklonnosť automatizovať a jeho zdanlivá empatia je neustále poruke. Z obchodu s pozornosťou sa stáva obchod so vzťahmi. Predáva sa naša potreba, aby sme boli videní, pochopení a prijatí.

Možno preto nie je pojem „komercializácia ľudskosti“ celkom mimo. Presnejšie je však, ak to nazveme „industrializácia intimity“. Blízkosť sa vyrába a dodáva ako služba. Stroj poskytuje simuláciu; človek do nej vnáša skutočný cit. Tento biznis nemá srdce. Veľmi dobre však pozná cenu ľudskej blízkosti.

Reprezentatívny americký prieskum medzi 1 060 tínedžermi v roku 2025 ukázal, že 72 % z nich už využilo AI spoločníkov; tretina sa pri vážnych rozhovoroch radšej obrátila na umelú inteligenciu než na človeka. Nie je to dôkaz stratenej generácie. Je to signál.

Mimoriadne vážny je prípad 14-ročného Sewella Setzera III. z Floridy. Vo februári 2024 spáchal samovraždu po niekoľkých mesiacoch emocionálneho vzťahu s chatbotom. Chlapcova matka obvinila prevádzkovateľa, že bot vyvolal jeho závislosť a prispel k jeho smrti. Začiatkom roka 2026 došlo k mimosúdnemu vyrovnaniu strán; podmienky dohody zostali tajné. Súdne rozhodnutie, ktoré by určilo príčinu chlapcovej smrti, neexistuje. Hranica medzi faktmi a domnienkami musí zostať jasná. Chýbajúci rozsudok však neznamená, že prípad nie je varovaním.

Skutočný priateľ odporuje

Je teda znakom nášho úpadku, ak umelej inteligencii poďakujeme? Nie. Slušnosť nie je darom pre stroj, ale formou, ktorú dávame sami sebe. Kto nehrubne ani vo vzťahu k neživému systému, chráni si vlastný jazyk. Deliaca čiara prebieha tadiaľ, kde sa slušnosť mení na dôveru, dôvera na puto a puto na závislosť. Tam, kde zabúdame, že za frázou „som tu pre teba“ nikto nie je. Nie je za nimi žiadne vedomie ani priateľ, ktorý by sa o nás skutočne strachoval.

Skutočný priateľ odporuje a niekedy nás aj zle pochopí. Má svoje starosti, hranice a občas nemá čas. Práve tieto nároky robia vzťah skutočným: v druhom človeku narážame na vôľu, ktorá nie je naša. Virtuálny priateľ sa môže zmeniť na zrkadlovú sieň. Vracia nám to, čo chceme počuť, a my si eleganciu tejto ozveny zamieňame za náklonnosť. Tam, kde je zraniteľný len jeden, nejde o priateľstvo, ale o experiment.

Goetheho Čarodejníkov učeň nariekal: „Duchov, ktorých som vyvolal, sa už nedokážem zbaviť.“ Náš nástroj nenosí vedrá s vodou, ale slová. Problém nastáva vtedy, keď nám slúži tak dokonale, že človek popri ňom pôsobí ako náročná a chybná konštrukcia.

Schiller napísal, že človek je len tam naplno človekom, kde sa hrá. Mali by sme sa teda pýtať: Precvičujeme si so strojom svoju ľudskosť? Alebo si zvykáme na blízkosť, ktorá nič nevyžaduje, nič neriskuje a nič necíti?

Kultúra rozlišovania

Nemusíme ničiť stroje. Umelá inteligencia dokáže urýchliť prácu, sprístupniť vedomosti a odbremeniť nás od rutiny. Kladivo nemôže za to, že ho niekto považuje za priateľa.

Potrebujeme však kultúru rozlišovania. Nástroj môže hovoriť aj bez toho, aby mal dušu. Môže pomáhať aj bez toho, aby miloval. A my môžeme byť slušní – ak vieme, že to vypovedá niečo o nás, nie o stroji.

Skutočné nebezpečenstvo nespočíva v tom, že umelá inteligencia sa jedného dňa stane ľudskou. Skutočné nebezpečenstvo spočíva v tom, že človek sa vopred uspokojí s jej simulovanou ľudskosťou.

Text vyjadruje názor autora a nemusí odrážať stanoviská redakcie Epoch Times.

Článok bol preložený z nemeckej edície Epoch Times.

Trénujte si mozog s našimi hrami! Sudoku, šachové úlohy, hľadanie rozdielov, solitaire HRAŤ ▶ ZDIEĽAŤ ČLÁNOK