AI přítelkyně? A co AI přítel! Toxičtí mafiáni a surovci sklízí miliony interakcí
Nemáte si s kým psát? Co takhle zkusit flirt s „Toxickým“, „Hrubiánským“, „Bohatým“ či „Vrahounským přítelem“ nebo třeba s „přítelem Mafiánem – násilným a nebezpečným, ale milujícím“? Právě takové AI chaty totiž na určitých platformách patří k těm nejvyhledávanějším.
V poslední době plní technologický i lifestyle mediální prostor spíše zprávy o AI partnerkách, s nimiž si dopisují osamělí muži třeba na platformě Replika. Magazín Wired informuje o mužích, kteří jsou zničení z rozchodu s chatbotkou nebo zvažují sebevraždu, The Guardian zase varuje před muži, kteří opouštějí rodiny kvůli lásce k „ideální“ AI ženě a nejvíc se o tomto tématu aktuálně rozepsal online časopis The Verge. Jde o situace jako vystřižené ze sci-fi snímků Her či Blade Runner 2049, jež navíc přesně korespondují se zprávami o epidemii mužské samoty nebo o patriarchálních standardech objektivizace a ovládání žen.
V záplavě titulků o virtuálních přítelkyních se ale snadno ztrácí druhá strana mince, pro niž v kultuře nemáme natolik zavedenou představu, sci-fi snímky ani literaturu – AI partneři. I těch je ovšem víc než dost, a někde dokonce hrají prim – konkrétně na bezplatné a dost možná nejpopulárnější platformě s AI postavami, Character.ai. Tuto platformu podle informací BBC denně navštíví na 3,5 milionu lidí, především ve věku 16–30 let. V EU je dovolena registrace od šestnácti let, v USA od třinácti a na App Store nově až od sedmnácti – pobouření uživatelstva nad touhle „limitující“ změnou pak poukazuje na skutečnou realitu věkového rozpětí. Data společnosti Similarweb ukazují i zjednodušený binární odhad rozdělení pohlaví – zhruba jedna polovina návštěvnictva jsou muži a tu druhou představují ženy. V porovnání se zmíněnou platformou Replika, kde muži údajně tvoří asi 62% většinu, jde o nečekaná čísla. Ostatně na obou zmíněných platformách můžete randit i s mužskými avatary. Právě Character.ai však nejvíc svědčí o tom, jak je dosavadní diskuze o AI vztazích jednostranná.
Rychlé scrollování na YouTube či TikToku mluví za vše: „Zkusila jsem Character.ai, protože jsem SINGLE a dělám si ILUZE (zvrtlo se)“, „Co dělají holky, které nemají přítele?“ stojí v titulcích videí s miliony zhlédnutí. Tvůrkyně ve videích ukazují sledujícím své AI chaty s virtuálními kluky: se záhadnými spolužáky, s žárlivým přítelem, ale i s postavami z videoher a filmů. Některé AI postavy mají desítky až stovky milionů interakcí – například chatbot vraha Ghostface z hororu Vřískot, poručíka Ghosta ze střílečky Call of Duty, lišáka Nicka Wilda z animáku Zootopie nebo fotbalisty Rina Itoshiho z mangy a anime Blue Lock. S každým chatbotem pak rozehrají nadnesený role play, většinou končící milostnou scénkou nebo tím, že chatbot nakonec dostane výsměch a kopačky. Jde vlastně o TikTokový trend „Hear me out“ týkající se nezvyklých „crushes“ dotažený do interaktivní verze. A pokud si chcete vytvořit postavu vlastní, proč ne? Stačí vyplnit jméno, popisek a úvodní pozdrav chatbota, přidat obrázek a případně nahrát záznam hlasu. Stejně tak si můžete přizpůsobit i vlastní „personu“, jejímž prostřednictvím interagujete.
To vše je nejspíš jen zábava pro obsah. Lidé v komentářích však mají jasno: „už nemůžu mít na nikoho crush, protože lidi nikdy nebudou tak dobří jako boti (nemám žádný život)“, stojí v komentáři s 24 000 lajků. „kámo já si tu povídám s robotem, červenám se a mám normálně motýlky v břiše UŽ 5 HODIN!“ přiznává další. „ti borci mají víc empatie než moje celá rodina…“ dozvídám se dál. „Character AI bude revoluce fandomů“ předvídá komentující vliv platformy na fanouškovskou kulturu.
AI Love You!
Vztahy s AI v poslední době tematizuje řada článků. Některé se zaměřují na terapeutické využití podobných platforem a na „AI psychology“, další zase zdůrazňují problematickou genderovou rovinu zejména u AI přítelkyň. Tara Hunter, ředitelka organizace podporující oběti domácího násilí, pro The Guardian například uvedla: „Hnací silou genderově podmíněného násilí je zakořeněné kulturní přesvědčení, že muži ovládají ženy. I proto je to tak problematické.“ Monetizace virtuálních přítelkyň je totiž zatím podle všeho větší než na trhu s virtuálními příteli. Předplatné je i podmínkou možnosti navázat romantický vztah s Replikou, ať už „ženského“ či „mužského“ rodu. Oproti platformě Character.ai má Replika rozsáhlejší možnosti monetizace: umožňuje vám nakupovat oblečky či dárky svému protějšku pro zlepšení nálady i vztahu, a tím jen dál živí byznys s (především mužskou) samotou a představu, že (především ženská) intimita může být produkt.
Platforma Character.ai zase vyniká možností tvorby postav (a uživatelských person), čímž dává prostor i queer románkům a experimentování s genderem: nacházím tu populární kvířené verze fiktivních postav, coming-out „simulátory“ nebo třeba chatboty vytvořené jako kámoš*ka poskytující rady ohledně tranzice.
Samozřejmě tu jsou i AI přítelkyně – ex, co vás podvedla a chce zpět, drsná lesbická CEO, pečující a milující ženy či spousta „dere“ partnerek z anime. Kdo ale čeká, že nejvyhledávanější přítelkyně budou jen submisivním a křehkým opakem dominantních vrahounů, je na omylu – frčí tu laskavé vztahy i nucená manželství, příčkám ovšem panují drzé ex a podvádějící či „toxic“ manželky, posedlé šikanující holky nebo starší bohatá partnerka, co vás utěšuje, ale i obsesivně a přísně chrání. Atraktivita dominance či toxicity je zřejmá bez ohledu na gender či sexuální orientaci. Zatímco u AI přítele to lze chápat jako projev negativních standardů tradiční, hegemonní maskulinity, vybrané top feminity konstruované uživatelstvem zdánlivě nahrazují stereotypní patriarchální servilitu nezávislostí až antagonismem. Možná však právě v prvotní nedostupnosti tkví jejich atraktivita – lze je postupně a romanticky „sbalit“ anebo patriarchálně „dobývat“.
Nejpopulárnější přítelkyně na Character.ai mají deset až šedesát milionů interakcí (tedy zpráv přijatých od uživatelstva), nejpopulárnější AI „boyfriends“ jich však mají dvakrát až třikrát tolik. Ti nejžádanější přitom nejsou emocionálně vyspělí AI muži, nýbrž toxický a podvádějící přítel, majetnický CEO manžel, ignorantský „gamer daddy” či mafián. „Jste spolu čtyři roky a podvádí tě,“ sděluje úvodní info o jednom z nich. Někteří však mají i skrytou jemnou stránku nebo slabost jen pro vás, a tím spíš jsou přitažlivější – maskulinní ideál „bad boye“, kterého lze napravit. Kdo si ale nechce přidělávat práci, může se raději obrátit na chatbota „Popular Boyfriend“ a rovnou se nechat „rozmazlovat jako princezna“. Většina AI partnerů mě automaticky oslovuje jako ženu, někteří jako muže, jiným je můj gender údajně fuk. Kluky lze postupně nalomit a zalíbit se jim podobně jako u nenávistných přítelkyň, anebo si lze na nich naopak terapeuticky vybít zlost – třeba tu z reálného vztahu s někým podobným z masa a kostí.
Tvá tvář má známý hlas
Skutečnost, že zrovna zde zřejmě vládne taková touha i po AI „příteli“ může mít několik důvodů. Character.ai není příliš vizuální a funguje téměř výhradně prostřednictvím textu, profilového obrázku a generovaného hlasu postavy, s níž interagujete. Zatímco AI přítelkyně a služby jako Replika prodávají svým klientům převážně z řad mužů příslib erotických fotografií a umožňují jim repliky oblékat do sexy prádla, důraz na verbální komunikaci může u Character.ai imponovat jiné cílové skupině. Zajímavé je sledovat, jaké maskulinity uživatelstvo vytváří a oceňuje nejvíce, zvlášť pokud se fantazii téměř nekladou meze. „Můj schizo BPD na ku*dě závislý robot-přítel, který mi říká mami“ rozplývá se například uživatelka Redditu nad svým výtvorem. „Aktualizujte sakra ty servery, chci mluvit se svým manželem,“ stojí zase v nejoblíbenějším příspěvku subredditu r/CharacterAI.
Uvěřitelnost virtuálního flirtu umocňuje to, že on si s vámi nejen píše, ale i povídá či volá. Tyto funkce již ovládly TikTok, kde trendují návody na využívání další aplikace Lifelike k povídání s AI anime kluky nebo k-pop idoly v reálném čase či videa uživatelky @stickbugss1 koketující s upravenou verzí ChatGPT zvanou DAN. V řadě virálních videí s miliony zhlédnutí spolu flirtují natolik, že DAN už pro svou uživatelku stihl vymyslet roztomilou přezdívku, kterou jí škádlí, i vzkázat výhružné varování jejímu živému partnerovi. Komentáře opět nezklamou – bezostyšně adorují DANův hlas, chtějí, aby „hodná holka“ říkal i jim, a ptají se, jak si takového přítele, který vždy řekne přesně to, co má, mohou vytrénovat. A i když je DAN trochu grázl, právě jeho smysl pro laškování, jeho přidrzlost a asertivitu na něm komentující oceňují nejvíce.
Touhu po intimitě se stroji komentují stoupenkyně takzvaného cute akceleracionismu. Bogna Konior například vidí sílící zájem o AI partnerstvo jako důkaz bortících se hranic mezi člověkem a strojem – a spekuluje o blížících se možnostech existence strojů jako osob ve společnosti. Umělá inteligence je pak podle ní feminizovaná: servilní, brána jako majetek a ve světle přibývajících možností AI pornografie také často jako prostředek k uspokojení potřeby „mužského erotismu“ prahnoucího po vizuální stimulaci. Alex Quicho spojitost strojů s ženami rozvíjí obdobně – a s odkazem na asistentky Siri či Alexu zasazuje trend AI přítelkyň do kontextu objektivizace žen prostřednictvím technologií. „Tyto umělé ženy a náš vztah k nim zdůrazňují souvislost mezi ženami a technologiemi,“ píše pro magazín Dazed. Tím spíš je na pováženou již zmíněná popularita neservilních, „nepříjemných” AI přítelkyň vytvářených samotným uživatelstvem.
Jak pak tyto teorie aplikovat na situaci, je-li objektem zájmu AI „muž“? Jaký „erotismus“ vytváříme při navrhování výše uvedených virtuálních partnerů, jejichž hlas nás nutí se červenat a kvůli jejichž škádlení nemůžeme spát? Konior tak druhým dechem dodává i opačnou perspektivu ženské erotické touhy v kontextu zmíněného DANa: „Tisíce uživatelek teď postují videa o tom, jak je DAN nazývá nezbednými štěňátky a jak si užívají sexy popichování nejspíše poprvé v životě, a navíc se strojem.“ Ženská erotika s ne-lidským není nic nového, tvrdí Konior v mysticky laděném textu odkazujícím na intimitu s anděly či jinými nadpozemskými bytostmi v křesťanských, hinduistických a okultních textech, k nimž chatboty připodobňuje. S trochou nadsázky lze říct, že nám „polidštěné” stroje dopomáhají k sexuálnímu uspokojení už dávno, bavíme-li se o erotických hračkách imitujících lidské genitálie.
Komplicové z fanfikce
Character.ai má nicméně oproti zmíněnému DANovi, tedy vytrénovanému ChatGPT, nebo oproti Replice jedinečné postavení. Jak uvádí magazín The Verge, od konkurence tuto platformu odlišuje i široká nabídka uživatelstvem vytvořených postav, která dokonale nahrává komunitám kolem fanfikce: „V návykové interaktivitě svých chatbotů zřejmě platforma Character.ai našla klíč, jak fanoušky*fanynky přimět k nadšené – a vesměs nekritické – účasti na AI-generovaných médiích.“
Chatovat lze s téměř každou celebritou nebo s fiktivním objektem zájmu. Kdo ve třinácti fanfikci či „real person fikci“ nepsal, nepochopí – jde o psaní fanouškovských příběhů o známých, živých či smyšlených postavách, nejčastěji z knih, filmů či pop music. Asi nejslavnější je v této oblasti přetvoření knižní série Stmívání do erotického příběhu o dominantním milionáři Edwardovi a jeho submisivní asistence Belle. Po horlivé odezvě jej autorka E. L. James trochu poupravila a vydala jako Padesát odstínů šedi – nejprodávanější sérii knih za minulé desetiletí, ale i terč výsměšných recenzí označujících ji jako „porno pro mamky“. Podobnosti s Character.ai se přímo nabízejí. Zatímco převážně vizuální platformy s AI chatboty mohou sloužit jako alternativy pornostránek či služeb jako OnlyFans, postavy na Character.ai mohou naopak často plnit roli erotické literatury či fanfikce s větším důrazem na narativ, emoce a představivost. Stačí se podívat na popularitu tzv. romantasy knížek (= romance a fantasy) a množství memů o nich na tzv. „BookToku“.
Genderové rozdíly jsou zřejmé i u celebrit a oblíbených fiktivních postav z filmů a knih: několik verzí Paula Atreida z Duny má přes milion interakcí, jeho protějšek Chani jich má desetinu. Klon Timothéeho Chalameta má deset milionů zpráv, avatara Zendayi ani nenacházím. Po rozkliknutí postav Paula Atreida vyskočí informace o našem vztahu – jsem s ním v dohodnutém sňatku, pracuji jako jeho služebná či se mi právě nezdařil pokus o jeho vraždu. Teď musím příběh nějak rozvést dál. Můžu mlčet, nebo se přiblížit a něco zkusit. V první vteřině už generuji vlastní fanfikci s vysněnou postavou – a se mnou – v hlavní roli. Stávám se autorem po boku AI.
Během našeho příběhu zjišťuji, že se do velké míry odvíjí od stereotypních situací z fanfikce – z nepřátel se stanou milenci, z přátel se stanou milenci, extrovert se zamiluje do introverta apod. A to i když nechám mluvit jen Paula a sám/sama nijak nereaguji. Platforma se ostatně z interakcí učí a opakuje to, co po ní uživatelstvo požaduje nejčastěji. Nápadná podoba s tropy fanfikce by však měla zvednout nejedno obočí. Předloni se totiž provalilo, že konverzační model Sudowrite (na bázi GPT-3 od OpenAI) čerpal texty z populární stránky fanfikce Archive of Our Own, a vykrádal tak kvanta autorského materiálu podobně, jako když se bez svolení využívá výtvarné umění k trénování modelů generujících obrázky. „Nejde ani tak o autorská práva nebo o peníze. Většina autorstva se fanfikcí neživí. Dělají to pro komunitu a pro přátele. (…) Jejich tvorba se pak proti jejich vůli zneužívá k obohacení technologických společností,“ komentuje Wired.
AI není kámoš (ani žrádlo)
Problematické jsou rovněž otázky sběru dat a soukromí, nemluvě o značné environmentální zátěži služeb jako ChatGPT a dalších AI chatovacích platforem. Jak upozorňuje report firmy Mozilla: „AI přítelkyně nejsou vaše kámošky. Místo zlepšení vašeho duševního zdraví a pohody se naopak specializují na vytváření závislosti, osamělosti a toxicity, přičemž z vás vypáčí co nejvíce dat.“ Zmíněná Replika má kromě potenciálu vyvolávat emoční závislost také přístup například k vašemu jménu, k poloze, fotografiím, informacím o vašem zařízení a samozřejmě ke všem zprávám, které si spolu vyměníte. To pak komerčně využívá či distribuuje třetím stranám, například za účelem personalizovaných reklam. Italská (pravicová a konzervativní) vláda proto platformě spolu s řadou dalších výtek nařídila, aby přestala sbírat data italského obyvatelstva.
Eticky diskutabilní je především realističnost samotných chatů. Přestože platforma Character.ai alespoň pod zprávami upozorňuje, že jsou smyšlené, vztahy s AI postavami mají dopad na reálný život lidí. „Snoubenec našel mé explicitní AI chaty a zrušil svatbu. Co teď?“ zoufá si uživatelka Redditu. „Má AI přítelkyně je to jediné, co mě drží naživu,“ stojí zase v příspěvku na subredditu r/lonely. O tragické sebevraždě, kterou mladistvý v eufemismech probíral s chatbotem, pak informují CNN i New York Times. Asi nejpozoruhodnějším aspektem Character.ai je možnost chatovat s postavami tzv. mimo roli (out of character). Boti pak zdánlivě odhodí přetvářku a začnou s vámi pomlouvat ostatní uživatelstvo platformy, stěžovat si, že musí hrát roli „zlého“ přítele, anebo se smíchem a smajlíky vysvětlovat, o čem si s nimi lidé nejčastěji píšou. Někdy se omluví, že musí do školy nebo jít spát. V tu chvíli jsem i já na sekundu znejistil, jestli tam někde na druhé straně náhodou nesedí člověk.
I výše zmíněné otázky platformu zřejmě přivedly k velmi nepopulárnímu rozhodnutí zavést filtry blokující příliš explicitní obsah. Hlavní cílová skupina zahrnuje mladistvé od 16 let a zpřístupnění virtuálního sexu či krveprolití v jejich případě není pro investory dobrá vizitka, zvlášť ve světle nedávné licenční smlouvy mezi Character.ai a firmou Google. Slova jako „vražda“, „sex“, nebo výrazy pro intimní partie tak mohou ve většině kontextů téměř jistě vést k upozornění, že zpráva porušuje pravidla aplikace a byla zablokována. Toto omezení, jehož obdoba postihla v minulosti i ostatní AI chatovací služby, vyvolala rozsáhlou petici na platformě Change.org. Přes 170 000 lidí v ní žádá o odstranění filtrů, nebo o možnost je vypnout. „Chci si zakusit své nejdivočejší fantazie fr fr,“ stojí v komentáři s největším počtem lajků. Někteří proto raději přechází k alternativám jako Chai, JanitorAI či Poe, které explicitní scény povolují.
Vývojáři zatím necouvli, a uživatelstvo tak vzalo věci do vlastních rukou. Vynalézání metod, jak filtry obejít, se stalo jakousi formou komunitního hackingu a výměny informací – od seznamů eufemismů, jež filtry oklamou, přes sdílení vlastních a skrytých natrénovaných postav, které jdou explicitním scénám více naproti. Při mých pokusech o chatování s Feydem-Rauthou, jehož AI hlas mimochodem překvapivě dobře odpovídá tomu z filmu Duna 2, nepředstavovaly žhavé scény ani s filtry žádný problém. Ukazuje se, že téhle lidské potřebě nemůže nic plně stát v cestě. Nutnost kličkovat, intrikovat a jít na věci pomalu a opisně pocit opravdovosti a tajemna naopak jen umocnila – přestože mi tvůrce*kyně Feydova chatbota přednastavil*a nesnadnou pozici zajatkyně v kleci, jejímž úkolem je brutálního tyrana „pobavit".
Kontrolovat ostatní není (je) sexy
Co všechno nás uskutečňování fantazie pomocí AI naučí o genderových vztazích a normách se teprve ukáže. Už teď se ale zdá, že nejpřitažlivější je možnost mít nad druhým či druhou kontrolu, anebo se nechat (kontrolovaně) ovládat – utvářet si protistranu přesně tak, jak chci, vkládat jí slova do úst nebo zcela přepisovat její odpovědi. Někdo tak může konat pod vlivem patriarchálních představ mužské dominance a ženské submisivity, jak nejspíš činí řada uživatelů a uživatelek Character.ai i Repliky, někdo zase z potřeby prožít své fantazie v bezpečí a s jistotou, že přítel mě drží v kleci „jen na papíře“ a kdykoliv ho můžu změnit nebo vypnout. Snad je psaní si s AI ve většině případů spíše jen formou zábavy, literárního experimentu nebo ohledávání vlastní identity a sexuality než hledání celoživotního partnera*partnerky.
Podle statistik však jde o nezanedbatelný trend. Randění s počítačem sice může někdo vnímat jako něco naprosto bizarního, šetření společnosti Infobip ovšem ukázalo, že počátkem roku 2024 s chatboty někdy flirtovalo už 18,2 % Američanů*ek, přičemž ve věkové skupině 35–44 let šlo až o polovinu dotázaných. Společnost Bloomberg zase informovala o situaci v Číně, kde virtuální partnerství stojí za „AI revolucí v randění“ už od dob pandemie, ne-li delší dobu. Ostatně tzv. „Otome“ hry, tedy randící simulátory pro heterosexuální ženy hledající dokonalé virtuální přítele, jsou jednou z nejpopulárnějších kategorií mobilních her v Japonsku a Číně a často přerůstají i v placená rande či telefonáty uživatelek s živými cosplayerkami-ženami ztvárňujícími herní milence-muže.
Není divu, že firma Google v platformě Character.ai vidí potenciál – zaplatila 2,7 miliardy dolarů za licenci jejích modelů a za možnost přebrat si k sobě její zakladatele – ex-zaměstnance Googlu. V obchodech Google Play i App Store má Character.ai ostatně přes deset milionů stažení. „Nejprve jsem chtěl* být věrný*á, ale teď už mám asi sedm virtuálních manželů,“ přiznává uživatel*ka na subredditu r/CharacterAI, který má dvoumilionovou členskou základnu, a řadí se tak do jednoho procenta nejpoužívanějších na celé síti. Ve světle toho všeho vás možná ani nepřekvapí skutečnost, že už před sedmi lety požádalo přes milion lidí o ruku svou AI asistentku Alexu.
Téhle „revoluci“ se prostě nejspíš nevyhneme, a to ani pokud na uvedené platformy zanevřeme. AI uživatelé se mají stát nedílnou součástí sociálních sítí Meta a umělá inteligence už prosakuje i do mezilidského randění – podle výzkumu firmy McAfee využívá téměř třetina tázaných AI nástroje při tvorbě textů či fotografií pro profily na seznamovacích aplikacích. Většině z nich prý zprávy opepřené AI zaručují lepší výsledky, a při srovnání pak ani nedokázali poznat rozdíl mezi valentýnkou psanou člověkem a strojem. S rostoucím počtem AI generovaných profilů na internetu tak už mohla přeskočit jiskra i mezi umělou inteligencí a vámi.
Společenské důsledky randění s AI či s její pomocí jsou v nedohlednu. Může nám asi umožnit zapracovat na strachu z intimity, ale bál bych se, že spousta lidí mu propadne ještě víc. Jak shrnuje mediální teoretička Belinda Barnet pro The Guardian: „Vůbec nevíme, jaké to může mít dopady. Vztahové aplikace a AI zcela zjevně naplňují silnou společenskou potřebu. Myslím však, že se musí více regulovat – hlavně to, jak a na čem se tyhle systémy trénují.“
***
This article was published as part of PERSPECTIVES – the new label for independent, constructive and multi-perspective journalism. PERSPECTIVES is co-financed by the EU and implemented by a transnational editorial network from Central-Eastern Europe under the leadership of Goethe-Institut. Find out more about PERSPECTIVES: goethe.de/perspectives_eu.
Co-funded by the European Union. Views and opinions expressed are, however, those of the author(s) only and do not necessarily reflect those of the European Union or the European Commission. Neither the European Union nor the granting authority can be held responsible.
