Diagnostikováni algoritmem: TikTok jako nejtoxičtější kamarád
V závěrečné části série nahlédneme do těch nejtemnějších stránek světa duševního zdraví na TikToku. Kam až může mladé uživatele i vás algoritmus zavést a jaký má vztah k rostoucímu počtu psychiatrických hospitalizací v Česku?
Socha řecké bohyně zdraví Hygey, pod jejíž patronáž spadá i mentální zdraví.
Varování: následující text zmiňuje sebepoškozování, sebevraždy a předávkování. Pokud jste na tato témata citliví, jeho četbu zvažte.
︵‿︵‿︵‿︵‿︵‿︵‿︵‿︵‿︵‿︵‿︵
První díl si přečtěte tady.
Druhý díl si přečtěte tady.
Třetí díl si přečtěte tady.
︵‿︵‿︵‿︵‿︵‿︵‿︵‿︵
Nejtemnější feed
V rámci nezávislého výzkumu z roku 2022 analyzovali odborníci v oblasti duševního zdraví přes 500 TikTok videí s hashtagem #mentalhealth. Výsledky ukázaly, že necelých 84 % všech rad týkajících se duševního zdraví bylo zavádějících, přičemž správné informace obsahovalo pouze něco málo přes polovinu všech videí. A celých 14,2 % všech zanalyzovaných příspěvků obsahovalo informace, které by mohly být potenciálně škodlivé. Pouze 9 % radících tvůrců mělo odpovídající kvalifikaci a jenom 1 % videí v sobě mělo upozornění, že se nejedná o odbornou radu.
Jsou to znepokojující čísla – a to přesto, že šlo o segment „pozitivních“ tvůrců, kterým podle všeho chtěli sledující upřímně podpořit a pomoci jim. „Člověk sám však těžce rozliší, zda spadnul do podpůrné informační bubliny, anebo se nachází spíš v rabbit hole toxického obsahu,“ upozorňuje dětský psychiatr Martin. „Jednoznačně tyto dva póly odlišit je obtížné,“ dodává. Podíváme se proto, co uživatele na „toxické“ straně TikToku čeká. „Takový obsah je plný triggerů, jako je sebepoškozování nebo anorektické návyky. A pokud je člověk ve stresové situaci, nemusí je zrovna ustát,“ varuje Martin.
Málo cenzurovaný obsah, který propaguje sebepoškozování, poruchy příjmu potravy, látkové závislosti a sebevražedné chování je na TikToku stále přístupný a jednoduše dohledatelný. A právě v případě tohoto nejproblematičtějšího a nejnebezpečnějšího obsahu do hry vstupuje moc TikTok algoritmu, který tady hraje osudovou roli. Podle uniklé interní dokumentace má algoritmus TikToku tendenci obzvlášť aktivně a intenzivně doporučovat uživatelům právě extrémně depresivní a triggerující obsah. Hlavním účelem algoritmu je totiž vyvolat na platformě závislost – tím, že ji na míru upraví každému jednotlivému uživateli. Pokud vyhodnotí depresivní obsah jako jeho zájem, tak ho následně obsahem s tímto tématem o to víc zahrne.
Tuto teorii potvrdily také šokující výsledky velkého výzkumu CCDH (Centra boje proti digitální nenávisti) z roku 2022. Celý projekt se symbolicky jmenuje „Deadly by design“ (Smrtící z podstaty) a odkazuje tak na povahu TikTok algoritmu samotného. Za účelem výzkumu bylo vytvořeno několik TikTok účtů, v nichž bylo jako věk uvedeno 13 let – tedy oficiální hranice pro založení účtu na platformě. Výzkumné účty se ve vyšší míře cíleně zastavovaly u videí týkajících se tělesného vzhledu a duševního zdraví a následně je lajkovaly. Během pouhých 2,6 minut scrollování jim algoritmus nabídl obsah se sebevražednou tematikou, po 8 minutách se na hlavní stránce „For You“ objevila videa o poruše příjmu potravy. TikTok posléze každých 39 vteřin scrollování doporučil video s tematikou tělesného vzhledu či duševního zdraví.
Výzkumníci rovněž vytvořili „standardní“ a „zranitelné“ účty, které obsahovaly určitá klíčová slova (například loseweight v biu nebo v názvu účtu). TikTok jejich zranitelnost rychle rozpoznal: takovým účtům bylo doporučeno dvanáctkrát více obsahu týkajícího se sebepoškozování a sebevražd než účtům standardním. Generální ředitel CCDH Imran Ahmed označil výsledky za „noční můru každého rodiče“ a zkušenost z používání TikToku jako „uvíznutí v síni křivých zrcadel, kde vám neustále říkají, že jste oškliví, že nejste dost dobří, že byste se možná měli zabít.“ V závěrečné zprávě z výzkumu se proto píše: „Kanály mladých lidí jsou bombardovány škodlivým, otřesným obsahem, který může mít významný kumulativní dopad na jejich chápání okolního světa a jejich fyzické a duševní zdraví.“ O podobný experiment se o rok dříve pokusili novináři Wall Street Journal, kteří rovněž vytvořili 100 automaticky řízených TikTok účtů, naprogramovaných předstírat zájem o různá témata. V případě účtů, které „se zajímaly“ o depresivní obsah, stačilo aplikaci používat 36 minut, aby podíl nabízeného obsahu týkajícího se smutku a deprese vystoupal na 93 %. Podobně to dopadlo s účty, které byly zaměřené na hubnutí.
Temné králičí nory, z nichž podle mediálních odborníků z CCHD téměř není úniku, si už údajně vyžádaly oběti. V případě Instagramu jde třeba o případ 14leté britské dívky, která, než si vzala život, olajkovala, uložila nebo nasdílela přes 2 tisíce příspěvků týkajících se deprese, sebevraždy a sebepoškozování. V roce 2022 spáchal sebevraždu 16letý mladík z New Yorku. Jeho „For You“ stránka na TikToku představovala nekonečný proud obsahu o sebevraždě, depresi, beznaději, bolesti, smrti, rozchodech a neopětované lásce. Zajímavé je, že mladík sám podle všeho vyhledával a ukládal pouze videa týkající se „Batmana, basketbalu, posilování a motivačních řečí“. Algoritmus ho údajně vyhodnotil jako „zranitelného“ a již mu nenabízel obsah, o který se reálně zajímal, nýbrž ho posouval čím dál hlouběji do depresivní informační spirály.
Pozoruhodné je, že ještě rok před výše zmíněnou sebevraždou vydal TikTok oficiální prohlášení, ve kterém společnost slíbila zvýšit bezpečnost platformy a zapracovat na větší rozmanitosti doporučovaných videí. Při vyhledávání klíčových slov jako „selfharm“ (sebepoškozování) nebo „anorexia“ dnes TikTok sice žádné výsledky neukáže a doporučuje uživatelům kontaktovat linku důvěry, ale alespoň trochu zkušenému uživateli potrvá asi 10 vteřin, aby se k podobnému obsahu i přesto dostal. Stačí změnit pár písmen v zakázaných klíčových slovech nebo znát alternativní názvy, které platforma ještě nezakázala. Místo hesla „selfharm“ například stále stačí napsat „sh“. TikTok se také pokouší automaticky mazat videa, která obsahují jizvy, krev a cigaretový kouř. Abyste vymazání snímku předešli, stačí do videa přidat text „fake scars“, „fake blood“ anebo „fake smoke“ (falešné jizvy, krev, kouř). Takových příspěvků s explicitním obsahem jsou na platformě stále desítky tisíc.
︵‿︵‿︵‿︵‿︵‿︵‿︵‿︵‿︵‿︵‿︵
Pusťte si také videoesej, kterou jako doprovod série vytvořila Veronika Hanáková. Najdete v ní také ukázky obsahu, o kterém se píše v textu:
︵‿︵‿︵‿︵‿︵‿︵‿︵‿︵‿︵‿︵‿︵
PsychwardTok
Samostatným TikTokovým žánrem jsou videa z dětských psychiatrických léčeben. Pokud ale pomineme prostředí a samotný kontext, který na nepřipraveného diváka může působit šokujícím dojmem, samotná videa jsou svým duchem často podobná spíš vzpomínkám od letního táboráku. Uživatelé natáčí, jak tančí s kamarády, které si v léčebně našli, ukazují sledujícím své nemocenské outfity, sdílí vtipné situace z každodenního života, nebo dokonce o svém pobytu skládají písničky. Tón videí z léčeben je paradoxně většinou hravý, vtipný a ironický. Pro samotné pacienty jde o způsob, jak se vyrovnat s krizovou situaci. Třeba tak, že ji zkusí prezentovat jako trochu divné životní období, ale nic osudového.
Takový obsah by se bez nadsázky dal označit za revoluční – alespoň v tom, jak detabuizuje a ve velké míře demytologizuje realitu psychiatrické léčebny. Nabízí možnost nahlédnout do běžného života v prostředí, o kterém máme většinou povědomí spíš ze starších amerických filmů, jako je Přelet nad Kukaččím hnízdem nebo Narušení. Do jaké míry podobná online popularizace zkušenosti v léčebně přispěla k destigmatizaci, je patrné již z komentářů pod TikTok příspěvky samotnými. Uživatele se často ptají na praktické věci jako „Můžu se zeptat, jak je to tam s výukou?“, „Jak tam prosím probíhá den?“, sdílejí podobné zkušenosti: „Dneska nastupuju buď sem, nebo do Motola“ a netají svůj zájem o hospitalizaci: „Jak je to v Bohnicích na dětským? Možná tam půjdu“, „Tyjo, co to je za pavilion? Vypadá to tam pěkně“, „Jak to tam je? Zvažuju, že bych tam taky šla“. Sdílením takového obsahu tvůrci navíc dostanou od svých sledujících podporu: „Proč jste v Bohnicích? Však vypadáte úplně v pohodě“, „Věřím vám, to tam dáte!! Stay strong“. Uživatelé, kteří si již pobytem v léčebně prošli, zdá se také vytváří silnou podpůrnou síť: „Lidi na psychárne nejlepší! Chybíte mi“, „Proč jsou v Bohnicích tak cool lidi, ale když jdu do školy, ven atd., tak žádný nepotkám“.
Pětadvacetiletá Kateřina, se kterou jsem o PsychWardToku mluvila, to komentuje: „Šokuje mě skutečnost, že se dnešní děti již hospitalizace nebojí, otevřeně se o ní baví, a dokonce ji vyhledávají. Ještě před deseti lety, když jsem byla kvůli poruše příjmu potravy hospitalizovaná já, to pro mě byla děsivá a ostudná zkušenost. Pro ostatní děti na oddělení taky. Všichni se strašně báli a chtěli domů hlavně kvůli pocitu studu a selhání.“
Pod hashtagem #psychwardtok také najdeme příspěvky, jejichž autoři a autorky sdílí negativní zkušenosti s personálem či nevyhovující podmínky v jednotlivých léčebnách. TikTok má v této podobě potenciál stát se nástrojem. Vzhledem k tomu, že do českých médií (naštěstí) proniká čím dál více zpráv o zcela nevyhovujících podmínkách v málopočetných tuzemských dětských psychiatrických léčebnách, mohou být autentické a bezprostřední online výpovědi samotných pacientů cenným zdrojem – a poukázat tak na potřebu reformy.
Tento segment TikToku má samozřejmě i svoji temnou stranu. Zaprvé mezi vlogy z léčeben opět najdeme videa, která zcela nefiltrovaně sdílí triggerující obsah, jak například pokusy o sebepoškozování během nemocenského pobytu, videa, v nichž dotyční hledají předměty, kterými by si mohli ublížit, chlubení se porušováním pravidel, záznamy nervových zhroucení nebo sdílení sebevražedných myšlenek.
Z TikToku do léčebny
#mentalhealth bublinu na TikToku jde chápat jako alternativu k nedostatečné oficiální péči. Ovšem žádný, obzvlášť takto komplexní a mnohovrstevný jev, se neodehrává ve vakuu. Online subkultura, která se v reakci na systémovou a institucionální krizi formuje, se v systému zpětně odráží a ovlivňuje ho. Bavíme se tak o určitém bludném kruhu. Tento kauzální řetězec bychom mohli hodně zjednodušeně rozmotat takto: Absence prevence a rizikové faktory, jako je například pandemie covidu, vedou ke všeobecnému zhoršení duševního zdraví adolescentů. Systém ale následně nenabízí potřebnou péči (psychiatrickou a psychoterapeutickou). Paralelně tak vznikají nesystémové zdroje podpory – online komunity. V situaci, kdy „mírnější“ prostředky oficiální péče neexistují nebo jich je velký nedostatek, fakticky nezbývá adolescentům nic kromě toho „nejextrémnějšího“ kroku: hospitalizace v psychiatrické léčebně. A roli v tom opět hrají online komunity.
Prvním viditelným dopadem je zvýšený zájem o hospitalizaci právě ze strany těch, kdo si stanovili nějakou diagnózu online. „Když si podíváme na grafy hospitalizací za posledních pět let, tak křivka neustále výrazně narůstá. Mezi faktory, které mohou hrát roli, je samozřejmě covid, ale také rozvoj sociálních sítí, a tím pádem nápodoba. Její vliv na hospitalizace za posledních pět let je opravdu velký, včetně těch akutních,“ komentuje trend psychiatr Martin.
Důležité je podotknout, že psychiatrická hospitalizace zřejmě není vzhledem k velkému nedostatku dětských lůžek v celé republice jen otázkou osobního přání. Na TikToku však můžete získat přístup k informacím o tom, jak si hospitalizaci i přesto zajistit. Uživatelé si vyměňují rady, jak komunikovat na urgentním příjmu, nebo, v těch nejextrémnějších případech, sdílí postupy, jak provést „bezpečný“ pokus o sebevraždu. Tedy například jakými léky se předávkovat, aniž by to vedlo k trvalému poškození vnitřních orgánů.
Výsledkem je situace, kdy na psychiatrický příjem přichází adolescenti, kteří dokážou dokonale vyjmenovat všechna oficiální diagnostická kritéria. Typicky zmíní například pocity derealizace nebo depersonalizace, sebepoškozování, suicidální myšlenky, sebevražedné proklamace s tendencí k realizaci, hraniční poruchu osobnosti s kódem F603, třeba přidají nějaký ze symptomů, jako je například štěpení (tzv. splitting), či zmíní, že se cítí akutně nebezpeční sami sobě či okolí. Po těchto slovech je lékař musí z právních důvodu hospitalizovat, i kdyby na něj tato slova působila manipulativně.
„Děti jsou v tomhle ohledu vždy několik kroků před námi odborníky. Dokonce jsem zažil případy, kdy si děti na TikToku sdílely informace, v jaké léčebně se zrovna uvolnilo lůžko, a tedy kam je aktuálně možné pokusit se dostat,“ zmiňuje Martin. Se svým povědomím o podobném informačním „undergroundu“ je dětský psychiatr stále spíš velkou výjimkou. Pro absolutní většinu zdravotnického personálu je TikToková psychiatrická síť neviditelná. „Obzvlášť starší ročníky lékařů či psychologů nerozumí tomu, jak sociální sítě fungují,“ uzavírá Martin logický dopad překotného vývoje online platforem.
Přímým důsledkem neuspokojivé situace duševního zdraví mladých, kteří se kvůli nedostatku oficiální péče obrací k online platformám, je nárůst dětské suicidality, a to včetně zvýšeného množství pokusů o sebevraždu. Na zdravotnický systém to klade ještě větší zátěž. Lůžka zabírají děti, které tam „nepatří“ a jimž by stačila pouze ambulantní péče – a naopak chybí místa pro ty, kteří hospitalizaci skutečně potřebují. „Statistiky dokládají, že dlouhodobá ambulantní péče je efektivní a počet hospitalizací výrazně snižuje. V situaci, kdy na návštěvu psychologa dětští pacienti čekají klidně 6 až 12 měsíců, je takový rozsah péče bohužel nereálný.“ Zbytečná hospitalizace přitom může dítěti uškodit mimo jiné i tak, že se nechá ovlivnit vrstevníky v léčebně: „Obava rodičů, že se jejich děti na psychiatrickém oddělení naučí to, co ještě neumí, je naprosto oprávněná: často si tam přivlastní nové symptomy a poruchové chování. Proto si troufnu říct, že pokud se zrovna nejedná vyloženě o záchranu života, jako v případě psychóz nebo reálného pokusu o sebevraždu, může být hospitalizace pro dítě kontraproduktivní,“ říká Martin.
Ať už se jedná o touhu po hospitalizaci, anebo o účelové sebepoškozování, je zcestné z toho vinit děti nebo sociální sítě: bez ohledu na formu projevu se vždy jedná především o zoufalý krok těch, kdo potřebují dostat pozornost a péči. „To, co prostě nelze vyvrátit, je, že těm dětem není dobře. Protože kdyby jim bylo dobře, tak nemají potřebu vymýšlet diagnózy. A jsem také přesvědčený, že člověk jde do nemocnice, když nevidí jinou možnost a je mu hodně špatně. A i když tam jde kvůli tomu, že se mu nechce do školy nebo to má těžké doma, tak se asi skutečně má špatně. Těžko to jde rozlišit od toho, co může být vnímáno jako manipulativní nebo účelové chování. Prostě mám obecně za to, že člověk nejde na pohotovost a pak do nemocnice, která není komfortním prostředím, jen tak z legrace, jenom aby si tam lehnul. Teď je jenom otázka, co s nimi dál, jak jim pomoct.“
Z králičí nory k systémové změně
Západní média se online #mentalhealth bublině a sebediagnostikování na TikToku ve velkém věnují minimálně tři roky. V USA pronikají zprávy o tomto světě dokonce i do státních televizí. Skoro každá taková reportáž nebo článek ale varuje především před negativními dopady nepotvrzených diagnóz na identitu a sebeobraz dospívajících. Jako řešení se nejčastěji doporučuje obrátit se místo smartphonu na lékaře. Tým odborníků, který zkoumal věrohodnost #mentalhealth obsahu na TikToku, v závěru svého výzkumu varuje, že „vytváření obsahu týkajícího se duševního zdraví sice může pomoci snížit s ním související předsudky, ale má i své stinné stránky, například sebediagnostikování a bránění lidem, aby vyhledali další pomoc.“
Právě v tom spočívá naprosto zásadní rozdíl mezi západním mediálním narativem a realitou českých podmínek. V případě českých adolescentů TikTok nepředstavuje vyhýbání se odborné péči, ale je často jedinou dostupnou berličkou. Touha dostat jakoukoli odbornou pomoc je ze strany teenegerů naopak tak silná, že jsou ochotni přistoupit k děsivým a zoufalým krokům, které mohou vést až do psychiatrické léčebny. Výše popsaný bludný kruh „zdravotnický systém – TikTok – zdravotnický systém“ se přitom do velké míry nachází pod rozlišovací schopností jak médií, tak lékařů, protože ti dokážou vidět jen jednu z částí řetězce.
Svůj podíl na tom hraje fakt, že jde stále o relativně nové jevy, které ale výrazně zasahují do dynamiky adolescentní psychiatrické péče. Když bychom online trendy a opakující se vzorce chování v dětských psychiatrických léčebnách analyzovali v jejich vzájemných souvislostech, mohlo by to přispět k pochopení a zlepšení situace.
Nejvíc ale pomohou reformy psychiatrického systému samotného.
︵‿︵‿︵‿︵‿︵‿︵‿︵‿︵
První díl si přečtěte tady.
Druhý díl si přečtěte tady.
Třetí díl si přečtěte tady.
︵‿︵‿︵‿︵‿︵‿︵‿︵‿︵‿︵‿︵‿︵
---
This article was published as part of PERSPECTIVES – the new label for independent, constructive and multi-perspective journalism. PERSPECTIVES is co-financed by the EU and implemented by a transnational editorial network from Central-Eastern Europe under the leadership of Goethe-Institut. Find out more about PERSPECTIVES: goethe.de/perspectives_eu.
Co-funded by the European Union. Views and opinions expressed are, however, those of the author(s) only and do not necessarily reflect those of the European Union or the European Commission. Neither the European Union nor the granting authority can be held responsible.
