Nápad dobrý, provedení děsivé

Laureátka Nobelovy ceny za literaturu, polská spisovatelka Olga Tokarczuk, nedávno (na konferenci Impact v Poznani) rozpoutala debatu o využívání AI nástrojů v tvůrčím psaní, když prozradila, že při své tvorbě skutečně konzultuje s generativním jazykovým modelem. Toto prohlášení vyvolalo obří mediální diskuzi, která byla značně polarizovaná: někteří navrhovali odebrání Nobelovy ceny, jiní se vysmívali zbytečné panice a hysterii, pověstnému „strachu z AI“. 

Nedávno jsem vedla v Praze diskuzi s překladateli a studenty translatologie o tom, jak vnímají stav svého oboru ve vztahu k AI. Nepřekvapilo mě, že se někdo obává nebo naopak neobává o budoucnost oboru. Jako problematické z debaty vyplynulo potenciální zlehčování situace tvrzením, že kvalita překladu od AI je pro osobní účely dostačující, a pokud ji tedy na soukromé úrovni využíváme k „inspiraci“ nebo „práci“, není to problém. Právě proti „good enough“ přístupu totiž právem protestují překladatelské organizace.

Soukromé názory ohledně individuálního užití, které se velmi často stávají také obsahem mediálních sdělení na téma AI, až bolestně souvisejí s obecnější krizí. Analogicky se dá říci, že občas sice musím letět letadlem, abych se dostala tam, kam potřebuji, ale nic to nemění na dopadu letecké dopravy na životní prostředí. Uživatelsky výhodná auta nebo letadla neruší otázku potřeby celkového snižování emisí a společnou vizi udržitelného světa. S AI je to podobné – jako spisovatelku mě netrápí otázka, zda tento nástroj skutečně jednou bude pomocníkem autorů anebo definitivně zničí ničím nenahraditelný „osobní vztah k psaní“. Otázka AI se dokonce primárně netýká ani toho, zda je pro nás uživatelsky příjemná, a proto ji využíváme k „privátním účelům“, ale „obecně jsme proti“. AI je problém proto, že než stihla zareagovat legislativa, než se takříkajíc vybudoval diskurz, její majitelé vykradli a dál vykrádají evropské kulturní dědictví, a tím i naše kapsy.

Knihy do drtičky

Připomeňme si například kauzu projektu Panama, kdy společnost Anthropic kvůli potřebě přístupu k nedigitalizovanému obsahu skupovala antikvární i jiné knihy, ty následně poslala do velkokapacitního skeneru, odkud data tekla k vývojářům a knihy do sběru. (Projekt mimochodem řídil stejný člověk jako kdysi Google Books, nabízející online skeny knih bez jakékoliv autorské licence). Oblíbený ChatGPT se tak trénoval bez autorského souhlasu na milionech knih a textů, aby neprodukoval jen slop, ale psal „kvalitněji“.  Podobné skandály má na svém kontě např. i společnost Meta, která používala k tréninku „stínové knihovny“ čili nelegální datasety dostupné online. 

Evropská rada spisovatelů (EWC) praktiky technologických firem vyvíjejících AI nedávno ostře odsoudila, a evropské činitele kteří mají reálnou rozhodovací pravomoc, vyzvala – nutno říci opět –, aby zaujali nekompromisní postoj. Je totiž třeba si uvědomit, že tyto firmy a jejich lidé budují mimo jiné digitální archiv děl, znalostí, hodnot – a mají pak rovněž plnou kontrolu nad přístupem k těmto informacím. Kontrola může znamenat nejen cenzuru, ale i zpoplatnění přístupu anebo cílené filtrování nepohodlného obsahu. 

Ohrožená gramotnost i ekonomické dopady

AI s sebou ovšem nepřináší jenom otázky morálky nebo umělecké kreativity. AI znamená pokles gramotnosti způsobený omezením nebo postupným upadáním vzdělanosti v souvislosti s útlumem investic do vzdělávání a kvalifikovaných profesí. Často přece slýcháme, že děti méně čtou, lidé méně konzumují časově náročnou kulturu a bez přímé podpory těchto oblastí ze strany států, čili silné kulturní politiky, skutečně hrozí, že naši pozornost převálcuje právě AI slop. Nejistota ohledně budoucnosti klíčových profesí, například té překladatelské, pak mnohé vede k úvahám o opuštění tohoto zaměstnání, jak dokazují výzkumy překladatelské organizace CEATL. AI má tak přímý negativní ekonomický dopad na profese, které se jazykem a vzdělaností zabývají, a proměňuje přitom pracovní procesy na trhu, jak lze sledovat například na nabídkách takzvaného post-editingu, který představuje náročnější kontrolu strojového překladu za zlomek ceny, jakou účtuje profesionální překladatelstvo. 

Právní potíže

Jednou ze zvláštních „otoček“, spojených s rozmachem AI, je zcela jistě záměna tzv. opt-in za tzv. opt-out, čili fakt, že autor už nemusí vyjádřit souhlas s využitím svého díla předem, ale má povinnost si práva vyhradit, jinak může být využito bez jeho vědomí. V roce 2019 totiž vznikla směrnice o autorském právu na jednotném digitálním trhu (CDSM), která udělila výjimku pro takzvané „text and data mining“ (TDM) čili automatizované skenování digitálních děl bez autorských práv. Tedy například jakákoliv poezie na internetu je tak dostupná pro AI, pokud s tím provozovatel webu, na kterém je vyvěšena, nebo autorky či autoři nevyjádří výslovný nesouhlas. 

Literární organizace požadují, aby se tato TDM výjimka zrušila. Je přece absurdní, aby autor dohledával výskyty svého díla na internetu a požadoval po majitelích webů, aby na své stránky umístili strojově čitelný nesouhlas s využitím jejich práce. Mechanismus opt-out totiž zcela obrací tradiční princip – místo aby vývojáři museli předem žádat o svolení (opt-in), mohou legálně stahovat jakýkoliv veřejně dostupný obsah, pokud jim v tom autor aktivně nezabrání. Ale vědí vůbec autoři o možnosti říct ne? Jak mohu jako autorka chránit a sledovat svůj digitální obsah? Jak mohu zajistit strojově čitelný zákaz napříč internetem? Nepoškodí zákaz provozovatele webů tím, že nebude jejich práce dohledatelná? A konečně, jak mohu zjistit, že je můj nesouhlas respektován? Na řadu z těchto otázek zatím neexistují přesvědčivé odpovědi.

Transparentnost!

V Evropské unii máme rovněž tzv. AI Act, evropské nařízení zavádějící pravidla pro umělou inteligenci. Do jisté míry tedy doplňuje CDSM směrnici, která vznikala takříkajíc „před AI“. Navzdory aktivním krokům ze strany EU v tomto směru si však nemůžeme realisticky vynutit transparentnost společností, jako je OpenAI, anebo dokázat, že AI byla trénována na konkrétním překladu nebo díle. CEATL, evropská rada asociací literárních překladatelů, ale i další organizace, proto opět volají po dodržování tzv. principu ART – autorizace, remunerace a transparentnosti. 

Jenže… povinnost označit text jako vygenerovaný AI mizí, pokud prošel lidskou editací. Navíc se toto pravidlo vztahuje pouze na texty související s tzv. „veřejným zájmem“ (žurnalistiku, veřejná prohlášení), ale nevztahuje se na tvůrčí psaní, protože literatura do oblasti veřejného zájmu oficiálně nespadá. Není tedy ze zákona nutné označit například na přebalu knihy, zda ji napsala AI, nebo člověk. Trh je tím pádem zasycen vygenerovanými romány a čtenářstvo nemá šanci to rozpoznat. 

Ano, pro společnosti vyvíjející AI existuje právní povinnost zveřejňovat podrobné přehledy o datech, která využily k trénování, například o knihách a webových stránkách. Musí také plně respektovat autorská práva a nesouhlas vyjádřený autory. Jenže ve skutečnosti jsou tyto oficiální „zprávy“ většinou obecné a statistické. Společnost sice popíše typy dat, které použila, ale konkrétní názvy knih v nich nenajdete. Tyto přehledy jsou často záměrně vágní, aby firmy nemusely odhalit své přesné zdroje. Příkladem této situace jsou výsledky investigace časopisu The Atlantic, který odhalil datovou sadu s názvem „Books3“. Tu tajně používala společnost Meta a obsahovala pirátské kopie více než 180 000 knih, jež byly vědomě použity bez souhlasu vlastníků práv.

Problém s AI tedy nespočívá jenom v rozhodnutí, zda ji budu, nebo nebudu využívat. Podobně jako doprava je dnes částečně nevyhnutelná. Potřebujeme však tvrdá data, tedy plné pochopení ekonomických škod a konkrétních dopadů na příjmy autorů nebo – jak radí profesní organizace – akční plány na tvorbu pracovních míst či sociální ochranu těch, kteří budou postiženi ztrátou zaměstnání v důsledku AI. Je nutné upravit podmínky ohledně kolektivního vyjednávání, aby profesní sdružení autorů mohla poskytovat poradenství ohledně smluv, cenotvorby, ale i obrany v případě neoprávněného zpracovávání děl prostřednictvím AI. A ideálně také potřebujeme z úst politiků slyšet něco jiného než naivní technooptimismus, který nepřináší nic než otevřené dveře pro kapitalistické dravce z mimoevropského prostoru.