Pozor! Nacházíte se na testovací verzi webových stránek. Obsah zde není garantován a slouží pouze k testování.
Grafika: The Verge
To vypadá jako od AI.
Věta, která Jess Weatherbed, novinářku, věnující se též ilustraci a amatérské fotografii, začala děsit. V době, kdy je čím dál obtížnější rozeznat AI obsah od toho lidského, a kdy některé platformy stále odmítají generovanou tvorbu označovat, si položila otázku, zda by nebylo lepší opatřovat texty, obrázky, hudbu, videa a další obsah vytvořený lidmi nějakým standardním logem. A nebyla sama.
Adam Mosseri, šéf Instagramu, v prosinci loňského roku uvedl, že bude „praktičtější opatřovat reálné mediální výstupy digitálním otiskem, než označovat ty fakeové“, jelikož se AI technologie zlepšují natolik, že dokážou vytvářet obsah, který je vizuálně nerozeznatelný od toho, který produkují kreativní profesionálové.
Standard pro ověřování původu a autenticity obsahu C2PA, který se již nějakou dobu používá v platformách společnosti Meta, měl ověřování děl vytvořených lidmi zajistit. Jeho implementace se však ukázala jako neúčinná navzdory široké podpoře napříč technologickým odvětvím. Mnoho lidí, kteří vytvářejí a šíří AI obsah, má totiž motivaci skrývat jeho původ kvůli pozornosti, chaosu a finančním ziskům, které může přinášet.
Ve snaze pomoci lidem odlišit jejich práce od těch generovaných se v posledních letech objevilo velké množství řešení. Stejně jako v případě standardu C2PA se vyskytuje celá řada překážek, které brání jejich širokému rozšíření.
Jak Jess Weatherbed zjistila, v současnosti existuje až příliš mnoho způsobů označování obsahu „bez AI“, z nichž si lze vybírat. Sama jich objevila 12, přičemž všechny se snaží řešit tentýž problém, ovšem s různými přístupy k ověřování identity a autenticity. Některé jsou specifické pro jednotlivá odvětví, například certifikace Human Authored od Authors Guild pro knihy a další textová díla, a nelze je tedy obecně použít na všechny formy obsahu.
Řešení, jako Proudly Human a Not by AI, mají širší záběr a pokrývají publikované texty, výtvarné umění, videoprodukci i hudbu. Ověřovací procesy, které tyto služby používají, mohou nicméně být stejně problematické jako metody používané u označování obsahu vytvořeného umělou inteligencí.
Některé služby, například Made by Human, fungují čistě na principu důvěry a zpřístupňují odznaky a štítky veřejnosti, která je může volně stahovat a přidávat ke své práci, aniž by skutečně ověřovaly původ díla. Jiné, jako No-AI-Icon, uvádějí, že vizuálně kontrolují díla a prověřují je pomocí nástrojů pro detekci AI, které jsou ale notoricky nespolehlivé.
Většina služeb, které Weatherbed zkoumala, nutí tvůrce manuálně dokládat svůj pracovní postup lidským auditorům, například prostřednictvím skic a pracovních návrhů. Uvedený proces je extrémně pracný, bez technologického urychlení jde nicméně v současnosti asi o nejspolehlivější metodu, jak ověřit, zda bylo něco skutečně vytvořeno člověkem.
Dalším problémem je samotná shoda lidí na tom, co vůbec znamená, že je něco vytvořeno člověkem. Vzhledem k tomu, že je dnes umělá inteligence integrována takřka do všech digitálních technologií a tím pádem přirozeně zasahuje do tvůrčího procesu všude tam, kde jsou využívány, kde přesně stanovit hranici?
„Problém spočívá v definici a ověřování. Počítá se do použití AI, když si o nápadu nejprve povídám s velkým jazykovým modelem a teprve poté jej manuálně zrealizuji? A jak by mohl tvůrce prokázat, že do procesu nebyla zapojena žádná AI?“ ptá se Jonathan Stray, vedoucí Centra pro umělou inteligenci kompatibilní s člověkem Kalifornské univerzity v Berkeley.
Nina Beguš, odborná asistentka Školy informací Kalifornské univerzity v Berkeley tvrdí, že jsme již vstoupili do éry hybridního obsahu, která naráží na naše dosavadní chápání autenticity tvorby.
„Jakýkoli kreativní výstup může být dnes nějakým způsobem ovlivněn umělou inteligencí, aniž bychom to byli schopni prokázat. Autorství se rozpadá do nových směrů a je stále více formováno technologiemi a nabývá kolektivní povahy. Musíme přepracovat kritéria kreativity, která byla původně navržena výhradně pro člověka,“ říká.
Služba Not by AI, která nabízí označení „vytvořeno člověkem“, se snaží tuto nejednoznačnost zohlednit. Nabízí proto různé typy odznaků, které mohou tvůrci umístit na webové stránky, blogy, umělecká díla, filmy, eseje, knihy, podcasty a další formy obsahu, pokud alespoň 90 procent práce vytvořil skutečný člověk. Tento dobrovolný přístup však postrádá jakékoli ověřování pravdivosti.
Další řešení, jako například Proof I Did It, se opírají o technologii blockchainu k poskytnutí trvalého záznamu, který může kdokoli použít k dohledání tvůrců a děl ověřených danou službou. Ukládáním ověření do blockchainu získávají tvůrci nezfalšovatelný digitální certifikát, který dokazuje, že jejich dílo vytvořil člověk, což je mnohem spolehlivější než snaha pomocí softwaru odhadovat, zda byl určitý mediální obsah generován umělou inteligencí.
Podle Thomase Beyera, výkonného ředitele Radyho školy managementu Kalifornské univerzity v San Diegu, Web3 a technologie blockchainu mohou nabídnout robustní řešení tím, že posunou otázku z „vypadá to jako AI?“ na „dokáže tento účet prokázat svou lidskou historii?“
„Tím, že jsou ověřeným tvůrcům vydávány tokeny Made by Human, trh vytváří ‚prémiovou úroveň‘ umění, kde je autenticita matematicky zaručena,“ vysvětluje Beyer.
Jess Weatherbed se domnívá, že přestože mají své nedostatky, mohou zavedené standardy, jako právě C2PA, nabídnout zásadní prvek, který řešení pro označování obsahu „bez AI“ dosud postrádají, tedy sjednocení a jednotný přístup.
Velké technologické společnosti jako Adobe, Microsoft a Google se k tomuto standardu zavázaly a poskytovatelé AI jej implementují, aby vyhověli globálním regulátorům. Přesto, když Weatherbed porovnávala výhody a nevýhody mezi snahami o označování AI obsahu a těmi, které se zaměřují na ověřování autenticky lidské tvorby, nabyla pocitu, že druhý přístup má větší šanci na úspěch. Mnoho profesionálních tvůrců, dokonce i těch, kteří zcela neodmítají používání nástrojů AI, má pochopitelnou motivaci odlišit svou práci od syntetické konkurence, která zaplavuje odvětví a ohrožuje jejich živobytí.
Deklarace lidské tvorby zároveň otevírá otázku, jak mohou poskytovatelé označení typu „vytvořeno člověkem“ nebo „bez AI“ zabránit zneužívání svých log těmi, kteří profitují z podvodu. Generální ředitel služby Proudly Human Trevor Woods přiznává, že realizace tohoto záměru nemusí být proveditelná.
„Je to stejné, jako u jiných certifikačních značek a firemních log, ani tady nemůžeme zabránit tomu, aby někdo podvodně nepoužíval certifikační značku Proudly Human. Usnadňujeme však spotřebitelům její ověření. Pokud podvodný aktér, kterého identifikujeme, odmítne přestat používat toto označení, podnikneme proti němu právní kroky,“ komentuje situaci Woods.
Pokud je cílem dosáhnout univerzálně uznávaného a vymahatelného řešení, musí být standard dohodnut nejen mezi tvůrci a online platformami, ale také mezi vládami a regulačními orgány po celém světě, myslí si Weatherbed. Podle ní jsou však takové diskuse zatím spíše ojedinělé.
„Proudly Human občas informuje vládní a oborové asociace, ale není zapojena do formálních jednání o jednotné certifikaci lidského původu. Rychlý vývoj schopností AI a generovaného obsahu pravděpodobně předběhne reakce vlád a regulátorů,“ doplňuje Woods.
Je zřejmé, že existuje poptávka po tom, aby bylo pro spotřebitele snazší rozpoznat lidsky vytvořená díla, a proto se tvůrci, regulátoři a ověřovací agentury musí rozhodnout, ke kterému přístupu se přikloní. Pokud by se podařilo prosadit jediný standard jako Fair Trade nebo Organic, které sice také nejsou bez kontroverzí, ale jsou celosvětově uznávány jako symbol určitého etického přístupu, možná bychom se mohli vrátit do doby, kdy jsme mohli více věřit tomu, co vidíme na vlastní oči, uzavírá Weatherbed.
[1]
Je možné, že jednou budou existovat oba přístupy vedle sebe, jednotný standard k označení AI obsahu a jiný k deklaraci lidské tvorby. A vše, co nebude označeno, bude spadat do kategorie s nejasným původem, po němž je nutné dále pátrat. Podobně jako je tomu u označení tvorby, kterou kryje autorské právo (Copyright) a licence Creative Commons. Jeden zásadní rozdíl v obou konceptech ale přece jen je. Zatímco Copyright a Creative Commons mezi sebou zpravidla nekombinujeme, mohou a pravděpodobně v budoucnu i nastanou scénáře, kdy budeme jeden obsah označovat oběma standardy současně, abychom transparentně uvedli, která jeho část je generovaná a která ne. Protože jinak to v éře hybridního obsahu asi nepůjde, pokud budeme chtít jeho původ dokládat.
Článek je publikován pod licencí Creative Commons BY-NC-ND 4.0 (Uveďte autora-Neužívejte komerčně-Nezasahujte do díla).
Článek nebyl prozatím komentován.
Pro vložení komentáře je nutné se nejprve přihlásit.
Tento článek je zařazen do seriálu Lidé a umělá inteligence.
Ostatní články seriálu:
Národní pedagogický institut České republiky © 2025
