Stanou se nejlepší ochranou před manipulací s obsahem otisky na blockchainu?

Takzvané fejky a deepfejky jsou jedny z největších bezpečnostních hrozeb, kterým v současnosti čelíme, když jsme online. Odhalení podvržených materiálů, ať už jde o falešné zprávy, obrázky, videa nebo faktury, stále není jednoduché. Může to dopadnout i tak, že budeme muset zcela změnit způsob, jakým o obsahu přemýšlíme. 

Na ČVUT se způsobům odhalování deepfakes věnuje skupina vizuálního rozpoznávání. Mimo jiného pátrá po dalších a dalších generátorech vizuálních fejků, na základě kterých vyvíjí detektory falešného obsahu. Za každým obyčejným obrázkem se skrývá množství dat a vrstev, ve kterých lze většinou najít určité otisky prstů generátoru, který ho případně vytvořil. Přestože výsledky některých pokusů byly slibné, jednoduchých způsobů, jak detektory ošálit, stále existuje celá řada. Jakmile má navíc detektor rozpoznat dílo generátoru, který nezná, a s výstupy z něj se ještě nesetkal, jeho schopnost ho odhalit je značně omezená. 

„AI generovaný nebo manipulovaný obsah už může být tak dokonalý, že nelze spoléhat na lidské smysly a hledat anomálie či vizuální artefakty. Je třeba použít AI detektory, které jsou natrénované pro odhalování falešných obrázků a videí. Ale garance typicky nemáme. Proto je nejdůležitější vzít do úvahy celkový kontext a přemýšlet o realističnosti toho, co vidíme. To souvisí s takzvanou mediální gramotností a mediální výchovou, kterou je potřeba nově přehodnotit,“ vysvětluje Jan Čech ze skupiny vizuálního rozpoznávání Elektrotechnické fakulty ČVUT. 

„Běžní uživatelé se stále musí spoléhat hlavně na ten kontext. Jestliže osoba, kterou znáte, dělá na záznamu něco pro ni velmi netypického, je tento obsah nedůvěryhodný,“ dodává. 

Může to být prezident země, který vám chce prostřednictvím reklamy na Facebooku prodávat akcie, nebo třeba generální ředitel, který ve videu úkoluje účetního, aby přesunul veškeré peníze firmy na nový „bezpečný“ účet. Dalšími vodítky mohou být u vizuálního obsahu například nepřirozené pohyby zobrazeného člověka, podivná aktivace svalů v obličeji anebo třeba nepřirozené natočení hlavy. 

Celebrity a veřejně známé osobnosti by se do budoucna mohly chránit před zneužitím identity použitím detektorů vycvičených speciálně na jejich osobu – její různé podoby, pohyby, hlas a další. 

Obecně vidí Jan Čech z ČVUT budoucnost v rozvoji databáze generátorů deepfejků a její neustálé aktualizaci podobným způsobem, jak dnes fungují antivirové programy. 

Náš současný nevědomý postup u běžného obsahu bývá takový, že dílo považujeme primárně za důvěryhodné. Zjistit, jestli je falešné, se snažíme až na základě varovných signálů. Do budoucna se možná naučíme nezačít věřit žádnému digitálnímu dílu, dokud se nepotvrdí jeho pravost. V tom by mohla sehrát důležitou roli technologie blockchainu, díky které je už dnes možné zapisovat otisky digitálních děl tak, aby byla jejich pravost a úplnost nezpochybnitelná. 

Hashe na blockchainu v Česku využívá například Svaz chemického průmyslu, který tím chrání autenticitu některých svých videí na kanálu YouTube. 

„Řešili jsme potenciální možnost převzetí a (ne)úmyslného pozměnění našeho obsahu, který místy velmi kriticky, ale s řádnou argumentací poukazuje na idealismus až amatérismus protlačovaný do ekonomiky a legislativy v EU. Abychom se v případě takové situace mohli účinně bránit třeba právní cestou, potřebovali jsme použít takové řešení, které by jednoznačně prokázalo originalitu dokumentů a autorská práva. Toto umožnil právě blockchain. Zatím jsme zneužití nezaznamenali, a s tímto způsobem ochrany jsme maximálně spokojeni,“ vysvětlil Jan Kvarda ze Svazu chemického průmyslu.