Umělá inteligence umí generovat neexistující tváře. Jak je odhalit?

Brno - Zdroje pro svůj investigativní článek o řešení sexuálního obtěžování na Masarykově univerzitě oslovovala redaktorka Stisku Barbora Výrostková mimo jiné přes sociální sítě. „Chtěla jsem se ale vyhnout nenávistným zprávám na svém osobním profilu, a tak jsem si vytvořila profil falešný,“ popisuje. Aby její žádost o přidání do studentské facebookové skupiny působila věrohodně, redaktorka použila frekventované jméno, označila se za brněnskou studentku lékařství pocházející z Kroměříže a přidala si do přátel pár svých známých. Na nový profil nahrála také fotografii jeho smyšlené majitelky. Z profilové fotky Marie Novákové se usmívá dlouhovlasá brunetka, kterou ovšem nikdo nikdy nepotkal a ani nepotká. Její tvář totiž vytvořila umělá inteligence.

Tato osoba neexistuje. Takový je český překlad názvu webové stránky, která po každém obnovení vygeneruje náhodný obličej. Vytvořil ji softwarový inženýr Phillip Wang, a to na základě veřejně přístupného kódu generativní adversariální sítě (GAN) StyleGAN2 od společnosti Nvidia. „Jde o využití umělých neuronových sítí, které fungují podobně jako sítě nervových buněk v lidském mozku. Člověk jim zadá materiál a ony se podle něj učí,“ vysvětluje programátor Róbert Bukovinský.

GAN stojí na soupeření dvou takovýchto sítí – první z nich generuje data, druhá se snaží zjistit, jestli jsou skutečná nebo uměle vytvořená tou první. Tak trénují do doby, než první síť začne být v oklamávání té druhé úspěšná. „Stejně teď pracují například programy na zvětšování fotek jako je Gigapixel,“ dodává Bukovinský.

Umělá inteligence není dokonalá. Jak si všímat chyb, které generátor obličejů dělá, radí profesoři Washingtonské univerzity Jevin West a Carl Bergstrom prostřednictvím svého webového projektu Which Face Is Real. „Chceme upozornit na to, jak snadno lze zfalšovat digitální identitu a pomoct lidem odhalit takový podvod na první pohled,“ uvádějí. Člověk se má podle nich na fotce zaměřit na asymetrie, realističnost vlasů, tvar zubů nebo na pozadí fotografie. To se totiž program generovat neučí.

„Pokud nám někdo, kdo nás kontaktuje, připadá podezřelý, prvním krokem je zkontrolovat si na internetu jeho digitální stopu,“ doporučuje pracovnice bezpečnostního týmu Masarykovy univerzity Petra Mikulová. Má na mysli například profily na sociálních sítích, příspěvky v internetových diskuzích nebo informace na stránkách škol nebo firem. „Třeba zjistíte, že si daný člověk na své jméno založil účet na nějakém fóru, kde používá určitou přezdívku. Samotným googlováním té přezdívky se můžete dostat na další weby, na kterých své jméno neuvedl,“ přibližuje Mikulová. Zmiňuje také, že věrohodně zfalšovat digitální stopu trvá dlouho.

Stránka generující tváře neexistujících lidí, o které kromě technologických webů publikovali články i novináři ze CNN nebo The New York Times, inspirovala k práci s GAN další programátory. Sbírku odkazů na podobné generátory opatřenou o jejich krátké a vtipné recenze si na webu vede datový vědec a softwarový inženýr Kashish Hora. Přes jeho stránku This X Does Not Exist se můžou zájemci jedním kliknutím dostat například k obrázkům neexistujících koček, falešným inzerátům na pronájem bytu nebo celým textům písní vytvořených na základě požadovaného tématu, žánru a nálady. Horova sbírka zahrnuje i generátor pláží, který vytvořil český programátor Vojtěch Semecký.