Z fotky lze dnes vyrobit pornografickou nahrávku. Lidé se tím druhým mstí, říká student ze Stanfordu
Matyáš Boháček v minulosti vyvinul aplikaci, která pomáhá neslyšícím, dnes studuje na Stanfordské univerzitě v Kalifornii, kde se mimo jiné zabývá umělou inteligencí, dezinformacemi a obranou proti nim. „Generátor AI se zatím neumí smát. Je to dobrý indikátor toho, že mluvíte s člověkem,“ přibližuje Boháček v rozhovoru pro Český rozhlas Radiožurnál.
Váš výzkumný úkol se jmenuje Generativní umělá inteligence v souvislosti s nekonsensuální pornografií. Přibližte nám tohle téma.
Je to jenom jedno z několika téma, kterým se věnujeme. V laboratoři se zabýváme umělou inteligencí a tím, jaké má vlivy na veřejný diskurz. Dnes se dají jednoduše podle textového popisu vygenerovat obrázky, videa nebo audio, což může pomáhat dezinformacím a manipulaci.
V budoucnu budou vznikat personalizované filmy podle naší nálady, budeme v nich možná sami hrát, zamýšlí se student Stanfordovy univerzity Matyáš Boháček
Téma pornografie je k tomu přidružené, protože dneska už existují modely a nástroje, které umožňují komukoliv – a je to veřejně dostupné na internetu – vložit do systému fotku kohokoliv plus přiložit popisek, a ten systém z toho vytvoří pornografickou nahrávku. A to je problém.
Nás tedy zajímá, jak můžeme minimalizovat škody tím způsobené, protože dneska už existuje spousta lidí v Česku i v zahraničí, kteří se stali obětmi takové praktiky. Lidé to často dělají třeba proto, aby se pomstili.
Takovou nahrávku pak snadno rozšíří sociální sítě. Je to pro hlavní hráče digitálního světa škodlivé? Proč by se měli domlouvat na nějakých pravidlech?
Celkově proto, že pokud se budou technologie dál vyvíjet, poroste i míra takových falešných příspěvků na sociálních sítích, což výrazně naruší uživatelskou zkušenost. Pokud půjdu na sociální sítě a uvidím, že většina příspěvků je falešná nebo nějak zmanipulovaná, asi tam přestanu chodit. Takže si myslím, že v zájmu sítí je, aby zaručily, že je většina příspěvků důvěryhodná. A aby toho docílily, je potřeba přijmout sdílené protokoly, díky kterým se bude dařit rozlišovat videa a obrázky s velkou úspěšností.
‚Na té fotce mi je 14.‘ Mladé ženy čelí falešným nahým fotografiím, české zákony ale ‚deepfakes‘ neřeší
Číst článek
Umělá inteligence pronikla i do filmového byznysu. Může třeba nechat oživnout mrtvé herce, je to tak?
Je to přesně, jak říkáte. AI je vlastně jedno z hlavních témat dvou stávek, které byly v Hollywoodu. Jedna producentů a druhá herců, kteří po odborech chtěli zaručit, aby studia nevyužívala umělou inteligenci k nahrazování herců. Stávka skončila minulý týden, ale v návrhu dohody zatím nic podobného není.
A jak říkáte, generativní umělá inteligence může nechat oživnout mrtvé herce, ale může třeba i „rozanimovat“ herce do filmu na základě jeho fotek. Byť by z toho ještě dneska nebyl celovečerní film, tak v budoucnosti určitě ano a nebude to zadlouho. Dovedu si představit také dobu, kdy se na Netflixu nebo jiné platformě vytvoří personalizovaný film podle toho, jak se cítíme, jaké máme oblíbené herce, případně i nás zařadí do filmu.
Napadá mě kacířská věta, že sociální sítě nás načaly a umělá inteligence nás dorazí. Co byste mi na to řekl?
Já bych s vámi možná souhlasil. Umělá inteligence dává lidem do rukou moc. Možnost sdílet nějakou informaci, obrázek, video, které se dostanou i k miliardám lidí, bez editorského zásahu, to je obrovské riziko.
„AI umí „rozanimovat“ herce do filmu na základě fotek – byť by z toho ještě dnes nebyl celovečerní film, v budoucnu určitě ano.“
Dává nám moc zneužívat lidských vlastností, apeluje na naše city. Využívá třeba toho, že máme tendenci klikat na bulvární věci. Bez sociálních sítí bychom tento problém řešili ve výrazně menší míře, protože pokud by tok informací regulovala média, byť i mezi nimi se najdou nekvalitní a bulvární, tak by to minimálně ta mainstreamová média mohla regulovat.
Klíčová otázka, jak si mám ověřit, že jsem mluvil s opravdovým Matyášem?
Generátor zatím moc neumí smích. Takže to, že jsem se smál, je dobrý indikátor toho, že jste mluvil opravdu se mnou. Ale nikdy nevíte. Třeba jsem byl deepfake!
Jak se Matyáš Boháček dostal na Stanfordovu univerzitu? Co dělá ve volném čase v Kalifornii? A plánuje se někdy vrátit do Česka? Poslechněte si celý rozhovor v úvodu článku.
