Antivirus: Oběťmi nahých fotomontáží jsou i děti. Obrátit se můžete na Linku bezpečí
Rychlý nástup generativní umělé inteligence přinesl i aplikace, které nabízí, že takzvaně svléknou osoby na reálných fotografiích. Takové nástroje jsou nyní snadno dostupné a bohužel je používají i děti školou povinné ke kyberšikaně.
Jak může nějaká aplikace svléknout osobu na fotce? Určitý program vezme vloženou fotografii a upraví ji tak, že osoba na ní vypadá jako nahá.
S pomocí aplikace můžete svléknout osobu na reálných fotografiích. Oběťmi jsou i děti. Stát chce zasáhnout a nově má jít o trestný čin. Poslechněte si Antivirus.
„Zkrátka k ní vygeneruje nahou postavu, která odpovídá postojem a tělesnými proporcemi oběti na původní fotografii. A podobně tyto nástroje zvládnou vyrobit i kratší jednoduché video,“ objasňuje redaktor Jan Cibulka.
V minulosti lidé vytvářeli například fotomontáže celebrit tak, aby vypadaly jako nahé, nedávno byl medializovaný případ zpěvačky Taylor Swift.
„Nicméně rozmach služeb založených na generativní umělé inteligenci tyhle nástroje udělal dostupné doslova každému, a nejsou třeba žádné znalosti grafických programů,“ dodává redaktorka Jana Magdoňová.
Trestný čin
Za deepfake tři roky natvrdo. Podle návrhu italského zákona bude AI před soudem přitěžující okolnost
Číst článek
A internet zažívá boom takových aplikací: nabízené jsou skrze online reklamu nejen na pornostránkách, ale například i na sociálních sítích včetně Twitteru nebo TikToku.
Najde je i kdokoli s pomocí webového vyhledávače. „Jejich použiti typicky stojí několik dolarů, případně nabízí úpravu několika fotografií zdarma jako ukázku.“
Je něco takového vůbec legální? Pokud je předlohou dítě, tedy osoba mladší 18 let, pak jde velmi pravděpodobně o trestný čin výroby dětské pornografie. U dospělých je situace složitější, v některých případech by mohlo jít o poškození cizích práv.
„Novela trestního zákoníku, kterou nyní předložilo ministerstvo spravedlnosti, ale zavádí nový trestný čin, který by postihoval přímo právě zneužití něčí podoby pro tvorbu pornografie. Tedy i tvorbu deepfakes.“
Kyberšikana
Dle očekávání tyhle aplikace používají třeba školáci. V drtivé většině případů jsou oběťmi dívky, a materiál pak slouží ke kyberšikaně. „Světová média už informovala o případu ve Španělsku nebo USA, server iROZHLAS.cz už loni psal o příbězích dívek z Česka,“ říká Jana Magdoňová.
„O většině případů se nejspíš nedozvíme – oběti se stydí svěřit.“
O většině případů se ale nejspíš nedozvíme, oběti se cítí jako v případě jiných sexualizovaných útoků zahanbené a zneužité, a proto se často nikomu nesvěří. „Dopad na psychiku dospívajícího dítěte tak může být zvlášť tvrdý,“ upozorňuje Cibulka.
Jak se můžeme bránit? Právě to je problém, oběti takovému útoku ani při největší snaze nemůžou předejít. „Fotografie jsou dnes úplně běžně dostupné online: na sociálních sítích, na stránkách školy, ve fotogalerii z rodinné dovolené,“ říká Magdoňová.
Školy musí reagovat
Antivirus: Sdílet potomky na sítích? Pro dítě je to jen ztráta soukromí, benefity to pro něj nemá žádné
Číst článek
Odpovědnost je tedy zejména na školách a rodičích. Školy musí být připravené na to, že k něčemu takovému dojde, a musí umět reagovat, poskytnout pomoc obětem a situaci řešit, v krajním případě i s policií.
„Pokud se vygenerované fotografie šíří na nějaké sociální síti, je možné požádat o jejich odstranění, ale to je jen částečná náplast.“
U rodičů pak platí to, co tady v Antiviru zaznívá pravidelně: s dětmi se bavte o tom, co dělají online, a dejte jim najevo, že jim vždycky pomůžete, a to i v případech, kdy budou mít děti pocit, že si za problémy mohou sami.
„Aby se vám nebály svěřit, když se jim stane něco, s čím si nebudou umět samy poradit. A nezapomeňte, že vaše dítě nemusí být jen oběť, ale může být i svědkem takové kyberšikany nebo pachatelem. Obrátit se můžete třeba na Linku bezpečí,“ uzavírá Magdoňová.
