Markéta Gregorová, europoslankyně za Piráty, se vyjádřila k plánovanému zpřísnění pravidel Evropské unie v oblasti umělé inteligence (AI), která se zaměřují na prevenci zneužívání nástrojů schopných generovat nahé deepfake fotografie bez souhlasu dotčených osob. To je reakce na stále stoupající míru vydírání a kyberšikany, která využívá tyto technologie k poškozování jednotlivců.
Podle Gregorové roste problémy s generováním falešného obsahu rychlým tempem. Upozornila, že poskytovatelé těchto AI nástrojů dosud nést zodpovědnost za šíření takového obsahu nemuseli. S novými pravidly by ovšem měli podniknout veškerá možná opatření proti potenciálnímu zneužití jejich technologií k obtěžování a ponižování lidí.
Gregorová zvlášť upozornila na nástroj Grok vyvinutý Elonem Muskem, který podle analýz letos vytvořil více než 6000 bikini fotografií každou hodinu. Zhodnocení organizace Center for Countering Digital Hate pak ukázalo alarmující míru sexualizovaných obrazových materiálů zahrnujících muže, ženy i děti.
“Je nepřijatelné, aby technologický pokrok ohrožoval bezpečnost dětí a dospělých,” zdůraznila europoslankyně. “Kdo vytváří realistické obrázky nebo videa pomocí AI, ten má povinnost zajistit ochranu před jejich zneužitím při šikaně či vydírání,” dodala Gregorová o svém pohledu na etiku v oblasti technologií.
Při přehodnocení původních návrhů Evropské komise však narazila i na další problém: navrhovaná pravidla umožňovala užití citlivých osobních údajů pro trénink systémů AI bez dostatečných ochranných mechanismů. Právě tomu podle výzkumu Perfect Crowd odmítlo 90,7 % české populace dát souhlas.
Dohodnutá úprava návrhu nakonec stanovila limity pro využívání těchto dat pouze v nutných případech jako poslední možnost korekce vážných anomálií v systémech umělé inteligence s důrazem na vysoký standard ochrany dat. Podle Gregorové musí být zachována ochrana soukromí jako základní pilíř evropských digitálních politik.
Tento posun ve regulaci umělé inteligence představuje významný krok ke zvýšení bezpečnosti online prostředníství a chránění jednotlivců před negativními důsledky rozvoje této technologie.