Как обнаружилось в ходе расследования, проведенного журналистами Би-би-си, педофилы с помощью технологий искусственного интеллекта (ИИ) создают и продают реалистичные изображения детской порнографии.
Некоторые покупатели получают доступ к такого рода картинкам, подписываясь на вполне легальные платные сайты контентного обмена вроде Patreon.
...
Создатели образов насилия над детьми используют основанную на ИИ программу Stable Diffusion, которая предназначалась для тех, кто занимается искусством и графическим дизайном.
Эта программа позволяет компьютерам выполнять задания, которые обычно требуют человеческого интеллекта.
С помощью программного обеспечения на основе ИИ Stable Diffusion дает возможность пользователям описать словами любой образ, который затем воспроизводится на экране.
Однако, как выяснила Би-би-си, эту программу используют и для того, чтобы создавать реалистичные образы сексуального насилия над детьми, включая изнасилование младенцев и детей.
...
«Псевдообразы» насилия над детьми, созданные с помощью компьютера, приравниваются к настоящим фотографиям, и их хранение, публикация или передача в Великобритании незаконны.
По словам Иэна Критчли, возглавляющего в NPCC отдел по защите прав детей, нельзя говорить о том, что поскольку на таких «синтезированных» картинках не изображены реальные дети, от этого никто не страдает.
Критчли предупреждает, что педофил может «эволюционировать по шкале преступления от мысли к синтезированному образу, а затем и к насилию над настоящим ребенком».
...
Некоторые из таких картинок их создатели размещают на популярной японской платформе Pixiv, которую обычно используют художники, специализирующиеся на стилях манга и аниме.
Но поскольку это японский сайт, где обмен рисунками с ярко выраженной сексуальной коннотацией, в том числе и с изображением детей, не считается незаконным, авторы используют его для рекламы своих работ, в том числе с использованием хэштэгов, которые служат ключевыми словами для индексации по тематике.
...
Как рассказала Би-би-си Октавия Шипшэнкс, ее исследование позволяет сделать вывод, что картинки, изображающие сексуальное насилие над детьми, производятся в промышленных масштабах.
«Объем настолько велик, словно люди [создатели] сказали „наша цель —производить по тысяче изображений в месяц“, — говорит она.
...
Генератор ИИ-образов, программа Stable Diffusion была создана в процессе глобального сотрудничества ученых и ряда компаний во главе с британской фирмой Stability AI.
Было выпущено несколько версий этой программы, причем в ее код были вписаны ограничения, контролирующие содержание конечного продукта.
Однако в прошлом году была выпущена в открытый доступ ранняя версия с открытым кодом, позволяющая пользователям удалять любые фильтры и заставлять программу создавать любые образы, в том числе и противозаконные.
https://www.bbc.com/russian/articles/c8732vnykn6o