ИИ-сервис для романтичного общения пытались использовать для создания детского порно
Хакер атаковал сайт для общения с ИИ-моделями с сексуальным подтекстом и обнаружил многочисленные попытки пользователей создавать контент с элементами детской порнографии. Об этом взломщик сам рассказал (https://www.404media.co/hacked-ai-girlfriend-data-shows-prompts-describing-child-sexual-abuse-2/) журналистам 404 Media.
«Я зашел на площадку Muah.ai, чтобы подрочить, и заметил, что она выглядит так, будто собрана довольно плохо, — рассказал хакер. — По сути, это горстка проектов с открытым исходным кодом, склеенных вместе дешевым скотчем. Я начал ковыряться и довольно быстро нашел несколько уязвимостей. Сначала мною двигало любопытство, но, просмотрев базы данных, я решил сообщить об этом журналистам», — рассказал сам взломщик.
По его словам, из логов видно, что многие посетители ресурса пытаются создать чат-ботов, которые обыгрывают сценарии сексуального насилия над детьми. При этом переписки связаны с адресами электронной почты, многие из которых, по-видимому, являются личными учетными записями с настоящими именами. Например, журналисты просмотрели ряд сообщений, в которых описывались оргии с элементами инцеста с «новорожденными» и «маленькими детьми».
Администратор Muah.ai в ответ на запрос издания заявил, что «утечка данных была профинансирована конкурентами в нецензурируемой индустрии ИИ, которых интересуют прибыли». Никаких доказательств своей позиции он не предоставил.
https://t.me/mamontyatina/26568
https://www.404media.co/hacked-ai-girlfriend-data-shows-prompts-describing-child-sexual-abuse-2/
