На платформах TikTok и X обнаружены короткие AI‑сгенерированные видеоролики, в которых изображены женщины и девочки, подвергающиеся удушению.
Клипы выглядят пугающе реалистично и длятся около десяти секунд; в заголовках встречаются описания нападений на подростков и женщин, а в кадре — плачущие и сопротивляющиеся персонажи.
Расследователи отмечают, что у многих роликов присутствует водяной знак Sora 2 — нового генератора видео от OpenAI, выпущенного для широкой публики 30 сентября. Некоторые более поздние загрузки лишены водяного знака, что указывает на попытки его убрать или на использование других инструментов.
Аккаунты, публиковавшие эти видео, выглядят подозрительно: один из них на X имеет почти нулевую аудиторию, а похожий канал на TikTok набрал более тысячи подписчиков до удаления. Похоже, публикации начались в октябре с реальных телефрагментов, а затем переключились на синтетическое насилие.
Ситуация демонстрирует серьёзный риск: технологии позволяют быстро создавать гиперреалистичные видеозаписи насилия, в том числе в отношении женщин и детей. Это упрощает распространение контента, который внешне почти неотличим от настоящих записей.
Такие материалы не только нарушают правила платформ о запрете графического насилия, но и вызывают этические и правовые вопросы, связанные с использованием ИИ для создания и распространения сцен злоупотреблений.
Даже будучи поддельными, эти ролики способны причинять реальный психологический вред и способствовать десенсибилизации общества к насилию. Эксперты и правозащитники подчёркивают необходимость усиления защитных механизмов и модерации.
Великобритания объявила о намерении ввести законодательные ограничения, делающие незаконными порнографические изображения удушения, что рассматривается как признак растущего внимания властей к проблеме. Это один из первых сигналов того, что государства начинают реагировать на новые риски, порождаемые ИИ.
Набирает силу давление на разработчиков ИИ и платформы социальных сетей с требованием ввести эффективные ограничения и инструментальные средства предотвращения злоупотреблений. Если меры не будут приняты, эксперты предупреждают о возможном росте волны ИИ‑построенного насилия в сети.
Комментариев