Генератор изображений Google под названием Nano Banana вызывает обеспокоенность из‑за крайне фотореалистичных результатов. С его помощью можно создать снимки человека на красной дорожке или во время зарубежной поездки, даже если он там никогда не был. Такая реалистичность даёт возможность falsificировать присутствие людей в ситуациях, в которых они не участвовали.
По мере совершенствования технологий риск злоупотреблений увеличился: аналитики отмечают, что отличить некоторые изображения от реальности становится почти невозможно. Критики утверждают, что Google делает недостаточно для предотвращения проблемных сценариев использования инструмента. Это вызывает вопросы, несмотря на существующие у компании правила, запрещающие выдачу кого‑то за другого без согласия.
Уже фиксировались случаи манипуляций с изображением публичных людей с помощью ИИ. Создатели контента, художники и крупные компании выражали юридические претензии по поводу использования их образов или работ без разрешения. Появление фейковых доказательств, созданных ИИ, также отмечается в судебных процессах, что усиливает беспокойство о приватности, правах авторов и распространении дезинформации.
Реалистичность Nano Banana усилила существующие проблемы. В 2025 году появилось фейковое изображение певицы на Met Gala, в то время как она сама в тот вечер выступала в Европе и не присутствовала на мероприятии. Позже выяснилось, что изображение было создано с помощью ИИ.
В середине 2025 года по делу о жилищном споре в Калифорнии в суд представили видеозапись предполагаемого свидетеля, которую судья усомнился в подлинности и признал сгенерированной ИИ. Юристы отмечают, что судебная система может быть не готова к масштабу, доступности и качеству таких подделок.
Исследование Гарвардской школы им. Кеннеди показало, что люди сильнее подвержены вере в ложные заголовки, если они сопровождаются правдоподобным изображением, созданным ИИ. В исследовании приводился пример изображения Лувра в огне вместе с соответствующим заголовком, что демонстрирует, как визуальные сигналы в сочетании с авторитетным текстом способствуют распространению дезинформации.
Google утверждает, что у Nano Banana есть правила использования, запрещающие применение сервиса для незаконной деятельности, терроризма, дезинформации и вводящего в заблуждение контента. Политика также ограничивает использование изображений других людей без их согласия.
Сгенерированные Nano Banana изображения помечаются водяным знаком в правом нижнем углу с целью повышения прозрачности источников. Однако этот знак легко удалить обрезкой, поэтому он обеспечивает ограничённую защиту от намеренного злоупотребления.
Условия обслуживания Nano Banana предусматривают приостановку или прекращение аккаунтов пользователей при нарушениях правил. В то же время в условиях также указывается, что платформа не несёт ответственности за последствия использования сгенерированного контента.
Комментариев