Instagram* запустил ИИ для фото с риском дипфейков

В июле компания Meta (признана экстремистской в РФ) представила ИИ-модель Muse Image. Она позволяет генерировать изображения на основе загруженных фотографий, причём для использования чужих снимков разрешения автора не требуется.

По заявлению разработчиков, Muse Image способна «интерпретировать сложные запросы, использовать фотографии в качестве входных данных и позволять пользователям редактировать сгенерированные изображения с помощью эскизов или описаний». На этой технологии основаны более 30 новых эффектов для Stories.

Базовая версия Muse Image предоставляется бесплатно, но за дополнительные возможности придётся заплатить. Как сообщает Reuters, Meta также анонсировала предварительную версию Muse Video — модели для генерации видео.

Теперь любой пользователь соцсети может обрабатывать через нейросеть любые фото, включая чужие. Авторы снимков не получают уведомлений о том, что их изображения были использованы. Это создаёт широкие возможности для дипфейков: достаточно ввести чей-то ник, чтобы сгенерировать человека в несуществующих для него ситуациях.

Функцию можно отключить в настройках мобильного приложения, но уже созданные изображения не удалятся. Настройка доступна только в приложении, не в веб-версии.

Instagram* принадлежит компании Meta, признанной экстремистской организацией, деятельность которой запрещена на территории РФ.