В ByteDance решили всерьез заняться безопасностью своей нейросети для генерации видео Seedance 2.0. Перед тем как выпустить инструмент на мировой рынок, разработчики добавили в него систему цифровых водяных знаков и механизмы защиты авторских прав. Это необходимо, чтобы контролировать использование чужой интеллектуальной собственности в роликах.
Такое решение не было случайным — на компанию начали давить голливудские киностудии. Еще в феврале в интернете завирусились видео, сделанные в Seedance, где без спроса использовали лица известных актеров и популярных персонажей. Тогда ByteDance прямо обвинили в краже контента. Перевод материала подготовило издание Discover24.
В среду в ByteDance подтвердили, что их команды по безопасности и защите прав вместе с внешними экспертами провели «red-teaming» — серию стресс-тестов, чтобы найти уязвимости в Seedance 2.0. Теперь обновленную версию выкатят для пользователей видеоредактора CapCut. Сначала доступ откроют в Европе, Африке, Южной Америке и Юго-Восточной Азии.
Главное техническое изменение — это поддержка стандарта C2PA. В компании объяснили это так: «Эта технология помогает нам распознавать видео, созданные нашей моделью. Мы сможем отследить их и принять меры, даже если ролик обрезали, пересохранили или залили на другие сайты».
Сам стандарт C2PA появился в 2021 году усилиями Microsoft, Google и Adobe, чтобы было проще понимать, где в сети реальные кадры, а где графика. Кстати, ByteDance еще в начале 2024 года стала первой крупной площадкой, которая начала автоматически ставить метку «ИИ-контент» на ролики в TikTok.
Часто задаваемые вопросы
Это отраслевой стандарт, поддерживаемый Microsoft и Google, который позволяет отслеживать происхождение цифрового контента с помощью метаданных и водяных знаков.
Модель будет интегрирована в платформу CapCut и станет доступна пользователям в Европе, Африке, Южной Америке и Юго-Восточной Азии.