Netflix старается не допустить, чтобы искусственный интеллект использовался бесконтрольно под видом творчества

Компания подготовила для партнёров руководство по генеративному ИИ — свод правил, который объясняет, когда можно пробовать новые инструменты, а когда нужно получить разрешение. Главная цель — чтобы экономия времени не обернулась проблемами с доверием, этикой или трудовыми договорами.

В документе разделяют простые эксперименты и серьёзное применение. Например, мудборды или предварительные визуальные наброски можно использовать без особого контроля. Но всё, что в итоге оказывается на экране, связано с внешностью актёров или опирается на чужую интеллектуальную собственность, требует письменного согласования.

Предлагаем вам перевод оригинальной статьи на русский язык.

Использование генеративного ИИ в производстве контента

Введение 

Инструменты генеративного искусственного интеллекта (GenAI), позволяющие пользователям быстро создавать новые и уникальные медиаконтент (видео, звук, текст и изображения), всё чаще используются в творческих рабочих процессах при производстве контента. В Netflix мы рассматриваем эти инструменты как ценные инструменты для творчества при условии их прозрачного и ответственного использования.

Это руководство помогает кинематографистам, партнёрам по производству и поставщикам понять, когда и как использовать инструменты GenAI в производстве. Оно также предлагает практический инструмент для оценки и обеспечения уверенного использования GenAI при создании контента для Netflix.

Чтобы поддерживать глобальное производство и соответствовать передовым практикам, мы ожидаем, что все партнеры по производству будут сообщать своим контактным лицам в Netflix о любом предполагаемом использовании GenAI, особенно с учетом того, что продолжают появляться новые инструменты с различными возможностями и рисками.

Большинство низкорисковых вариантов использования, соответствующих приведенным ниже руководящим принципам, вряд ли потребуют юридической экспертизы. Однако, если результат включает в себя конечные результаты, изображения талантов, персональные данные или сторонние объекты интеллектуальной собственности, перед продолжением работы потребуется письменное одобрение.

Руководящие принципы

Учитывая деликатность использования этих инструментов и меняющуюся правовую ситуацию, крайне важно действовать ответственно при использовании генеративных рабочих процессов. Netflix просит партнёров учитывать следующие руководящие принципы, прежде чем использовать GenAI в любом творческом рабочем процессе:

1. Результаты не воспроизводят и не воссоздают в существенной степени идентифицируемые характеристики не принадлежащих кому-либо или защищенных авторским правом материалов, а также не нарушают какие-либо работы, защищенные авторским правом.
2. Используемые генеративные инструменты не хранят, не используют повторно и не обучаются на входных или выходных производственных данных.
3. По возможности генеративные инструменты используются в защищенной корпоративной среде для защиты входных данных.
4. Созданный материал является временным и не является частью конечных результатов.
5. GenAI не используется для замены или создания новых выступлений талантов или работ, спонсируемых профсоюзом, без согласия.

Если вы уверены, что можете ответить «да» на все вышеперечисленные вопросы, обсудите предполагаемое использование с вашим контактным лицом в Netflix. Если вы ответили «нет» или «не уверены» на какой-либо из этих вопросов, обратитесь к своему контактному лицу в Netflix за дополнительными разъяснениями, прежде чем продолжить, так как может потребоваться письменное разрешение.

Если ваш партнёр-поставщик использует собственный рабочий процесс GenAI, то есть конвейер, построенный на основе нескольких инструментов или моделей, применяются те же принципы. Подробнее см. здесь.

Какие варианты использования всегда требуют письменного одобрения?

Ниже приведено несколько примеров ситуаций, которые, помимо сообщения о предполагаемом использовании, всегда требуют эскалации и письменного одобрения перед продолжением работы.

1. Использование данных 

Защита персональных данных и авторских прав крайне важна при работе с GenAI. Этим инструментам часто требуются входные данные для создания результатов, и способ их обработки имеет значение. Перед использованием любого инструмента GenAI, особенно стороннего или готового, убедитесь, что вы используете материалы, требующие специальной обработки, проверки или согласия.

• Использование конфиденциальной или личной информации: Не вводите в инструменты материалы, принадлежащие Netflix (например, неизданные материалы, сценарии, производственные изображения), или персональные данные (например, данные об актерах или съемочной группе), если это не одобрено явно.
• Сторонние или не имеющие владельца активы талантов ¹: не обучайте и не настраивайте модели с использованием материалов от художников, исполнителей или других правообладателей, если у вас нет соответствующего юридического разрешения.

Пример: обучение модели изображения в стиле другого художника с использованием библиотеки его прошлых работ, на которые Netflix или сам артист не дали разрешительных документов.

2. Творческий результат  

Контент, созданный с помощью ИИ, следует использовать с осторожностью, особенно если он является видимой или критически важной для сюжета частью проекта. Независимо от того, разрабатываете ли вы мир, персонажа или изображение, появляющееся в сцене, к нему применяются те же творческие и юридические стандарты, что и к традиционным материалам.

• Генерация ключевых творческих элементов: GenAI не следует использовать для создания главных персонажей, ключевых визуальных элементов или вымышленных обстановок, которые играют центральную роль в истории, без письменного разрешения.
  Примеры: GenAI используется для создания второй куклы-убийцы, Cheol-su, для игры «красный свет/зеленый свет» с Ён Хи в игре «Кальмар».

• Защищенные авторским правом или контролируемые правообладателем материалы: избегайте использования входных данных (например, промптов, изображений и т.д.), которые ссылаются на материалы, защищенные авторским правом, или изображения публичных личностей или умерших людей без соответствующих разрешений.
  Пример промптов: «Создайте образ, вдохновленный «Афганской девочкой» МакКарри» или, ссылаясь на отличительные черты известной исполнительницы, «Создайте персонажа с носом Мерил Стрип».

3. Талант и производительность 

Уважение к исполнителям и их работе лежит в основе ответственного использования GenAI. Будь то улучшение записанного выступления или создание цифрового подобия, порог согласия и осторожности исключительно высок, когда цель или характер выступления могут быть изменены.

• Синтетические или цифровые копии. Не создавайте цифровых исполнителей, голоса или подобия реальных талантов без явного и документально подтвержденного согласия и соблюдения требований гильдии (где применимо).
• Значительные цифровые изменения в выступлениях. Будьте осторожны при внесении изменений, которые могут повлиять на эмоциональный тон выступления, его подачу или замысел, поскольку даже незначительные правки могут иметь юридические или репутационные последствия.

В качестве примеров можно привести визуальный ADR (изменение синхронизации губ или мимики для соответствия новому, неписанному диалогу).

4. Этика и представительство

Зрители должны доверять тому, что видят и слышат на экране. Искусственный интеллект (GenAI) (при неосторожном использовании) может стереть грань между вымыслом и реальностью или непреднамеренно ввести зрителей в заблуждение. Поэтому мы просим вас учитывать как цель, так и воздействие вашего контента, созданного с помощью ИИ.

• Вводящий в заблуждение или искажающий действительность контент: избегайте создания контента, который можно ошибочно принять за реальные события, людей или заявления, если они на самом деле никогда не происходили (например, сфабрикованные кадры, диалоги или сцены, выдаваемые за подлинные).
  Пример: использование GenAI для создания фейкового новостного сегмента, в котором настоящий журналист делает сфабрикованное заявление, даже если это задумано как фон.

• Влияние на роли профсоюза: Убедитесь, что использование вами GenAI не заменяет и не оказывает существенного влияния на работу, обычно выполняемую лицами, представляющими профсоюз, включая актеров, писателей или членов съемочной группы, без соответствующих разрешений или соглашений.

Как я могу обеспечить конфиденциальность и защиту данных?

Использование инструментов, предусмотренных корпоративными соглашениями Netflix, обеспечивает дополнительный уровень безопасности для защиты входных данных. Обсудите с вашим основным контактным лицом в Netflix доступные инструменты и процесс подключения. Эти инструменты:

• Предотвратите захват, обучение или перепродажу ваших входных данных
• Защитите конфиденциальные данные, такие как сценарии, производственные изображения или визуальные материалы о талантах.

Даже при использовании безопасных инструментов любое использование конфиденциальной информации (например, сведений о внешности актеров, неизданных материалах, контрактах) требует передачи вопроса вашему контактному лицу в Netflix.

Если вы не используете корпоративные инструменты, убедитесь, что любые используемые вами инструменты ИИ, плагины или рабочие процессы не обучаются на входных или выходных данных, так как использование неправильного уровня лицензии или отсутствие заранее оговоренных условий использования данных может нарушить конфиденциальность. Вы несете ответственность за ознакомление с Условиями и положениями. Если у вас возникнут дополнительные вопросы, обратитесь к своему контактному лицу в Netflix.

Отличаются ли требования для окончательного вывода и временных носителей?

Контент, созданный с помощью GenAI, который появляется в финальной версии фильма (даже на заднем плане), может вызвать у зрителей юридические вопросы, связанные с авторскими правами или доверием. Поэтому мы просим вас заранее сообщать о любых элементах, созданных с помощью GenAI, особенно если они будут видны или слышны на экране.

Если ваш предполагаемый вариант использования включает визуальные, аудио- или текстовые элементы, созданные с помощью ИИ (например, плакаты, документы, вывески или новостные вырезки), как можно скорее обратитесь к представителю Netflix за юридической консультацией. Для включения этих элементов в финальный продукт может потребоваться получение разрешения на использование авторских прав.

Некоторые элементы декораций или реквизит, сгенерированные GenAI, могут считаться второстепенными, например, исторический документ, мельком показанный на заднем плане и не упоминаемый в сцене. Однако, если элемент играет важную роль (например, персонаж читает его вслух или он вносит свой вклад в развитие сюжета), к нему следует относиться с большей осторожностью.

В таких случаях вы можете использовать GenAI для изучения идей и макетов. Однако финальная версия должна включать в себя значимый человеческий вклад и пройти юридическую экспертизу через вашего представителя в Netflix.

Что следует учитывать перед использованием GenAI для развития талантов?

Цифровая обработка выступлений на этапах постпродакшена и создания визуальных эффектов имеет давнюю историю. Однако использование ИИ для изменения или копирования внешности или голоса исполнителя влечет за собой новые юридические, этические и репутационные проблемы. Поэтому получение согласия в соответствующих случаях и соблюдение мер предосторожности имеют решающее значение. Многие случаи использования для улучшения качества исполнения требуют юридической экспертизы, поэтому, пожалуйста, планируйте свои действия соответствующим образом. Вот несколько рекомендаций, которые следует учитывать:

• При создании Цифровой реплики (т.е. сгенерированного результата, распознаваемого по голосу и/или образу идентифицируемого исполнителя, для изображения его на фотографии или в звуковой дорожке, если он не выступал), требуется согласие. Дополнительное согласие на использование Цифровой реплики не требуется, если результат исполнения: (1) в целом соответствует сценарию, исполнению или записи (например, пересъёмка); (2) изображает действия, которые невозможно выполнить человеком по соображениям безопасности; или (3) приводит к тому, что исполнитель становится неузнаваемым (например, в маске).

• Цифровые изменения: Для цифровых изменений, как правило, требуется согласие, за исключением тех, которые обычно делаются в индустрии развлечений и кино, например:
  • Изменения, при которых фотография или звуковая дорожка в целом остаются такими же, как были написаны, исполнены или записаны.
  • Изменения на этапе постобработки для косметических целей, костюмов, снижения шума, хронометража, непрерывности, высоты тона, четкости и других подобных целей.
  • Обстоятельства, при которых дубляж или использование дублера разрешено существующими соглашениями.

• Использование модели:
  • Любые модели, обученные выполнять манипуляции по улучшению талантов, должны использоваться исключительно для данного производства и в рамках объема работ, согласованного с талантом.
  • Модели не должны использоваться для создания актерской игры в другой постановке, проекте или концепции без прямого согласия всех вовлеченных сторон.
• Гарантия качества:
  • Проводите предварительные тесты, чтобы убедиться, что качество результатов приемлемо как с творческой, так и с технической точки зрения, чтобы не оказывать негативного влияния на изначальную производительность таланта.
  • Там, где это применимо и осуществимо, планируйте специальные сеансы сбора данных с талантливыми специалистами, чтобы обеспечить наилучшие возможные результаты.
  • Избегайте улучшений, которые могут нанести ущерб репутации, достоинству или личному имиджу актера.

Следуя этим рекомендациям, вы сможете преодолеть сложности использования ИИ в творческих рабочих процессах, уважая при этом права и честность исполнителей.

Что делать, если я использую индивидуальный рабочий процесс или работаю с поставщиком, который его использует?

Для поставщиков: если вы предоставляете работу Netflix с использованием специального рабочего процесса GenAI, созданного из нескольких инструментов, каждый шаг в конвейере должен соответствовать нашим стандартам защиты данных, согласия и целостности контента, как описано в этом документе.

Для партнёров по производству: если вы нанимаете поставщика или студию ИИ, используйте это руководство в качестве основы для оценки того, как они управляют данными, творческим контролем и конечными результатами. Если вы не уверены, соответствует ли процесс производства ожиданиям, изложенным в этом руководстве, обратитесь за консультацией к своему контактному лицу в Netflix.

Предлагаемая матрица вариантов использования

В конце данного руководства мы привели матрицу предлагаемых вариантов использования в качестве инструмента для быстрой сортировки предлагаемых вариантов использования.

Предлагаемый вариант использования	Действие	Обоснование
Использование GenAI только для генерации идей (мудборды, референсные изображения)	✅	Низкий уровень риска, неокончательный, вероятно, не потребует эскалации 2, если будут соблюдены руководящие принципы.
Использование GenAI для создания фоновых элементов (например, вывесок, плакатов), которые появляются на камере		Будьте рассудительны: побочные элементы могут иметь низкий уровень риска, но если они имеют отношение к сюжету, сообщите об этом вышестоящему началу.
Использование GenAI для создания финальных дизайнов персонажей или ключевых визуальных эффектов		Требуется эскалация, поскольку это может повлиять на юридические права, восприятие аудитории или роли профсоюза.
Использование GenAI для репликации талантов (повторное старение или синтетические голоса)		Требуется эскалация для получения согласия и юридической проверки.
Использование непринадлежащих обучающих данных (например, лица знаменитостей, защищенные авторским правом произведения искусства)		Необходимость эскалации из-за риска нарушения авторских и других прав.
Использование фирменных материалов Netflix		Если проблема находится за пределами безопасных корпоративных инструментов, ее необходимо передать на рассмотрение вышестоящему органу.

Почему это стало актуально?

Недавние скандалы показывают, почему Netflix решил сейчас принять такую политику. В 2024 году сервис оказался в центре скандала из-за документального фильма «Что сделала Дженнифер» (What Jennifer Did), где использовались картинки, созданные искусственным интеллектом (ИИ).

В этом же году аргентинский сериал «Вечный» (The Eternaut) привлек внимание, потому что ИИ помог создать сцену с разрушением здания. Netflix заявил, что это было быстрее и дешевле, чем обычные спецэффекты.

Генеральный директор Тед Сарандос назвал ИИ удобным инструментом, но это вызвало споры: что важнее — экономия или качество искусства?

Кроме того, важную роль играет ситуация с работниками. В 2023 году в Голливуде прошли забастовки, потому что люди беспокоились, что ИИ может заменить их работу. Netflix подчёркивает, что задачи, которые защищают профсоюзы, нельзя просто передать машинам. Если кто-то хочет использовать ИИ для таких задач, это нужно обсудить и согласовать.