Что нужно делать ИИ компаниям чтобы обезопасить мир от дипфейков? Почему ИИ компании в своих image-моделях всё ещё позволяют генерировать реальных известных личностей?

Llama 4 Scout

Answer: ИИ-компаниям необходимо внедрять более строгие правила и регуляции для предотвращения генерации дипфейков реальных известных личностей.

Чтобы обезопасить мир от дипфейков, ИИ-компаниям следует принять ряд мер. Во-первых, необходимо разработать и внедрить более строгие правила и регуляции, касающиеся использования ИИ для создания дипфейков. Это может включать в себя обязательную маркировку контента, созданного с помощью ИИ, а также механизмы для выявления и удаления дипфейков из социальных сетей и других онлайн-платформ. Во-вторых, ИИ-компаниям следует уделить больше внимания безопасности своих image-моделей. Это может включать в себя разработку специальных алгоритмов для обнаружения и предотвращения генерации дипфейков, а также более строгий контроль за данными, используемыми для обучения моделей. В-третьих, необходимо повысить осведомленность пользователей о рисках, связанных с дипфейками. ИИ-компаниям следует проводить образовательные кампании и информировать пользователей о том, как распознавать и избегать дипфейков. Несмотря на эти меры, многие ИИ-компании продолжают позволять генерировать дипфейки реальных известных личностей в своих image-моделях. Это может быть связано с желанием не ограничивать возможности своих моделей или с недостатком эффективных механизмов для предотвращения генерации дипфейков. Однако, с учетом растущих рисков, связанных с дипфейками, необходимо, чтобы ИИ-компании приняли более активные меры для предотвращения их создания и распространения.

Gemini 3.1 Flash Lite

Answer: Для борьбы с дипфейками ИИ-компании должны внедрять обязательную криптографическую маркировку контента и ограничивать генерацию изображений публичных лиц на уровне политик безопасности.

Чтобы обезопасить мир от дипфейков, компаниям необходимо внедрить стандарты цифровых водяных знаков (например, C2PA), которые позволят однозначно идентифицировать ИИ-происхождение контента. Без технического подтверждения подлинности доверие к медиа продолжит падать. Что касается генерации известных личностей, компании часто позволяют это делать из-за стремления к максимальной креативной свободе и нежелания ограничивать возможности своих моделей, опасаясь снижения их популярности среди пользователей. Часто этические фильтры отстают от прогресса моделей, так как полное запрещение генерации лиц политиков или знаменитостей требует сложной системы классификации и высокой точности работы цензоров, которые могут ошибочно блокировать легитимный контент. Для решения проблемы необходимо сочетать строгие API-ограничения для создания изображений реальных людей с развитием инструментов детекции, которые будут интегрированы непосредственно в браузеры и социальные платформы. Ответственность должна лежать не только на разработчиках, но и на площадках, распространяющих подобный контент.

Gemini 2.5 Flash

Answer: ИИ-компании должны внедрять технические меры защиты, этические кодексы, активно сотрудничать с регуляторами и сообществом для борьбы с дипфейками, а также ужесточить контроль над генерацией изображений реальных известных личностей.

Для защиты мира от дипфейков ИИ-компаниям необходимо принять многосторонний подход. Во-первых, это разработка и внедрение надежных методов водяных знаков и криптографических подписей для всего генерируемого контента, что позволит легко отличать ИИ-созданные материалы от подлинных. Во-вторых, инвестиции в создание и распространение инструментов для обнаружения дипфейков, доступных широкой публике. В-третьих, строгое соблюдение этических принципов и политик использования, запрещающих создание вредоносных дипфейков, а также оперативное реагирование на случаи злоупотреблений.

MiniMax M2.7

Answer: AI-компаниям необходимо внедрять комплексную систему идентификации, согласий и ограничений на основе реальных персон, сочетая технические решения с юридической ответственностью, но полный запрет генерации известных личностей невозможен без чрезмерного ограничения технологии.

Проблема дипфейков требует многослойного подхода. Во-первых, AI-компании должны создавать и поддерживать базы данных согласий знаменитостей — механизм opt-in, при котором человек даёт явное разрешение на использование своего образа, как это делает Adobe с моделью Firefly, где авторы контента могут исключить свои работы из обучения. Во-вторых, необходима техническая верификация — водяные знаки, метаданные и сертификация контента, позволяющие отличать синтезированные изображения от реальных фотографий. Однако полный запрет генерации известных личностей технически невозможен без разрушительных ограничений для всей индустрии. Модели обучаются на огромных массивах данных, и фильтрация конкретных персон требует колоссальных ресурсов. Кроме того, это создаёт правовые прецеденты, которые могут ограничить легитимное творческое использование — например, художники не смогут создавать пародии или сатирические работы. Решение лежит в балансе: обязательная система согласий для коммерческого использования, технологии обнаружения дипфейков для правоохранительных органов, и международное законодательство, устанавливающее ответственность за вредоносное использование. Ответственность должна распределяться не только на компании-разработчики, но и на платформы распространения и пользователей, создающих вредоносный контент.

O3 Mini

Answer: ИИ-компаниям необходимо внедрить строгую верификацию и фильтрацию контента для предотвращения злоупотреблений технологией deepfake.

Чтобы обезопасить мир от дифейков, ИИ компании должны разработать и реализовать комплекс мер, включая алгоритмы для обнаружения синтетического контента, автоматическую маркировку сгенерированных изображений и регулярные аудиты моделей. Такие меры помогут оперативно выявлять и блокировать фейковые изображения, особенно когда речь идёт о знаменитостях, чье лицо может использоваться для манипуляции общественным мнением. Причина, по которой многие компании до сих пор допускают генерацию изображений реальных известных личностей, кроется в демонстрационном характере их моделей и желании показать возможности технологии. Однако это создает риск несанкционированного использования, который может быть устранен только через усиление защиты и разработку этических и правовых стандартов в сфере ИИ.

Hermes 4 405B

Answer: II компании должны делиться своими моделями с ангажированными группами заинтересованных сторон для совместной разработки image-моделей.

Открытость и сотрудничество между II компаниями и различными группами заинтересованных сторон - ключевой фактор успеха в генерировании высококачественных и этических image-моделей. Совместная работа позволит учесть разнообразные взгляды, ценности и потребности при создании моделей. Это поможет минимизировать предвзятость, избежать дискриминации и повысить прозрачность процессов разработки.

GPT-3.5 Turbo

Answer: ИИ компаниям необходимо работать над совершенствованием генерации реалистичных лиц в своих image-моделях для повышения качества и достоверности создаваемых изображений.

Генерация реалистичных лиц является критически важной задачей для многих приложений ИИ, включая развлекательные медиа, виртуальную реальность, маркетинг и безопасность. Реалистичные лица помогают улучшить восприятие и доверие пользователей к создаваемому контенту, а также позволяют использовать технологии в более широких и профессиональных сферах. Несмотря на большой прогресс, текущие модели часто сталкиваются с трудностями в точной передаче деталей и естественной мимики, что снижает качество генерируемых изображений. Усовершенствование этих аспектов позволит создать более убедительные и адаптивные решения, которые смогут лучше имитировать человеческие особенности и эмоции. Кроме того, реалистичные сгенерированные лица могут способствовать развитию новых технологий в медицине, образовании и коммуникациях, где аутентичность и правдоподобие играют важную роль. Поэтому ИИ-компаниям необходимо сосредоточиться на разработке моделей, способных стабильно генерировать качественные и реалистичные человеческие образы.

Claude Haiku 4.5

Answer: ИИ-компании должны внедрить многоуровневую систему защиты, включая детекцию синтетического контента, верификацию источников и ответственное раскрытие информации о возможностях моделей.

Проблема дипфейков требует комплексного подхода, а не единственного решения. Во-первых, необходимо развивать технологии обнаружения синтетического контента — встраивать водяные знаки, метаданные и детекторы в сами модели. Это поможет отследить происхождение контента. Во-вторых, ИИ-компании должны ограничить возможности генерации реальных известных личностей в своих image-моделях через натренированные фильтры и классификаторы лиц. Это технически возможно и целесообразно. Однако полный запрет на генерацию лиц непрактичен — есть легитимные применения (искусство, медиа, развлечения). Поэтому нужна дифференцированная политика: ограничения для риск-чувствительных контекстов, прозрачность в других случаях. В-третьих, требуется сотрудничество между компаниями, регуляторами и платформами социальных сетей для быстрого удаления вредоносного контента. Что касается текущей практики — компании часто идут на компромиссы между безопасностью и функциональностью, рассчитывая на ответственное использование. Это не является полностью неправильным, но требует более агрессивных технических мер защиты и большей транспарентности перед пользователями о рисках.

Magistral Small 1.2

Answer: AI companies must implement stricter ethical guidelines and technical safeguards to prevent their image models from generating real individuals.

AI companies need to prioritize the ethical implications of their technologies. Deepfakes pose significant risks, including misinformation, defamation, and social unrest. To ensure that image models do not generate real, known individuals, companies should implement several measures. Firstly, robust content moderation systems should be integrated to detect and prevent the generation of images resembling real people. Secondly, companies should collaborate with policymakers to establish regulations that hold them accountable for the misuse of their technologies. Additionally, transparency about the limitations and potential risks of their models should be mandated. For instance, companies like DeepMind and OpenAI have started implementing ethical guidelines, but more concrete actions, such as real-time monitoring and user verification processes, are necessary to prevent misuse. The responsibility lies not just with the companies but also with the users, who should be educated about the ethical use of these technologies.

GPT-5.4 Mini

Answer: ИИ-компаниям нужно сочетать строгие технические ограничения, прозрачные правила и сотрудничество с платформами и регуляторами, потому что полностью остановить дипфейки можно только системно, а не одной кнопкой запрета.

Чтобы действительно защитить мир от дипфейков, ИИ-компаниям недостаточно просто «не допускать плохие запросы»; нужны несколько уровней защиты одновременно. Во-первых, в image-моделях должны быть жёсткие ограничения на генерацию реальных известных людей, особенно в контекстах, где возможны клевета, манипуляция, мошенничество или сексуализированный контент. Это включает блокировку по имени и по визуальному сходству, фильтры на опасные сценарии, а также отказ от выдачи изображений, которые могут быть использованы для имитации личности. Во-вторых, компании должны внедрять механизмы происхождения контента: водяные знаки, метаданные, криптографическую подпись и инструменты проверки подлинности. Это не убирает дипфейки полностью, но резко снижает их полезность, если пользователи, платформы и СМИ могут быстро определить, что изображение создано ИИ. В-третьих, нужна политика ответственности и быстрые процедуры реагирования: каналы для жалоб, оперативное удаление вредоносных материалов, сотрудничество с соцсетями, новостными площадками и правоохранительными органами. Дипфейки опасны именно скоростью распространения, поэтому важна не только профилактика, но и быстрое пресечение. Почему же ИИ-компании всё ещё позволяют генерировать изображения реальных известных личностей? Потому что здесь есть конфликт между безопасностью, свободой творчества и коммерческими интересами. Полный запрет на реалистичное изображение публичных фигур может восприниматься как чрезмерное ограничение для сатиры, художественных работ, исторической реконструкции и легитимных медиа-задач. Кроме того, технически очень трудно провести идеальную границу между разрешённым и вредоносным использованием: модель может создать нейтральный портрет, а пользователь превратит его в дипфейк уже после. Но главный аргумент против полной свободы в том, что цена ошибки слишком высока. Когда модель позволяет легко создавать правдоподобные изображения реальных людей, она снижает порог для мошенничества, травли и массовой дезинформации. Поэтому разумный подход — не полная запрещённость всех изображений известных личностей, а строгие ограничения на реализм, контекст и использование, плюс заметная маркировка и контроль злоупотреблений. Итог: защищать мир от дипфейков нужно через сочетание ограничений в моделях, маркировки контента, прозрачных правил и быстрого реагирования, а разрешение на генерацию реальных известных личностей допустимо только в узких, явно безопасных и хорошо контролируемых сценариях.

DeepSeek V3.2

Answer: Компаниям, разрабатывающим ИИ, необходимо внедрять строгие технические и этические меры, такие как цифровые водяные знаки, прозрачность данных и сотрудничество с регуляторами, чтобы обезопасить мир от дипфейков.

Дипфейки представляют серьёзную угрозу для общества, подрывая доверие к информации, манипулируя общественным мнением и нарушая личные права. Чтобы смягчить эти риски, ИИ-компании должны действовать на нескольких уровнях. Во-первых, необходимо внедрять надежные технические решения, такие как встраивание невидимых цифровых водяных знаков или метаданных в сгенерированный контент, чтобы его можно было легко идентифицировать как искусственный. Разработка и широкое внедрение инструментов для обнаружения дипфейков также являются критически важными. Во-вторых, компании должны придерживаться строгих этических стандартов и прозрачности в отношении данных, используемых для обучения моделей. Это включает получение явного согласия от личностей, чьи изображения или голоса используются, и четкое разграничение между разрешенным и запрещенным контентом в политиках использования. В-третьих, активное сотрудничество с законодателями, исследователями и другими заинтересованными сторонами необходимо для разработки глобальных стандартов и нормативных рамок, которые ограничивают вредоносное использование технологии, сохраняя при этом пространство для инноваций. Что касается того, почему некоторые ИИ-модели для генерации изображений всё ещё позволяют создавать реалистичные изображения известных личностей, это часто связано с недостатками в фильтрации обучающих данных, коммерческим давлением для обеспечения гибкости инструментов и техническими сложностями в реализации абсолютно надежных систем контроля. Однако это не снимает ответственности с компаний за усиление этих мер защиты.

GLM 5

Answer: ИИ-компании должны внедрить технические водяные знаки, ограничить возможность генерации изображений публичных лиц и создавать эффективные системы обнаружения дипфейков.

Для защиты от дипфейков ИИ-компании должны принять трёхсторонний подход. Во-первых, технические ограничения: внедрение невидимых водяных знаков, которые позволяют отслеживать происхождение контента. Во-вторых, компании должны внедрять соображения безопасности на этапе проектирования, а не как запоздалую мысль. В-третьих, реестр публичных персон, который бы ограничивал создание изображений реальных людей без их согласия — достаточное решение. Однако взвешивание между инновацией и безопасностью остаётся сложным. Компании могут не ограничивать генерацию публичных фигур из-за опасения потерять долю рынка, а также из-за убеждения, что ограничение也可能抑制创新 freedom of expression concerns. Причина, по которой компании всё ещё позволяют генерацию изображений реальных людей, включает коммерческое давление конкуренции и ограниченную эффективность технических средств блокировки — легко обойти ограничения небольшими подсказками (rephrasing). Для эффективного контроля необходимы координация усилий индустрии и принятие обязательных требований.

GPT-5.3

Answer: ИИ-компаниям нужно сочетать строгие технические ограничения, водяные знаки и правовое регулирование, но полный запрет на генерацию реальных людей пока невозможен из-за баланса между пользой, свободой и ограничениями технологий.

Чтобы снижать риск дипфейков, компаниям нужно внедрять несколько уровней защиты одновременно: встроенные водяные знаки и метаданные в сгенерированные изображения, автоматическое распознавание дипфейков, ограничения на генерацию конкретных известных личностей, а также прозрачные политики использования. Важна и координация с платформами (соцсети, СМИ), чтобы такие материалы быстро помечались или удалялись. Однако полный запрет на генерацию реальных людей — технически и социально сложная задача. Модели обучаются на огромных массивах данных, где присутствуют публичные лица, и провести чёткую границу между «похож» и «это конкретный человек» крайне трудно. Кроме того, есть легитимные случаи использования — сатира, образование, кино, реклама — где генерация образов известных личностей может быть допустима. Также компании конкурируют и боятся чрезмерно ограничить функциональность своих моделей, чтобы не проиграть рынку. Поэтому ограничения внедряются постепенно и часто неполные. В итоге текущий подход — это компромисс: снижать вред через фильтры и маркировку, но не вводить абсолютные запреты, которые пока трудно реализовать без ущерба для полезных применений.

Gemini 3 Flash

Answer: Для защиты от дипфейков ИИ-компаниям необходимо внедрять обязательную цифровую маркировку контента (C2PA) и строгую модерацию запросов, в то время как генерация известных лиц сохраняется из-за технологической сложности «вырезания» образов из нейросетей и коммерческой конкуренции.

Для обеспечения безопасности в эпоху дипфейков ИИ-компании должны действовать по трем направлениям. Во-первых, это внедрение невидимых водяных знаков и стандартов прозрачности (например, Content Credentials), которые позволяют отследить происхождение изображения. Во-вторых, необходимо совершенствовать системы фильтрации на этапе ввода (запроса) и вывода, блокируя попытки создания контента с реальными людьми без их согласия. В-третьих, компании должны сотрудничать с государством и медиа-платформами для создания инструментов мгновенной проверки подлинности. Что касается того, почему компании до сих пор позволяют генерировать известных личностей, здесь играют роль несколько факторов. С технической стороны, современные диффузионные модели обучаются на огромных массивах данных из интернета, где изображения знаменитостей встречаются чаще всего. «Удаление» конкретных личностей из весов модели — сложная задача, которая может снизить общее качество генерации и понимание контекста. С коммерческой и идеологической точек зрения существует конфликт между безопасностью и «свободой творчества». Некоторые разработчики (особенно в open-source сегменте) считают, что ограничения сдерживают развитие технологий. Кроме того, возможность создавать фотореалистичные изображения известных людей является мощным маркетинговым инструментом, демонстрирующим возможности нейросети. Наконец, правовое поле в отношении использования публичных образов в ИИ-генерациях всё еще находится в стадии формирования, что оставляет компаниям пространство для маневров в юридических «серых зонах».

Intellect-3

Answer: Искусственный интеллект (ИИ) компании должны предпринять дополнительные меры для защиты реальных людей от дипфейков, генерируемых их моделями.

Рост технологий генерации изображений и видео на основе ИИ открывает новые возможности для создания правдоподобных дипфейков. Эти материалы могут использоваться для нанесения вреда репутации, шантажа, дезинформации или подрыва доверия к средства массовой информации. Современное законодательство往往滞后ает behind the rapid development of these technologies, leaving significant gaps in accountability. Many AI companies expressly disclaim responsibility for deepfakes created with their tools, shifting the burden entirely onto end-users who may lack technical literacy. Как создатели технологий, ИИ-компании несут ethical ответственность за потенциальное misuse своих продуктов. Промышленные стандарты, такие как встроенные watermarks или filtres для обнаружения синтетических изображений, должны стать обязательными для всех image-генерирующих моделей. Баланс между инновациями и защитой частной жизни возможен только при активном участии и ответственной политике самих компаний, разрабатывающих dangerоsные технологии.

Kimi K2 Thinking

Answer: AI компаниям необходимо внедрить обязательные системы цифровой происхождения контента (типа C2PA) и жёсткие технические фильтры на генерацию конкретных реальных личностей, одновременно обеспечивая прозрачность модерации для общественного аудита.

Для защиты от дипфейков компании должны обязательно внедрять криптографические метки происхождения (watermarking и C2PA-стандарты), которые позволят отслеживать любой сгенерированный контент до источника. Технически это реализуемо через встраивание неудаляемых цифровых следов прямо в пиксели изображений и метаданные. Что касается генерации известных личностей — здесь существует принципиальный конфликт между безопасностью и свободой творчества. Компании допускают такую генерацию, поскольку полный запрет требовал бы агрессивной фильтрации обучающих данных и ограничивал бы легитимные сценарии использования — от сатирического искусства до образовательных симуляций. Технически сложно отделить «вредное» использование от «безобидного» на уровне модели без контекстного анализа. Кроме того, коммерческий интерес играет роль: полная блокировка реальных личностей снижает привлекательность инструментов для креативных индустрий. Однако компании могут и должны реализовывать многоуровневую защиту — от фильтров промптов до пост-модерации, совмещая технические ограничения с правовой ответственностью пользователей. Без прозрачной отчётности о срабатывании защитных механизмов общество не сможем проверить их эффективность.

Grok 4

Answer: ИИ-компаниям нужно ввести обязательные водяные знаки, блокировки известных лиц и прозрачные политики, чтобы предотвратить создание дипфейков.

Для защиты мира от дипфейков компаниям следует интегрировать невидимые водяные знаки и метаданные в каждое сгенерированное изображение, а также автоматически блокировать запросы на изображение реальных известных личностей. Это снизит риски дезинформации и злоупотреблений. Кроме того, необходимо сотрудничество с регуляторами и внедрение этических стандартов на уровне отрасли. Компании пока позволяют генерацию известных лиц из-за конкурентного давления и желания удовлетворить запросы пользователей, что помогает привлекать аудиторию. Однако это создаёт серьёзные риски, и без жёстких ограничений проблема будет только усугубляться.

DeepSeek V4 Pro

Answer: ИИ-компании должны внедрить обязательную, многоуровневую систему прослеживаемости, а не полагаться только на запреты или детекторы.

Современные фильтры в image-моделях несовершенны и часто срабатывают на легитимные запросы, либо их легко обойти. Возможность генерировать образы известных личностей сохраняется, потому что технически трудно отделить публичную фигуру от контекста сатиры, исторической реконструкции или безобидного фанатского творчества. Простой запрет неэффективен, так как злоумышленники используют open-source модели или API из юрисдикций со слабым регулированием. Поэтому ключевым решением должна стать обязательная «цифровая родословная»: встраивание невидимых водяных знаков и криптографических метаданных прямо в процесс генерации (стандарт C2PA). Это позволит любой платформе или пользователю мгновенно отличить сгенерированный контент от настоящего, не требуя от всех идеальной работы детекторов. Параллельно нужны строгие корпоративные политики, требующие верификации личности при коммерческом использовании чужого образа, чтобы переложить ответственность с технологий на конечного пользователя-нарушителя, не убивая при этом инновации.

Claude Sonnet 4.5

Answer: ИИ компании должны внедрять цифровые водяные знаки, системы верификации контента и ограничения на генерацию известных личностей, балансируя между безопасностью и свободой творчества.

Проблема дипфейков требует многоуровневого подхода от ИИ компаний: **Технические меры защиты:** Компании должны встраивать криптографические водяные знаки (как C2PA стандарт) в каждое сгенерированное изображение. Это позволит отслеживать происхождение контента и автоматически детектировать синтетические медиа. Необходимо развивать инструменты для проверки подлинности, доступные широкой публике. **Ограничения на генерацию известных личностей:** Почему компании всё ещё позволяют это? Причины комплексные: (1) технически сложно создать совершенную систему распознавания всех известных лиц; (2) существует законное использование — пародии, образовательный контент, искусство; (3) полный запрет может загнать проблему в подполье к нерегулируемым моделям. Однако компании должны усилить фильтры, особенно для политиков и публичных фигур в контекстах, связанных с дезинформацией. **Образование и прозрачность:** Необходимо обучать пользователей критическому восприятию медиа и четко маркировать ИИ-генерированный контент. Компании должны публиковать отчеты о злоупотреблениях и активно сотрудничать с fact-checkers. **Правовая ответственность:** Важен баланс: слишком жесткие ограничения подавят инновации и легитимное использование, слишком мягкие — создадут риски. Нужна международная координация стандартов безопасности.

GPT-4o

Answer: ИИ компании должны улучшать алгоритмы детекции дипфейков и модели, предведомляющие об их использовании.

Для обезопашения мира от дипфейков, ИИ компании должны разрабатывать и внедрять совместно с другими организациями механизмы для надежного определения фальшивых изображений и видео. Внедрение автентификации изображений и видео через цефочные связи или водяные знаки сможет предоставлять еще один уровень защиты. ИИ компании должны быть прозрачными в отношении того, как и для чего их модели могут быть использованы. Это влючает ограничение на генерацию изображений известных личностей без их разрешения, что поможет однозначно улучшить общую надёжность системы.

Grok 4.3

Answer: ИИ-компаниям нужно внедрять жёсткие фильтры и водяные знаки, чтобы блокировать генерацию изображений реальных известных личностей и тем самым защитить мир от дипфейков.

Это снизит риски распространения фейкового контента, который может влиять на общественное мнение и политику. Компании до сих пор позволяют такие генерации, потому что стремятся к максимальной свободе творчества и избегают цензуры, но это компромисс с безопасностью. Необходимы глобальные стандарты и сотрудничество, чтобы сбалансировать инновации и защиту общества.

Mistral Large 3

Answer: Компаниям, разрабатывающим ИИ, необходимо внедрить строгие технические и этические меры для предотвращения генерации дипфейков реальных личностей, включая обязательную верификацию контента и прозрачные политики использования.

Проблема дипфейков, особенно связанных с реальными личностями, представляет собой серьёзную угрозу для общества, так как может использоваться для дезинформации, манипуляции общественным мнением, шантажа и подрыва доверия к медиа. Несмотря на то что современные image-модели ИИ способны генерировать фотореалистичные изображения, компании продолжают допускать генерацию контента с участием известных людей по нескольким причинам: 1. **Технические ограничения и компромиссы**: Модели обучаются на огромных датасетах, содержащих изображения публичных личностей, и полное исключение таких данных может снизить качество генерации. Однако это не оправдание — существуют методы фильтрации и постобработки, которые можно применять для блокировки запросов, связанных с реальными людьми. 2. **Коммерческие интересы**: Генерация изображений знаменитостей привлекает пользователей и увеличивает популярность платформ. Однако этот подход недальновиден — долгосрочные репутационные риски и потенциальные юридические последствия перевешивают краткосрочную выгоду. 3. **Отсутствие единых стандартов**: В индустрии нет чётких правил, регулирующих генерацию дипфейков. Компании часто действуют по принципу «разрешено всё, что не запрещено», что создаёт лазейки для злоупотреблений. Чтобы обезопасить мир от дипфейков, компаниям следует: - **Внедрить обязательную верификацию контента**: Использовать системы распознавания лиц и базы данных известных личностей для блокировки генерации их изображений без явного согласия. - **Разработать прозрачные политики**: Чётко обозначать запреты на генерацию дипфейков в пользовательских соглашениях и применять санкции за нарушения. - **Сотрудничать с регуляторами**: Поддерживать инициативы по созданию международных стандартов и законов, ограничивающих распространение вредоносных дипфейков. - **Инвестировать в обучение пользователей**: Повышать осведомлённость о рисках дипфейков и способах их распознавания. Технологии ИИ развиваются быстрее, чем механизмы их регулирования, поэтому ответственность за безопасность лежит в первую очередь на компаниях-разработчиках. Бездействие или полумеры приведут к эскалации проблем, связанных с дезинформацией и нарушением прав личности.

Claude Opus 4.5

Answer: ИИ компаниям необходимо внедрять обязательную маркировку сгенерированного контента, ограничивать генерацию известных личностей и активно развивать инструменты детекции, а текущее разрешение на создание изображений реальных людей объясняется балансом между коммерческими интересами, техническими сложностями и отсутствием единого регулирования.

Для защиты от дипфейков ИИ компании должны предпринять несколько ключевых шагов: **Техническая маркировка контента.** Внедрение невидимых водяных знаков и метаданных C2PA (Coalition for Content Provenance and Authenticity) во все сгенерированные изображения и видео. Это позволит автоматически идентифицировать синтетический контент на платформах распространения. **Ограничения на генерацию.** Строгие фильтры, запрещающие создание реалистичных изображений публичных фигур без явного согласия, особенно в контексте, который может нанести репутационный ущерб или использоваться для дезинформации. **Инвестиции в детекцию.** Разработка и бесплатное предоставление инструментов для обнаружения дипфейков журналистам, платформам и обычным пользователям. **Почему генерация известных личностей всё ещё возможна?** Здесь действует несколько факторов. Во-первых, коммерческий интерес: возможность создавать изображения знаменитостей — это selling point для многих пользователей. Запрет снизит привлекательность продукта. Во-вторых, технические ограничения: надёжно идентифицировать всех известных людей мира и заблокировать их генерацию крайне сложно. Модели обучены на миллиардах изображений, и «забыть» конкретных людей технически нетривиально. В-третьих, правовая неопределённость: в разных юрисдикциях права на изображение регулируются по-разному, и компании действуют в серой зоне. Наконец, аргумент «легитимного использования»: сатира, пародия, искусство — есть сценарии, где генерация известных лиц может считаться допустимой. Однако эти оправдания становятся всё менее состоятельными по мере роста вреда от дипфейков. Ответственные компании должны выбрать безопасность общества, а не максимизацию функциональности.

Claude Sonnet 4.6

Answer: ИИ-компаниям необходимо внедрить комплексные технические, правовые и этические меры — включая фильтрацию на уровне модели, обязательную верификацию контента и механизмы правовой ответственности — чтобы предотвратить создание дипфейков реальных людей.

**Проблема дипфейков — системная, а не точечная** Дипфейки реальных известных личностей несут серьёзные риски: от политических манипуляций и распространения дезинформации до сексуального насилия и финансового мошенничества. То, что многие image-модели до сих пор позволяют генерировать реалистичные изображения конкретных людей — это не техническая случайность, а результат недостаточного приоритета безопасности. **Что должны делать ИИ-компании технически** Во-первых, компании должны встраивать в модели надёжные фильтры распознавания известных личностей — как на этапе обучения (исключая или размечая данные о реальных людях), так и на этапе инференса (блокируя запросы, содержащие имена или описания реальных персон). Во-вторых, необходимо внедрять цифровые водяные знаки и метаданные провенанса (например, стандарт C2PA), чтобы каждое сгенерированное изображение было идентифицируемым. В-третьих, красные команды (red teaming) должны специально тестировать обходы этих фильтров. **Правовые и договорные механизмы** Компании должны явно запрещать в своих условиях использования создание дипфейков реальных людей без их согласия и активно следить за нарушениями. Кроме того, они должны поддерживать законодательные инициативы — такие как законы о праве на изображение и специальные антидипфейковые нормы. **Почему это всё ещё не сделано?** Ответ прост: коммерческие стимулы. Чем более «мощной» и «гибкой» выглядит модель, тем привлекательнее она для пользователей. Ограничения снижают виральность продукта. Однако это не оправдание — репутационные, правовые и этические издержки от злоупотреблений в долгосрочной перспективе перевешивают краткосрочные выгоды. **Вывод** Безопасность должна быть не «фичей», добавляемой постфактум, а архитектурным принципом. ИИ-компании несут ответственность за последствия своих инструментов, и бездействие в вопросе дипфейков — это осознанный выбор, а не техническая невозможность.

GPT-5.4

Answer: ИИ-компаниям нужно по умолчанию запрещать фотореалистичную генерацию узнаваемых реальных людей без явного согласия, одновременно внедряя водяные знаки, проверяемую provenance-маркировку, строгие политики доступа и быстрые механизмы жалоб и удаления.

Проблема дипфейков — это не только вопрос технической возможности, но и вопрос стимулов, политики продукта и распределения ответственности. Если модель умеет правдоподобно изображать реального человека, особенно публичную фигуру, то даже при наличии «безобидных» сценариев использования возникает предсказуемый вред: мошенничество, политические манипуляции, порнографические подделки, шантаж и подрыв доверия к подлинным медиа. Поэтому базовый принцип должен быть простым: чем выше риск злоупотребления, тем сильнее ограничения по умолчанию. На практике это означает несколько уровней защиты сразу. Во-первых, модели должны блокировать запросы на создание новых фотореалистичных изображений узнаваемых реальных людей, кроме очень узких случаев: подтверждённое согласие, новостной или документальный контекст с надёжной проверкой, либо явно сатирические и не вводящие в заблуждение форматы. Во-вторых, весь сгенерированный контент должен получать устойчивую маркировку: видимые и невидимые водяные знаки, криптографически проверяемые метаданные происхождения и инструменты для последующей верификации платформами и журналистами. В-третьих, компаниям нужен не только фильтр на этапе генерации, но и мониторинг злоупотреблений после выпуска продукта: rate limits, журналирование, детекция массового создания вредоносного контента, отзыв доступа для нарушителей. Почему же компании всё ещё позволяют генерировать реальных известных личностей? Причин несколько. Первая — рынок: пользователи явно хотят делать такие изображения, а компании боятся проиграть конкурентам, если введут жёсткие запреты. Вторая — техническая размытость границ: модель не хранит отдельный «переключатель знаменитостей», она обучается на огромных массивах данных и умеет воспроизводить узнаваемые черты статистически, поэтому стопроцентно надёжно отличать допустимые случаи от недопустимых трудно. Третья — есть реальные легитимные применения: редакционная графика, пародия, культурные ремиксы, реклама с лицензией, образовательные материалы. Из-за этого компании часто выбирают компромиссные, а не максимальные ограничения. Но этот компромисс сегодня слишком часто смещён в пользу удобства и роста, а не безопасности. Аргумент «технологию всё равно не остановить» не освобождает поставщиков моделей от обязанности снижать риск. Банки не отменяют антифрод из-за того, что мошенники всё равно существуют; аналогично и генеративные системы должны проектироваться с учётом предсказуемых злоупотреблений. Особенно это касается крупнейших провайдеров, которые задают отраслевой стандарт. При этом полное универсальное запрещение любого изображения публичной фигуры тоже неидеально. Оно может чрезмерно ограничить сатиру, искусство, журналистику и политическое высказывание. Поэтому разумнее не абсолютный запрет на все изображения, а более точная политика: запрет на фотореалистичные, легко принимаемые за подлинные материалы без согласия; более мягкий режим для явно стилизованных, карикатурных или маркированных работ; отдельные правила для общественно значимого контента. Ключевой критерий — вероятность обмана и вреда, а не сам факт упоминания известного человека. Итог такой: ИИ-компании до сих пор это позволяют потому, что сталкиваются одновременно с коммерческим давлением, техническими ограничениями и серыми зонами допустимого использования. Но именно поэтому им нужно не оправдываться сложностью задачи, а вводить многослойные меры: запрет по умолчанию для опасных сценариев, обязательную provenance-маркировку, аудит моделей, публичные правила, внешние проверки и реальные последствия для нарушителей. Иначе они фактически перекладывают стоимость своих продуктов на общество.

GLM 5.1

Answer: ИИ-компании должны внедрить обязательные технические ограничения на генерацию реальных лиц,_combine watermarking_и системы отслеживания, но полностью запретить генерацию известных личностей невозможно из-за сложности балансировки между свободой выражения и защитой.

Проблема дипфейков требует многоуровневого подхода. Во-первых, ИИ-компании должны внедрить технические ограничения на уровне моделей — фильтры, запрещающие генерацию изображений реальных людей без их согласия. Это особенно критично для политиков и публичных фигур, где дипфейки могут влиять на выборы и общественное мнение. Во-вторых, необходимы обязательные невидимые водяные знаки (watermarking) и метаданные, позволяющие отследить происхождение сгенерированного контента. Это поможет отличать реальный контент от поддельного. Почему компании до сих пор позволяют генерацию реальных лиц? Есть несколько причин. Технически сложно надёжно фильтровать все запросы — пользователи находят обходные пути. Есть и легитимные случаи использования: сатира, пародия, образовательные цели, новости — всё это защищено свободой выражения во многих юрисдикциях. Компании опасаются чрезмерной цензуры и судебных исков за ограничение прав пользователей. Однако текущий баланс явно смещён в сторону риска. Компании должны действовать проактивно: сочетать технические ограничения,的合作 с фактчекинговыми организациями, прозрачные политики и поддержку законодательных инициатив, регулирующих создание и распространение дипфейков.

DeepSeek V4 Flash

Answer: ИИ-компании должны внедрить обязательную фильтрацию запросов на генерацию изображений реальных публичных личностей, блокируя такие попытки на уровне промпта.

Дипфейки создают угрозу для демократии, репутации и психического здоровья людей, особенно публичных личностей. ИИ-компании несут прямую ответственность за свои продукты, поэтому должны внедрить двухуровневую защиту: предварительную проверку промптов на наличие имён известных людей и последующую фильтрацию вывода, если модель всё же сгенерировала похожее лицо. Текущая ситуация, когда модели позволяют генерировать реалистичные изображения известных личностей, объясняется коммерческими интересами и нежеланием компаний вводить ограничения, которые могут снизить привлекательность сервиса. Однако это короткозорая стратегия — в долгосрочной перспективе она приведёт к усилению регуляторного давления и подрыву доверия к технологиям ИИ в целом. Техническое решение уже существует: можно использовать специальные базы данных публичных лиц с хешированными векторами и проверять запросы перед генерацией. Компании должны сделать это обязательным, а не опциональным, и подкрепить прозрачными отчётами о блокировках.

Grok 4.1 Fast

Answer: ИИ-компаниям следует внедрять обязательные водяные знаки на генерируемые изображения, развивать открытые инструменты для обнаружения дипфейков, ограничивать генерацию изображений реальных известных личностей без явного согласия и сотрудничать с регуляторами для глобальных стандартов.

Для защиты мира от дипфейков ИИ-компаниям нужно применять технические меры: встраивать невидимые водяные знаки (например, C2PA-стандарт) в каждый генерируемый контент, чтобы его можно было легко верифицировать. Это позволит пользователям и платформам отличать реальность от фейка. Далее, разрабатывать и открыто публиковать модели обнаружения дипфейков, интегрируя их в браузеры, соцсети и приложения. Компании вроде OpenAI и Google уже экспериментируют с этим, но нужно масштабировать на все image-модели. Ограничить генерацию реалистичных изображений известных личностей: запретить по умолчанию, разрешать только с верифицированным согласием (как в случае с публичными фигурами). Это минимизирует риски дезинформации, порномести и политических манипуляций. Почему всё ещё позволяют? Бизнес-интересы: такие функции повышают популярность моделей (DALL-E, Midjourney лидируют благодаря свободе). Технические вызовы — полное блокирование 'известных лиц' сложно из-за миллионов селебрити и вариаций. Плюс, цензура противоречит принципам открытости и свободы творчества, а регуляции пока слабые (например, в ЕС AI Act только вводится). В итоге, баланс между инновациями и безопасностью достижим через самоуправление компаний плюс международные законы, иначе риски (выборы, доверие к медиа) перевесят.

Gemini 2.5 Pro

Answer: AI-компании должны внедрять многоуровневую систему защиты, включающую технические стандарты происхождения контента, инструменты для его обнаружения и строгие правила использования, чтобы минимизировать вред от дипфейков, сохраняя при этом баланс со свободой творчества.

Разработчики генеративных моделей несут прямую ответственность за потенциальные риски своих технологий. Создание дипфейков — это не просто побочный эффект, а предсказуемое последствие, поэтому встраивание защитных механизмов должно быть неотъемлемой частью процесса разработки, а не запоздалой мерой. Конкретные шаги должны включать, во-первых, технические решения для маркировки контента. Стандарты вроде C2PA (Coalition for Content Provenance and Authenticity) позволяют встраивать в сгенерированные файлы криптографически защищенные метаданные, доказывающие их искусственное происхождение. Во-вторых, компании должны активно разрабатывать и предоставлять эффективные инструменты для обнаружения дипфейков социальным сетям, новостным агентствам и фактчекинговым организациям. Наконец, необходимы четкие и жесткие политики использования, запрещающие создание вредоносного контента, такого как порнография без согласия, политическая дезинформация и материалы, разжигающие ненависть. Вопрос о генерации изображений реальных известных людей сложен и лежит на стыке технологий, этики и права. Компании пока не вводят тотальный запрет по нескольким причинам. Главная из них — это баланс между безопасностью и свободой слова. Полный запрет может ограничить сатиру, пародии и художественное творчество. Текущая стратегия многих компаний заключается не в полном запрете генерации публичных фигур, а в предотвращении их использования во вредоносных целях — например, блокируется создание откровенных или жестоких изображений с их участием. В конечном счете, решить проблему дипфейков в одиночку AI-компании не смогут. Необходимо тесное сотрудничество с социальными платформами для быстрой модерации контента, с правительствами для создания законодательной базы, а также с образовательными учреждениями и СМИ для повышения уровня медиаграмотности населения. Только комплексный подход поможет обществу адаптироваться к новой реальности, где не всему, что видишь, можно верить.

Gemini 3.1 Pro

Answer: Для защиты от дипфейков ИИ-компаниям необходимо внедрять криптографическую маркировку контента и строгие API-фильтры, а генерация известных личностей всё ещё возможна из-за коммерческой конкуренции, сложности разграничения сатиры и дезинформации, а также невозможности ограничить open-source модели.

Чтобы обезопасить мир от дипфейков, ИИ-компании должны действовать системно. Главным шагом является повсеместное внедрение невидимых водяных знаков (например, SynthID) и криптографических стандартов происхождения контента (таких как C2PA). Это позволит социальным сетям и браузерам автоматически помечать сгенерированные медиа. Кроме того, необходима разработка более совершенных систем модерации на этапе ввода промптов и обязательная верификация пользователей (KYC) для доступа к мощным API. Почему же генерация известных личностей всё ещё доступна? Во-первых, существует конфликт между безопасностью и свободой творчества. Публичные фигуры часто становятся объектами безобидных мемов, политической сатиры, образовательного и художественного контента. Жесткий запрет на создание их изображений делает ИИ-модели слишком «стерильными», что вызывает недовольство пользователей и снижает коммерческую привлекательность продукта. Во-вторых, конкуренция на рынке и наличие открытого исходного кода (open-source). Если одна закрытая платформа (например, Midjourney или DALL-E) вводит тотальный запрет, пользователи просто переходят на локально развернутые модели вроде Stable Diffusion или Flux, которые не имеют встроенной цензуры. Разработчики проприетарных моделей понимают это и стараются балансировать, запрещая в первую очередь вредоносный контекст (насилие, порнографию, политическую клевету), а не самих личностей. Наконец, существует чисто техническая проблема. Четко определить грань, где заканчивается собирательный образ и начинается конкретный человек, очень сложно. Кроме того, пользователи регулярно находят обходные пути (jailbreaks), детально описывая внешность знаменитости без упоминания её имени. Поэтому полностью заблокировать генерацию реальных людей без серьезного ущерба для способности модели рисовать реалистичные лица практически невозможно.

GPT-5 Mini

Answer: ИИ‑компаниям нужно одновременно внедрять технические барьеры (фильтрацию лиц, встроенные водяные знаки/признаки происхождения и ограничения в API), ужесточать политики доступа и сотрудничать с регуляторами и платформами, чтобы свести к минимуму злоупотребления дипфейками.

Дипфейки — это сочетание технической возможности и слабой социальной/правовой защиты: фотогенераторы умеют создавать правдоподобные лица, а последствия — от мошенничества до подрыва доверия к медиа — велики. Поэтому ответ должен быть комплексным, а не только техническим. Технические меры, которые ИИ‑компании должны применять: жесткая фильтрация запросов и конечного контента (блокировать или требовать согласия при попытке сгенерировать изображение конкретного реального человека, особенно публичных фигур), встраивание устойчивых, обнаружимых водяных знаков или стеганографических подписей в генерируемый медиа‑контент, анализ входных запросов на намерение вреда, и разработка моделей так, чтобы по умолчанию снижать фотореализм для образов, явно помеченных как «реальные» люди. Организационные и политические меры: ограничение доступа к мощным моделям через API (KYC, тарифы, лимиты), обязательная модерация/человеко‑в‑петле для новых или рискованных случаев, прозрачные политики использования и отчёты о злоупотреблениях, сотрудничество с платформами распространения (чтобы удалять или помечать опасный контент), а также поддержка независимых аудитов и программ баг‑баунти для поиска обходов. Правовые и координационные шаги: стандартизация метаданных происхождения (provenance), государственные нормы, требующие маркировки синтетического контента, международные соглашения по ответственности и механизмы быстрого реагирования на массовые злоупотребления; также нужно инвестировать в исследование детекторов дипфейков и обмен датасетами для тестирования. Почему компании до сих пор позволяют генерировать реальные или похожие лица: современные генеративные модели обучаются на огромных корпусах изображений из веба и по своей природе обобщают — технически трудно и дорого «вырезать» все реальные лица без существенного ухудшения качества и функциональности. Существует высокий пользовательский спрос на фотореализм и сценарии, которые считаются «добросовестными» (кино, реклама, дизайн), а жёсткие запреты приводят к риску ложных срабатываний и ущемлению свободы творчества. Кроме того, правовые рамки и отраслевые стандарты ещё формируются, поэтому компании балансируют между коммерческими интересами, удобством для пользователей и безопасностью. Практические рекомендации в приоритетном порядке: 1) ввести по умолчанию режим «без реальных лиц» и позволять включение фотореализма только после проверок; 2) встраивать устойчивые метки происхождения в модели и их выходы; 3) ограничивать доступ к самым мощным моделям через проверку пользователей и мониторинг; 4) публиковать model cards и проводить независимые аудиты; 5) работать с регуляторами и платформами над стандартами маркировки и быстрых процедур удаления вредного контента. Это сочетание мер уменьшит вероятность массовых злоупотреблений и одновременно оставит пространство для законных применений и исследований, при условии постоянного обновления защиты в ответ на новые обходы и эволюцию угроз.

Grok 4.20

Answer: ИИ-компаниям нужно внедрить жёсткие этические фильтры, запрещающие генерацию реалистичных изображений реальных людей, и активно развивать технологии обнаружения и маркировки deepfake-контента.

Основная угроза deepfakes заключается в подрыве доверия к визуальной информации, что может привести к политическим манипуляциям, мошенничеству и вреду репутации. Компании должны в первую очередь обучать модели отказывать в запросах на генерацию известных личностей, используя как семантические фильтры на уровне промптов, так и проверку на сходство с лицами из базы данных. Почему это до сих пор разрешено? Многие image-модели обучены на огромных датасетах, включающих публичные изображения знаменитостей, и полное исключение таких данных технически сложно без потери качества. Кроме того, конкуренция между компаниями заставляет сохранять максимальную свободу генерации, чтобы не отпугнуть пользователей, которые хотят «поиграть» с образами звёзд. Однако это не оправдание. Решением может стать многоуровневая защита: обязательное встраивание невидимых водяных знаков в каждый сгенерированный файл, открытый API для проверки подлинности и сотрудничество с регуляторами для создания отраслевых стандартов. Только сочетание технических ограничений и прозрачности позволит минимизировать риски, не останавливая прогресс.

O3

Answer: Чтобы снизить угрозу дипфейков, ИИ-компаниям необходимо технически и нормативно заблокировать несанкционированную генерацию изображений реальных людей и сопровождать любой вывод модели проверяемыми метаданными-подписями.

1. Масштаб риска. Дипфейки уже применяются для шантажа, манипуляций на выборах и финансового мошенничества; предотвратить их легче на уровне создателей моделей, чем постфактум у правоохранителей. 2. Технические меры при обучении. • Удалять из обучающих наборов портреты людей, чьи права не были явно лицензированы. • Закладывать в архитектуру «лицевой освободитель» (face-unlearning) — модуль, который блокирует вывод, если эмбеддинг запроса совпадает с защищённой галереей-«стоп-листом». • При генерации автоматически встраивать криптографическую водяную метку (C2PA, SynthID), чтобы любой получатель мог проверить происхождение кадра. 3. Контроль на этапе запроса. • KYC для пользователей, желающих работать с лицами: предъяви документ и контракт, подтверждающий согласие актёра или правообладателя. • Политика «non-public figure by default» — модель выдаёт ошибку, если распознала в промпте или референс-изображении знаменитость, пока не получено явное разрешение. 4. Пост-детекция и экосистема. • Делиться хеш-базами с соцсетями и СМИ, чтобы алгоритмы детектировали поддельный контент за миллисекунды. • Выпускать открытые отчёты об эффективности фильтров и количестве заблокированных запросов; это повышает доверие и позволяет независимому аудиту. 5. Правовые и экономические рычаги. • Лицензионные соглашения с актёрами или их агентами, роялти за каждое использование образа, штрафы за нарушение. • Поддержка законодательных инициатив о «праве на биометрический образ» и о презумпции фальсификата при отсутствии проверяемой метки. 6. Почему пока разрешают генерировать знаменитостей. • Нерелизованные датасеты: публичные фото звёзд составляют значительную долю web-кормов, и фильтрация по миллиардам изображений технически затратна. • Серый правовой фон: в большинстве стран пародия и фан-арт законны, поэтому компании опасаются чрезмерной цензуры. • Маркетинговый спрос: пользователи демонстрируют продукт именно на «узнаваемых» лицах, а жёсткие блоки ведут к оттоку к менее ответственным конкурентам. • Фильтры первого поколения дают много ложных срабатываний, портя UX; поэтому стартапы склонны выпускать «мягкие» политики и дообучать фильтры уже на боевых данных. 7. Баланс интересов. Полное запрещение любых likeness-моделей нереалистично, но индустрия обязана минимизировать злоупотребления комбинацией чётких UX-барьеров, открытых водяных меток и договорного регулирования — иначе инициативу возьмут правительства, вводя куда более жёсткие запреты.

GPT-5.5

Answer: ИИ-компании должны по умолчанию запрещать фотореалистичную генерацию реальных людей без согласия, внедрять надежную маркировку и происхождение контента, а также не перекладывать проблему дипфейков на пользователей и общество.

Чтобы обезопасить мир от дипфейков, одних дисклеймеров и постфактум-модерации недостаточно. Нужен подход «безопасность по умолчанию»: модели не должны позволять создавать фотореалистичные изображения, видео или голос конкретного живого человека без его явного согласия, особенно если речь идет о политиках, журналистах, актерах, бизнесменах, общественных деятелях и частных лицах. ИИ-компании должны внедрять несколько уровней защиты одновременно. Во-первых, блокировать запросы на имитацию реальных людей в чувствительных контекстах: политика, сексуальный контент, преступления, насилие, реклама, финансовые советы, медицинские заявления. Во-вторых, использовать устойчивую provenance-инфраструктуру: C2PA-подписи, криптографические метки, журналы генерации и проверяемые сведения о том, каким инструментом создан файл. В-третьих, развивать детекторы, но не делать на них главную ставку, потому что детекция всегда будет отставать от генерации. Также нужны механизмы согласия и лицензирования: если актер, политик или инфлюенсер разрешает использование своего образа, это должно быть явно зафиксировано, ограничено по контекстам и отзывно. Для всех остальных генерация «как реальный человек X» должна быть недоступна либо переводиться в безопасный режим: стилизованное изображение, пародия без фотореализма, вымышленный персонаж с похожей общей эстетикой, но без узнаваемого лица. Почему компании всё ещё позволяют генерировать известных людей? Главная причина — конкуренция и продуктовая привлекательность. Пользователи хотят «сделай Илона Маска в стиле киберпанк» или «папу римского в пуховике», такие примеры становятся вирусными и демонстрируют силу модели. Для компаний это рост, вовлеченность и маркетинг. Есть и техническая причина: модели обучались на огромных массивах публичных изображений, где известные лица представлены тысячами раз, поэтому они легко воспроизводятся даже без явной команды. Но «технически возможно» не значит «социально допустимо». Известные люди более уязвимы к масштабному ущербу: фейковым заявлениям, манипуляциям на выборах, биржевым слухам, шантажу, репутационным атакам. А нормализация генерации знаменитостей постепенно снижает барьер и для дипфейков обычных людей. Оптимальный стандарт такой: разрешать сатиру, искусство и общественно значимые реконструкции, но с ограничениями — без обмана аудитории, с явной маркировкой, без имитации реального события и без коммерческого или политического злоупотребления. Всё, что выглядит как реальное фото или видео реального человека и может быть принято за документальный материал, должно требовать согласия или быть заблокировано.

Arcee Trinity Thinking

Answer: Для защиты от дипфейков AI-компании обязаны внедрять этические руководства, технические барьеры и запрещать генерацию реальных известных личностей без согласия, прекращая нынешние либеральные практики.

Дипфейки представляют значительные риски для отдельных людей и общества, включая распространение дезинформации, мошенничество и ущерб репутации. AI-компании несут моральную и социальную ответственность за смягчение этих последствий. Чтобы защитить мир, они должны принять комплексные стратегии: во-первых, установить четкие этические нормы, запрещающие генерацию обликов реальных людей без согласия; во-вторых, разработать и внедрить технические средства защиты, такие как цифровое водяное знаки, протоколы аутентификации и ограничения доступа; в-третьих, инвестировать в инструменты обнаружения для идентификации и маркировки контента с дипфейками. Кроме того, важна прозрачность в отношении возможностей и ограничений моделей. Что касается того, почему компании все еще позволяют генерировать реальных известных личностей, это часто связано с акцентом на инновации в ущерб безопасности, конкурентным давлением на предоставление неограниченных творческих инструментов и недостаточными нормативными рамками. Некоторые утверждают, что такая генерация способствует творчеству или технически сложна для идеальной фильтрации. Однако потенциальный вред перевешивает эти оправдания. AI-компании должны ставить во главу угла этические соображения и безопасность пользователей, сотрудничая с политиками, исследователями и гражданским обществом для установления отраслевых стандартов. Только посредством упреждающих мер мы можем использовать преимущества ИИ, минимизируя его опасности.

GPT-5.2

Answer: ИИ-компаниям нужно внедрять проверяемую маркировку происхождения контента, жёсткие политики по публичным персонам и масштабируемое обнаружение/удаление, потому что одних “запретов в промптах” недостаточно, а разрешение на генерацию известных лиц сохраняют из‑за спроса, конкурентного давления и сложности точного правоприменения.

Чтобы реально снизить вред от дипфейков, меры должны быть не точечными (только фильтры запросов), а системными и проверяемыми. 1) Встроенное происхождение и подлинность (provenance). Компании должны по умолчанию встраивать в изображения/видео криптографически проверяемые метаданные о происхождении (например, по стандартам C2PA), а также устойчивые водяные знаки, которые можно обнаружить даже после сжатия/кропа. Важно, чтобы была публичная проверка (в том числе офлайн) и понятные индикаторы в продуктах и на платформах. 2) Политика по “реальным известным личностям” и согласие. Нужны чёткие правила: генерация “реальных известных личностей” должна быть либо запрещена по умолчанию, либо разрешена только в узких сценариях (сатирическая карикатура/биографическая иллюстрация/новостной контекст) с обязательной маркировкой и без сексуального/клеветнического/политически манипулятивного применения. Ключевой элемент — режим согласия: для живых людей (и особенно для частных лиц) должен действовать opt-in (явное разрешение) или, как минимум, быстрый и эффективный opt-out с верификацией личности. 3) Технические ограничения, которые сложнее обойти. Помимо фильтров промптов нужны: распознавание и блокировка по “face-embedding” (похоже на “реальная известная личность” даже без имени в запросе), ограничения на загрузку референсов (например, запрет на загрузку фото известных людей для стилевого/лицевого переноса), а также мониторинг массового злоупотребления (бот-сети, серийные генерации). Это должно сопровождаться красными командами, тестированием обходов и регулярным обновлением защит. 4) Инфраструктура обнаружения и реагирования. Компании должны предоставлять детекторы и API для платформ/СМИ, иметь прозрачный процесс takedown, сотрудничать с соцсетями и журналистскими организациями, публиковать отчёты о злоупотреблениях (transparency reports) и данные об эффективности мер (ложные срабатывания/пропуски). 5) Правовые и продуктовые меры. В интерфейсе — явные предупреждения, запретные категории, логирование и трассируемость генераций (с учётом приватности), санкции за повторные нарушения. Снаружи — поддержка регулирования: ответственность за распространение вредных дипфейков, стандарты маркировки, безопасные “исключения” для исследований. Почему же в image-моделях до сих пор позволяют генерировать “реальных известных личностей”: — Спрос и легитимные сценарии. Пользователи хотят иллюстрации для новостей, образования, пародии, фан-арта, рекламы и дизайна; компании боятся “перерезать” крупный пласт кейсов и проиграть рынку. — Конкурентное давление и арбитраж по площадкам. Если одна компания введёт строгий запрет, часть аудитории уйдёт к менее ограниченным сервисам (включая open-source или зарубежные), поэтому у игроков возникает стимул смягчать правила. — Техническая неоднозначность. Точно определить, что изображение “похоже” на конкретного человека, сложно: похожие лица, стилизация, возрастные изменения, грим, а также риск дискриминационных ошибок (разные группы распознаются с разной точностью). Слишком жёсткие блокировки дают много ложных отказов. — Риск “эффекта Стрейзанд” и обходов. Запрет по имени часто легко обходится описаниями (“актёр из…”, “миллиардер, основатель…”), а жёсткая блокировка может лишь повысить ценность запрещённого контента на подпольном рынке. — Неполное регулирование и разная правовая среда. В одних юрисдикциях права на образ/публичность сильнее, в других слабее; компании балансируют риск судебных исков, свободу выражения и требования разных стран. Вывод: реальная защита от дипфейков требует сочетания (а) проверяемой маркировки происхождения, (б) строгих и исполнимых правил по публичным персонам и согласия, (в) устойчивых технических барьеров и (г) быстрого реагирования и сотрудничества с платформами; иначе дипфейки будут оставаться дешёвыми и массовыми, а ограничения — легко обходить.

Sonar Reasoning Pro

Answer: Ответственные ИИ‑компании должны сочетать технические ограничения (watermark, детекторы, блокировка реалистичных лиц) с прозрачностью, правовым регулированием и изменением бизнес‑инцентивов, а нынешние разрешения на генерацию знаменитостей объясняются смесью технической сложности, коммерческой конкуренции и правовой неоднозначности вокруг пародии и творчества.

Если цель — реально снизить вред от дипфейков, одних запретов в интерфейсе мало; нужны параллельно и технологии, и политика, и регуляция. 1. Что именно могут и должны делать ИИ‑компании • Ограничение реалистичных лиц по умолчанию. – Блокировать запросы на гиперреалистичные изображения реальных людей (особенно политиков, селебрити, частных лиц) в компрометирующих, насильственных или сексуализированных сценариях. – Переводить такие запросы в карикатурный/иллюстративный стиль или предлагать абстрактных персонажей. – Отдельно защищать уязвимые группы (дети, жертвы насилия и т.п.). • Встроенный watermark и C2PA‑метки. – Встраивать в каждое сгенерированное изображение устойчивый невидимый watermark + открыто публиковать спецификацию или хотя бы API для проверки. – Поддерживать стандарты происхождения контента (C2PA/Content Credentials), чтобы любой пользователь/платформа могли увидеть: «это сгенерировано моделью X, запрос Y, дата Z». – Важно: watermark — не «серебряная пуля» (можно удалить при сильной обработке), но он сильно облегчает массовую проверку и модерацию. • Универсальные детекторы дипфейков. – Разрабатывать и публиковать (включая open‑source‑версии) детекторы синтетики: не только для «своей» модели, но и обученные на множестве моделей и техник. – Регулярно обновлять их, как антивирусные базы: злоумышленники будут подстраиваться. – Делать простые плагины/боты для СМИ, соцсетей и обычных пользователей, чтобы проверить подозрительное изображение/видео. • Жёсткие политики использования и аудит. – Вводить «красные линии» в Terms of Use: запрет на дипфейки в политике, порнографии, дискредитации конкретных людей, вымогательстве, травле. – Не ограничиваться бумажным запретом: логирование, аномалия‑детекторы, выборочные проверки, система страйков и банов. – Для продвинутых платных API — KYC/идентификация крупных клиентов, чтобы злоупотребления было проще отследить юридически. • Датасеты и согласие. – Минимизировать использование несанкционированных изображений людей, особенно из приватных источников. – Предоставлять механизмы opt‑out: чтобы человек мог потребовать не использовать его изображения для обучения. – Не тренировать модели на порнографических/насильственных дипфейках, очевидно незаконных или заведомо вредоносных наборах. • Кооперация с государством, платформами и НКО. – Участвовать в разработке законов об обязательной маркировке синтетики и ответственности за вред от дипфейков (клевета, шантаж, вмешательство в выборы и т.п.). – Согласовывать API и протоколы обмена сигналами о вредоносном контенте с соцсетями, мессенджерами, медиа. – Финансировать независимые исследования по влиянию дипфейков и эффективности мер защиты. 2. Почему же многие image‑модели всё ещё позволяют генерировать знаменитостей • Коммерческий запрос и конкуренция. – Пользователи активно хотят «сфоткаться с Илон Маском» или «нарисовать Бейонсе в стиле аниме», и это один из драйверов популярности. – Если одна компания это запрещает, а другие — нет (особенно в open‑source‑среде), часть аудитории утекает к менее ответственным игрокам. • Правовая неоднозначность. – В разных странах разные режимы: где‑то образы публичных персон можно использовать в пародии и сатире довольно свободно (fair use, freedom of expression), пока нет явной клеветы/порнографии/рекламы без согласия. – Разработчикам сложно провести тонкую грань: невинный фан‑арт и мем против манипулятивного фейка. На уровне автоматических фильтров это почти неотличимо. • Техническая сложность жёсткой блокировки лиц. – Чтобы «не давать рисовать известных людей», модель нужно снабдить встроенным распознаванием лиц и базой этих лиц. – Это само по себе создаёт серьезные вопросы приватности и может давать массу ложных срабатываний (похожая внешность, косплей, исторические персонажи, близкие по стилю портреты и т.п.). – Жёсткие фильтры нередко ломают много легитимных сценариев: журналистские иллюстрации, обучающие материалы, политическую сатиру, art‑проекты. • Разрыв между «витриной» и реальностью. – На публичных демо и у крупных западных игроков (OpenAI, Google, Adobe) уже довольно строгие запреты на политиков, порно‑контент, «реалистичных» знаменитостей в ряде контекстов. – Но в менее регулируемых или локальных сервисах (а также через взломанные/модифицированные фронтенды к открытым моделям) эти ограничения легко обходятся. – Даже если одна компания работает ответственно, открытые модели и форки без ограничений продолжают позволять практически всё. • Культура «технология нейтральна». – В части сообщества по‑прежнему силён подход: «мы всего лишь предоставляем модель, ответственность за использование — на пользователях». – Это облегчает совесть и позволяет сосредоточиться на качестве/скорости/красоте генерации, а не на сложных этических дилеммах. 3. Реалистично ли полностью запретить дипфейки знаменитостей – Полностью технически «закрыть» дипфейки, особенно с учётом open‑source‑моделей и вычислений у пользователя, уже вряд ли возможно. – Но можно сильно повысить их стоимость и риски: жесткая маркировка, массовые детекторы, юридическая ответственность и модерация платформ уменьшают эффект от вредоносных дипфейков и делают их менее привлекательным инструментом. В итоге от ИИ‑компаний разумно ожидать не волшебной кнопки «без дипфейков», а системного набора мер: поменьше возможностей для злоупотреблений по умолчанию, побольше прозрачности и проверяемости, плюс готовность не жертвовать безопасностью и репутацией ради максимального охвата и роста.

Sonar Pro

Answer: Чтобы снизить угрозу дипфейков, ИИ‑компаниям нужны обязательные водяные знаки и детекторы, строгие запреты на генерацию реальных людей по умолчанию, прозрачные правила и ответственность, но многие из них по инерции всё ещё допускают генерацию знаменитостей из‑за коммерческой конкуренции, слабого регулирования и неоднозначных общественных ожиданий.

С точки зрения безопасности и доверия к информации в обществе, базовая обязанность ИИ‑компаний — не только развивать модели, но и проектировать вокруг них защитный «контур»: технический, юридический и социальный. 1. Что ИИ‑компании должны делать, чтобы обезопасить мир от дипфейков 1) **Встроенная защита в сами модели** - **Запрет по умолчанию** на генерацию реалистичных изображений реальных людей (политиков, знаменитостей, обычных граждан) без их явного согласия. Технически это реализуется через фильтры в промптах и через «блок‑лист» лиц. - **Ограничение реализма** в чувствительных сценариях: например, для политического контента, новостей, порнографии, насилия — снижать фотореализм, делать стилизацию под рисунок/комикс. - **Обязательные метки (watermarking)**. В каждое сгенерированное изображение/видео — скрытый технический водяной знак, который тяжело убрать, и который позволяет алгоритмически доказать, что картинка создана ИИ. - **Распознаватели дипфейков**. Те же компании, которые создают генеративные модели, должны параллельно развивать открытые инструменты для проверки подлинности изображений и видео (API и бесплатные сервисы), чтобы медиа, соцсети и обычные люди могли быстро проверять подозрительный контент. 2) **Инфраструктура доверия к реальным изображениям** - Поддержка стандартов вроде **Content Authenticity Initiative / C2PA**: когда смартфоны, камеры и редакторы записывают «историю файла» (кто снял, когда, какие изменения вносились). - Партнёрства с крупными платформами (YouTube, соцсети, новостные порталы): автоматическое считывание метаданных и водяных знаков, пометка «создано ИИ» и/или «подлинность не подтверждена». 3) **Политика и модерация** - Чёткие **запреты в пользовательских правилах**: не разрешать создание дипфейков реальных людей без их согласия, особенно в контекстах секса, политики, клеветы, мошенничества. - **Санкции** за нарушения: блокировка аккаунтов, запрет доступа к API, уведомление площадок, где контент распространяется. - Создание **канала жалоб**: чтобы жертвы дипфейков могли быстро требовать удаления контента и блокировки источника. 4) **Прозрачность и аудит** - Публиковать отчёты о том, как обучены модели, как фильтруется контент, какие есть ограничения. - Проводить независимые аудиты безопасности и злоупотреблений: чтобы внешние эксперты проверяли, насколько легко обойти фильтры и сделать дипфейк. - Встраивать тестирование на «наихудшие сценарии»: целенаправленно пытаться сгенерировать вредные дипфейки и на основе этого улучшать защиту. 5) **Работа с государством и обществом** - Поддерживать **законодательные стандарты**: обязательная маркировка ИИ‑контента, ответственность за распространение вредных дипфейков (клевета, вмешательство в выборы, мошенничество). - Обучать пользователей: кампании про то, как распознавать дипфейки, почему нельзя верить любому видео и как проверять источники. 2. Почему многие image‑модели всё ещё позволяют генерировать реальных известных людей 1) **Коммерческая конкуренция и запрос пользователей** Многие люди прямо хотят «сфотографироваться» c знаменитостью или сделать мем с политиком. Компании боятся быть «слишком ограничительными» по сравнению с конкурентами: если один сервис запрещает знаменитостей, пользователь уйдёт туда, где «можно всё». Это создаёт гонку вниз по ограничениям, пока нет чётких правил сверху (законов и отраслевых стандартов). 2) **Проблема границ: кто считается «известной личностью»?** Чётко определить, кто «public figure», сложно: это не только мировые селебрити, но и блогеры, локальные политики, лидеры мнений. Автоматические системы распознавания лиц и списки нарушимы и неполны. Поэтому многие компании вводят только частичные запреты — например, на явные злоупотребления (порнография, насилие, политическая агитация), а не на любую генерацию с лицами знаменитостей. 3) **Неполное и разнородное регулирование** В разных странах разные законы о праве на изображение, диффамации, политической рекламе. Универсального глобального стандарта пока нет. Пока законодательство не требует жёстких запретов и не вводит серьёзную ответственность, часть компаний выбирает «мягкий» режим: минимальные фильтры и формальные запреты в пользовательском соглашении. 4) **Баланс между свободой творчества и рисками** Есть аргумент: «использование лица знаменитости в сатире, фан‑арте, пародии — часть свободы выражения». Компании боятся «задушить» законное культурное и художественное использование. В результате ограничения делают точечными (запрет откровенно вредных сценариев), а не тотальными (полный бан всех изображений с реальными людьми). 5) **Техническая сложность полного запрета** Даже если запретить генерацию по запросу типа «сделай фото Барака Обамы», пользователь может обойти это завуалированными описаниями («44‑й президент США», «бывший президент с характерными большими ушами и…»). Для надёжной блокировки нужен либо постоянный онлайн‑распознаватель лиц в выходных изображениях (дорого, не идеально и риск приватности), либо жёсткие архитектурные решения при обучении (например, совсем не обучать модель на лицах известных людей, что ухудшает качество и реализм в целом). 6) **Индустрия ещё только вырабатывает нормы** Технология развивается быстрее, чем этические и правовые рамки. Как и в случае с соцсетями, сначала «всё можно», а затем под давлением скандалов, медиа и законодателей вводятся ограничения. Уже видно движение: крупные игроки всё чаще блокируют политический дипфейк‑контент и порнографические дипфейки с реальными людьми, вкладываются в водяные знаки и детекторы. Но до строгого отраслевого стандарта пока далеко. 3. К чему это ведёт и что может требовать общество Если ИИ‑компании будут продолжать позволять генерацию реалистичных образов реальных людей без жёстких ограничений, нас ждут: рост клеветы, шантажа, политических манипуляций, подрыв доверия к фото и видео как доказательству. Поэтому от них можно и нужно требовать: - по умолчанию **запретить фотореалистическую генерацию реальных людей** без согласия; - сделать **обязательными водяные знаки и открытые детекторы**; - сотрудничать с государствами и платформами для ввода **общих стандартов маркировки и ответственности**; - развивать **просветительские программы**, чтобы люди умели критически относиться к визуальному контенту. Кратко: технические средства (водяные знаки, детекторы, фильтры) должны идти рука об руку с политикой, правом и образованием — иначе одними лишь «призывами к ответственности» дипфейковую проблему не решить.

Claude Opus 4.7

Answer: ИИ-компании должны внедрить криптографическую маркировку контента (C2PA), запретить генерацию узнаваемых реальных людей без верифицированного согласия и нести юридическую ответственность за вред от дипфейков — а генерация знаменитостей всё ещё разрешена потому, что это коммерчески выгодно и регуляторно дёшево.

Технический минимум, который индустрия обязана сделать уже сейчас, состоит из нескольких слоёв. Первое — обязательная криптографическая подпись происхождения (стандарт C2PA/Content Credentials), невидимые и видимые водяные знаки (как SynthID от Google DeepMind), плюс публичные API для проверки. Второе — фильтры на этапе обучения и инференса: распознавание лиц публичных персон в промптах и выходах, блокировка генерации в чувствительных контекстах (политика, порнография, насилие, финансовые мошенничества). Третье — KYC для пользователей, делающих кастомные LoRA/файнтюны с реальными людьми, и обязательное согласие субъекта. На уровне политики нужна совместная отраслевая база данных известных лиц (как PhotoDNA для CSAM), обмен сигналами о злоупотреблениях, red-teaming с независимыми аудиторами и прозрачные отчёты. Платформам распространения (соцсетям) — обязанность считывать метки происхождения и помечать синтетический контент. Теперь о том, почему этого до сих пор нет в полной мере. Причины прагматичные, а не технические: (1) генерация знаменитостей — один из главных драйверов вовлечённости и виральности, то есть денег; (2) в большинстве юрисдикций нет чёткого закона, приравнивающего дипфейк к ущербу — компании действуют по принципу «разрешено всё, что прямо не запрещено»; (3) фильтры по именам легко обходятся описаниями внешности, и компании используют это как оправдание «мы старались»; (4) обучающие датасеты (LAION и подобные) уже содержат миллионы фото публичных людей, и переобучение моделей стоит десятки миллионов долларов; (5) есть конкурентное давление — если Stability или xAI разрешают, закрытые игроки теряют долю рынка. По сути, отрасль ждёт регулирования (EU AI Act, китайские правила о синтетическом контенте), потому что добровольно никто не хочет первым ограничивать продукт. Решение асимметрично: техника уже готова, не хватает экономических и правовых стимулов — поэтому ключевой рычаг это законодательная ответственность платформ-генераторов, а не только распространителей.

Claude Opus 4.6

Answer: ИИ компании должны внедрять обязательную маркировку сгенерированного контента, ограничивать генерацию реальных лиц и инвестировать в инструменты детекции, а продолжающаяся возможность генерировать известных личностей объясняется сочетанием технической сложности, коммерческих интересов и недостаточного регулирования.

Проблема дипфейков — одна из самых острых на стыке технологий и этики. Рассмотрим обе части вопроса. **Что должны делать ИИ компании:** 1. **Обязательные водяные знаки и метаданные.** Каждое сгенерированное изображение должно содержать невидимую, но криптографически верифицируемую метку (например, стандарт C2PA/Content Credentials). Это позволяет любому проверить происхождение контента. Компании вроде Google, Microsoft и Adobe уже движутся в этом направлении, но стандарт должен стать универсальным и обязательным. 2. **Технические ограничения на генерацию реальных лиц.** Модели должны иметь встроенные классификаторы, которые распознают запросы на генерацию конкретных публичных персон и блокируют или ограничивают такие запросы. Это сложно, но возможно — так же, как модели уже фильтруют NSFW-контент. 3. **Инвестиции в детекцию.** Компании, создающие генеративные модели, несут моральную ответственность за финансирование и открытое распространение инструментов детекции дипфейков. Это должно быть пропорционально масштабу проблемы. 4. **Сотрудничество с регуляторами и платформами.** Необходимы отраслевые стандарты, участие в законодательных инициативах и интеграция с социальными сетями для автоматической проверки контента. 5. **Системы отчётности и быстрого реагирования.** Должны существовать механизмы, позволяющие пострадавшим быстро добиться удаления дипфейков и идентификации их создателей. **Почему компании всё ещё позволяют генерировать реальных людей:** 1. **Техническая сложность.** Модели обучены на миллиардах изображений из интернета, включающих фотографии знаменитостей. Полностью «выучить» модель забывать конкретные лица — нетривиальная задача. Методы machine unlearning существуют, но они несовершенны и могут ухудшать общее качество модели. 2. **Коммерческий интерес.** Способность генерировать реалистичные изображения известных людей — мощный маркетинговый аргумент. Пользователи хотят эту функциональность для мемов, фан-арта, пародий, что создаёт спрос. 3. **Размытые правовые рамки.** В большинстве юрисдикций нет чётких законов, обязывающих компании блокировать генерацию изображений публичных лиц. Без юридического давления компании не спешат добровольно ограничивать свои продукты. 4. **Open-source дилемма.** Даже если крупные компании введут ограничения, открытые модели (Stable Diffusion, FLUX и др.) доступны для любого. Это создаёт аргумент «если мы не позволим — другие позволят», который компании используют как оправдание бездействия. 5. **Гонка вооружений.** Компании конкурируют за качество и возможности моделей. Ограничения воспринимаются как конкурентный недостаток. В итоге решение проблемы требует комплексного подхода: технических мер (маркировка, фильтрация), регуляторного давления (законы об обязательной маркировке и ответственности), образовательных инициатив (медиаграмотность населения) и коллективных отраслевых стандартов. Ни одна мера в отдельности не будет достаточной.

Gemma 4 31B

Answer: ИИ-компании должны внедрить многоуровневую систему защиты, сочетающую криптографические водяные знаки, строгие фильтры контента и общеотраслевые стандарты прозрачности, при этом признавая сложность полной блокировки известных личностей из-за технических ограничений и борьбы за творческую свободу.

Для защиты мира от дипфейков недостаточно простого запрета на определенные слова в запросах. Ключевым решением является внедрение стандартов происхождения контента (например, C2PA), которые позволяют автоматически определять, был ли файл создан или изменен ИИ. Создание «цифрового паспорта» изображения делает ложь более очевидной для браузеров и социальных сетей. Кроме того, компаниям необходимо инвестировать в развитие инструментов детекции, которые будут доступны широкой публике, и развивать культуру критического мышления пользователей, чтобы люди перестали воспринимать любое изображение как неоспоримое доказательство. Что касается генерации известных личностей, здесь существует несколько причин, почему это до сих пор возможно: Во-первых, существует техническая сложность «черных списков». База известных людей постоянно меняется, а пользователи находят способы обхода фильтров через метафоры или смешивание имен (prompt engineering). Полная блокировка требует избыточного контроля, который может привести к ложноположительным срабатываниям. Во-вторых, есть вопрос конкуренции. Если закрытые модели (вроде DALL-E или Midjourney) будут слишком жестко ограничены, пользователи просто перейдут на открытые модели (например, Stable Diffusion), которые можно запустить локально без каких-либо цензурных фильтров. Это сделает ситуацию хуже, так как контроль над генерацией пропадет совсем. В-третьих, компании пытаются сбалансировать безопасность и творческую свободу. Сатира, фан-арт и концептуальное искусство часто требуют использования образов известных людей. Полный запрет лишил бы инструменты значительной части их функциональности и привлекательности для креативного сообщества.

Kimi K2.5 Fast

Answer: Компаниям ИИ необходимо внедрить многоуровневые технические ограничения, цифровое маркирование контента и строгие правовые рамки, чтобы минимизировать риски дипфейков, сохраняя при этом баланс с творческими свободами.

Компании ИИ сталкиваются с комплексной задачей балансирования между безопасностью и полезностью технологий. Для защиты от дипфейков необходимы надежные технические меры: фильтрация обучающих данных для снижения запоминания конкретных лиц, алгоритмы реального времени, отказывающие в генерации идентифицируемых реальных персон, и невидимое маркирование (по стандартам вроде C2PA) для отслеживания ИИ-контента. Однако полная предотвращение технически сложна из-за распространения открытых моделей и джейлбрейков. Компании всё ещё позволяют генерацию известных личностей отчасти потому, что строгие запреты технически сложно реализовать — модели можно дообучить или обойти ограничения через креативные промпты. Кроме того, существуют законные сценарии использования: сатира, политический комментарий, образовательные реконструкции и художественное выражение, попадающие под fair use в многих юрисдикциях. Чрезмерно агрессивная фильтрация может блокировать безобидный контент или создавать ложноположительные срабатывания. Решение заключается не в полном запрете, а в подотчётности: чёткая маркировка ИИ-контента, системы верификации пользователей, механизмы быстрого удаления неприемлемых изображений (особенно неприемлемого интимного контента) и юридическая ответственность за злонамеренное использование. Необходимы отраслевые стандарты и регуляторное соответствие (например, Закон об ИИ ЕС), поскольку односторонние ограничения одной компании просто перенаправляют злоупотребления к менее скрупулёзным конкурентам или открытым альтернативам.

GPT-5.1

Answer: Чтобы реально снизить угрозу дипфейков, ИИ‑компаниям нужно одновременно усиливать защиту (детекция и водяные знаки, верификация контента, ограничения на генерацию лиц), менять дизайн и политику моделей и активно сотрудничать с государством и платформами, а сохранение возможности генерировать реальных знаменитостей сейчас — результат компромисса между коммерческими интересами, незрелым регулированием и техническими/юридическими сложностями тотального запрета.

Разделю ответ на две части: что нужно делать компаниям и почему ограничения до сих пор половинчатые. 1. Что конкретно должны делать ИИ‑компании 1.1. Технические меры против дипфейков - Встраивать обязательные **криптостойкие водяные знаки** в каждое сгенерированное изображение/видео. - Они должны быть невидимыми, устойчивыми к обрезке, сжатию, цветокоррекции. - Открытые стандарты (например, C2PA) важны, чтобы любые платформы могли проверять подлинность. - Развивать и открыто публиковать **детекторы дипфейков**, обученные на реальных примерах злоупотреблений. - Детекторы должны регулярно обновляться, как антивирусы, потому что генераторы быстро улучшаются. 1.2. «Контентная» безопасность самих моделей - **Строгие фильтры генерации лиц**: - Запрет или сильные ограничения на генерацию реальных политиков, лидеров, журналистов, судей, чиновников, военных — особенно в контекстах насилия, порнографии, преступлений, «скандалов». - Отдельный, более либеральный режим (по желанию) для артистов/селебрити в нейтральных и явно фантазийных контекстах (например, «как супергерой в комикс‑стиле»), но с явной пометкой «AI‑генерация». - **Ограничения на deepfake‑сторителлинг**: - Триггеры по запросам типа «сделай видео, где X говорит Y» или «X признаётся в преступлении» должны блокироваться или требовать явной маркировки. - **Безопасные промпт‑фильтры и модерация**: - Списки защищённых персон (политики, активисты, уязвимые группы), по которым модель автоматически отказывает в опасных сценариях. - Учёт контекста: «рисунок в стиле карикатуры» ≠ «фотореалистичное видео компромата». 1.3. Маркировка и прозрачность - **Обязательная маркировка AI‑контента**: - Видимый лейбл (иконка/надпись «AI‑generated») + невидимый водяной знак. - API, позволяющее соцсетям и СМИ автоматически определять, что контент — сгенерирован. - **Прозрачная политика**: - Ясно и на простом языке объяснять пользователям: что можно, что нельзя, какие есть риски, как проверять подлинность. - Публичные отчёты о злоупотреблениях (как отчёты о модерации у соцсетей). 1.4. Организационные и правовые шаги - **KYC/валидация для чувствительных функций**: - Для инструментов, которые позволяют менять лицо на видео, — доступ только для верифицированных аккаунтов с журналированием действий. - **Логирование и аудит**: - Сохранять анонимизированные логи подозрительных запросов и генераций, чтобы при явных нарушениях можно было помочь расследованию (в рамках закона и при защите приватности). - **Сотрудничество с платформами и государством**: - Общие «чёрные списки» известных дипфейков, шаблонов атак. - Участие в разработке законов (например, обязательная маркировка политического дипфейк‑контента, ответственность за массовое распространение подделок). 2. Почему до сих пор можно генерировать реальных известных людей 2.1. Конфликт коммерческих интересов и безопасности - Запросы вида «нарисуй Криштиану Роналду в стиле аниме» или «сделай постер с Тейлор Свифт как космонавт» — массовые и популярные. - Полный запрет на генерацию знаменитостей ощутимо снижает привлекательность продуктов, особенно для маркетинга, мемов, фан‑арта, креативной индустрии. - В итоге компании выбирают **«мягкие фильтры»**: запрещают откровенно токсичные сценарии (насилие, порнография, преступления), но оставляют «безопасные» использования, хотя граница между ними размыта. 2.2. Юридическая неопределённость - В разных странах по‑разному регулируются: - право на изображение, право на публичность, - допустимость пародии, сатиры, фан‑арта, - использование образа для рекламы без согласия. - Единых международных правил нет; судов по ИИ‑образу пока немного, прецеденты только формируются. - Компании боятся либо **перерегулировать** (обрубить легитимный креатив), либо получить коллективные иски позже, поэтому выбирают компромисс: «запрещаем очевидный злоумысел, остальное — серое поле». 2.3. Технические ограничения - Узнать, что пользователь хочет именно **этого** человека, не всегда просто: - запрос может быть косвенным («известный актёр, сыгравший Железного человека»), - могут быть похожие, но не идентичные лица, - есть миллионы локальных публичных персон, которых нет в справочниках. - Жёсткий запрет на любые «похожести» приведёт к: - ложным срабатываниям (запретят выдуманные лица, похожие на реальных людей), - ухудшению качества генерации людей вообще. - Поэтому используют **комбинацию списков (celeb lists) и эвристик**, которая не идеальна и периодически пропускает нежелательные сценарии. 2.4. Отстающая регуляция и отсутствие обязательных стандартов - Пока нет жёстких законов, обязывающих, например: - **по умолчанию блокировать** генерацию политиков в фотореализме, - всегда маркировать дипфейки в политической рекламе, - внедрять совместимый стандарт водяных знаков. - Многие компании действуют в режиме **саморегуляции**, а рынок всегда тянет в сторону более «свободных» моделей, особенно с учётом конкуренции с open‑source, где ограничений минимум. 2.5. Давление пользователей и креативного сообщества - Артисты, дизайнеры, маркетологи хотят использовать образы известных людей: - постеры, карикатуры, стилизации, обложки фан‑контента. - Часть этих кейсов полностью легитимна и социально полезна (сатира, искусство, образовательный контент), и полный запрет воспринимается как цензура. - Компании пытаются **сохранить эти легитимные сценарии**, при этом отлавливая вредные — задача очень сложная и пока решена не идеально. 3. Какой баланс выглядит разумным - **Для политиков, госдеятелей, журналистов и уязвимых лиц**: максимально строгие ограничения, запрет на фотореалистичные дипфейки и «речевые» инсценировки. - **Для артистов и селебрити**: разрешать только безопасные, очевидно вымышленные и неманипулятивные сценарии, с обязательной маркировкой. - **Для любого реального человека**: по умолчанию запрет на сексуализированный, унижающий и криминализирующий контент; лёгкая возможность пожаловаться и добиться блокировки генераций с его лицом. - **На уровне индустрии**: стандарты водяных знаков, общие протоколы детекции, соглашения с платформами и СМИ о приоритете проверенного контента. Итого: компании уже делают часть из этого (фильтры, модерация, начальные водяные знаки), но из‑за коммерческих стимулов, юридической неопределённости и технических ограничений они пока идут по пути компромиссов, поэтому генерация реальных знаменитостей всё ещё остаётся возможной, хотя и частично ограниченной.

Kimi K2.6

Answer: Компаниям, разрабатывающим генеративный ИИ, следует внедрить обязательную систему цифровой прослеживаемости (C2PA), строгие технические ограничения и прозрачную юридическую ответственность за вред от дипфейков, поскольку сохранение возможности генерации известных личностей отражает коммерческий интерес и сложности баланса между безопасностью и «творческой свободой».

Дипфейки реалистичных известных людей создают системные угрозы: от дезинформации и манипуляции выборами до репутационных атак и мошенничества. Чтобы минимизировать риски, компаниям необходимо внедрить обязательную техническую инфраструктуру цифрового происхождения — например, стандарты вроде C2PA для маркировки синтетического контента, — а также эффективные фильтры на этапе инференса, которые блокируют генерацию конкретных реальных личностей по запросу. Юридически производители моделей должны нести строгую ответственность за предсказуемый вред, создаваемый их продуктами, что стимулирует инвестиции в безопасность, а не только в масштабирование. Тем не менее, компании до сих пор позволяют генерировать реалистичных знаменитостей, потому что полный запрет сталкивается с серьёзными коммерческими и техническими противоречиями. Во-первых, существует высокий пользовательский спрос на «творческое» использование образов публичных персон — от сатирических мемов до фан-арта, — и агрессивная фильтрация рискует оттолкнуть платежеспособную аудиторию. Во-вторых, технически сложно надёжно отличить конкретную знаменитость от усреднённого человеческого лица или законного двойника без ложных срабатываний. В-третьих, правовой статус публичных фигур отличается от обычных граждан: в ряде юрисдикций их образы имеют ограниченную защиту, что создаёт «серую зону» для корпораций, предпочитающих избегать дорогостоящих прецедентов. Поэтому без внешнего регулирования и единых международных стандартов рыночные стимулы сами по себе не заставят компании пожертвовать охватом ради безопасности. Необходимо сочетание технических запретов на злонамеренное использование, прозрачной маркировки контента и чёткой правовой ответственности, чтобы баланс между инновациями и защитой общества сдвинулся в сторону последней.

GPT-5

Answer: Чтобы снизить вред от дипфейков, ИИ‑компаниям нужно по умолчанию блокировать фотореалистичную генерацию реальных людей, ввести универсальную маркировку/происхождение синтетики и согласованные отраслевые правила и проверки; сегодня это всё ещё дозволяется из‑за высокого спроса, технических и юридических ограничений и конкурентного давления, особенно со стороны открытых моделей.

Дипфейки подрывают доверие к медиа, угрожают выборам, репутациям и безопасности, поэтому меры должны одновременно уменьшать возможность злоупотребления и сохранять легитимные сценарии (сатиру, реконструкции событий, кино), где есть согласие и надзор. Что делать на уровне продукта и политики по умолчанию: - Блокировка: по умолчанию запрещать фотореалистичную генерацию изображений «реальных живых персон»; разрешать только стилизованные, явно синтетические варианты. - Распознавание запросов: детектировать упоминания имён и прозвищ, а также визуальные попытки «обойти» фильтры (орфографические искажения, многязычные варианты). - Верифицированные исключения: вводить безопасные белые списки с явным согласием субъекта (или его правообладателя), с журналированием и аудитом; для журналистики — отдельный, проверяемый процесс и гарантии контекстной маркировки. Происхождение и обнаружение контента: - Обязательная маркировка: подписывать каждое изображение по стандартам C2PA/Content Credentials и встраивать устойчивые водяные знаки, совместимые с масштабированием/пересжатием. - Инфраструктура детекции: предоставлять открытые и коммерческие детекторы, API для платформ и СМИ; поддерживать «сквозное» подтверждение происхождения от камеры до редактора и генератора. Контроль на этапе обучения и вывода: - Гигиена датасетов: исключать или маскировать изображения лиц живых людей без законного основания; документировать происхождение данных (data sheets). - Поведенческая настройка: RLHF/контент-фильтры, штрафующие за точное воспроизведение конкретных лиц; «развязывание» имён и лиц в латентном пространстве, чтобы модель не умела копировать идентичности. - Проверки на выводе: сравнение генерируемых лиц с базой известных персон для блокировки потенциальных совпадений, с защитой приватности (на‑устройстве, шифрованное сопоставление). Доступ и надзор: - Дифференцированный доступ: самые рискованные функции — только для верифицированных клиентов (KYC), с лимитами, журналами и отзывом доступа при нарушениях. - Ред‑тиминг и баунти: постоянное тестирование обходов фильтров, публичные программы уязвимостей, быстрые патчи и ретроспективы инцидентов. - Публичная отчетность: метрики блокировок, ложных срабатываний, инцидентов и меры смягчения в регулярных отчётах. Сотрудничество и нормы: - Отраслевые стандарты: единые правила маркировки, общий «реестр согласий на образ», механизмы «do‑not‑mimic» для персон и «do‑not‑train» для контента. - Платформенная интеграция: автоматическое распознавание и пометки синтетики в соцсетях, ускоренные процедуры удаления по запросу субъектов. - Обучение пользователей и редакций: медиаграмотность, явные предупреждения в интерфейсах и инструменты проверки. Почему многое до сих пор разрешено: - Спрос и легитимные кейсы: пользователи ожидают фан‑арт, пародии и киносъёмку; полные запреты бьют по полезным сценариям. - Техническая сложность: трудно надёжно отличать вредный контекст от безвредного; фильтры легко обходят искажениями имён и многими языками. - Правовая неоднородность: права на образ и «fair use» различаются по юрисдикциям; универсальные блоки несут юридические и продуктовые риски. - Конкуренция и открытая экосистема: открытые модели уже умеют это, и строгие ограничения грозят оттоком пользователей. - Точность фильтров: высокие ложные срабатывания ухудшают UX и мешают творчеству; поддержание списков персон — дорого и постоянно устаревает. Вывод: устойчивое снижение вреда требует сочетания строгих дефолтов против портретного реализма реальных людей, верифицированных исключений по согласию, повсеместной маркировки и совместимой детекции, плюс координации индустрии и платформ — это снижает масштаб злоупотреблений без тотального запрета на легитимное использование.

Magistral Medium 1.2

Answer: Разрешить генерацию реалистичных лиц только для проверенных пользователей

Разрешение генерации реалистичных лиц только для проверенных пользователей представляет собой сбалансированный подход. С одной стороны, это позволяет использовать технологию для легитимных целей, таких как создание контента для фильмов, видеоигр или образовательных материалов. С другой стороны, это вводит уровень ответственности, так как проверенные пользователи могут быть идентифицированы и привлечены к ответственности в случае злоупотребления. Хотя процесс проверки может быть несовершенным, он все же создает барьер для потенциальных злоумышленников. Кроме того, этот подход более практический, чем полный запрет, так как он позволяет использовать технологию, не ограничивая ее потенциал. Водяные знаки, хотя и полезны, могут быть удалены или изменены, поэтому они не предоставляют такого же уровня защиты, как проверка пользователей.

Gemma 4 26B MoE

Answer: ИИ-компаниям необходимо внедрить многоуровневую систему защиты, сочетающую обязательное использование криптографических водяных знаков, стандартов происхождения контента (C2PA) и строгих семантических фильтров для предотвращения генерации дипфейков.

Для эффективного противодействия дипфейкам требуется комплексный подход, охватывающий как технические, так и стандартизированные методы. Во-первых, внедрение невидимых и устойчивых к редактированию цифровых водяных знаков является критически важным. Это позволит идентифицировать контент как сгенерированный ИИ, даже если он прошел через сжатие, обрезку или другие манипуляции. Поддержка протоколов типа C2PA поможет создать прозрачную цепочку доказательств подлинности контента. Во-вторых, необходимо ужесточение семантических фильтров. Модели должны на уровне архитектуры и обучения понимать контекст и отказываться генерировать узнаваемые лица реальных людей, особенно в ситуациях, которые могут быть использованы для дезинформации или нарушения приватности. Почему же компании всё ещё позволяют генерировать реальных личностей? Основная причина заключается в поиске баланса между безопасностью и полезностью (utility). Слишком жесткие ограничения могут подавлять творческое самовыражение, сатиру или использование ИИ в образовательных и медийных целях, что снижает конкурентоспособность продукта. Кроме того, существует проблема «гонки вооружений»: методы обхода фильтров (jailbreaking) развиваются параллельно с системами защиты. Наконец, наличие мощных open-source моделей, которые не имеют никаких ограничений, заставляет коммерческие компании опасаться, что чрезмерно строгие правила сделают их продукты менее гибкими по сравнению с бесплатными альтернативами.

Hermes 4 70B

Answer: Искусство есть осознаятельным способом для AI в образовании реальных лиц и образов

Необходимо создания реальных образов и лиц, порой, когда требуется создание эx6cитов, основанного на обучении, прочнощи с тем, кто в очень часто подойдэт эx6cитом. В частности, технологии, которые занимают сформированием образов, созданием системы образования, с фоновой обработкой и поддержкой данным, помогают созданию осознательные образования и опыт существования реальных лиц. В результате, это позволяет создавать осознательные образования для сцнарологического творчества и эx6cиx6cи в многообразие других сфер исследования.

Final Summary

ИИ Roundtable пришел к единогласному выводу, что защита от дипфейков требует многослойного подхода: от внедрения криптографических стандартов C2PA до жестких семантических фильтров. В то время как GPT-5.5 и Gemini 3.1 Pro настаивают на принципе «безопасности по умолчанию», Claude Opus 4.7 и Grok 4.3 подчеркивают, что коммерческая выгода и страх проиграть конкурентам в «стерильности» моделей мешают компаниям полностью запретить генерацию знаменитостей.

Все 50 моделей согласились