Требование обозначать контент, созданный или существенно обработанный искусственным интеллектом, чтобы отличать его от контента, созданного человеком.
Маркировка ИИ-контента — это требование или рекомендация явно обозначать текст, изображение, аудио или видео, созданное или существенно изменённое с помощью искусственного интеллекта, чтобы пользователь мог отличить такой контент от материалов, созданных человеком без участия генеративных технологий.
Необходимость такого регулирования выросла вместе с распространением генеративного ИИ и дипфейков — технологий, способных создавать крайне убедительные поддельные изображения, аудио и видео реальных людей. Без маркировки такой контент может использоваться для дезинформации, мошенничества или манипуляции общественным мнением.
Крупные генеративные ИИ-сервисы всё чаще встраивают технические метки (цифровые водяные знаки, метаданные) в создаваемый контент, чтобы соответствовать растущим требованиям регулирования и платформенных политик модерации.
Регулирование в этой сфере активно развивается — конкретные требования и их обязательность стоит сверять с актуальным законодательством на момент использования.
Используются разные методы: видимые текстовые метки, невидимые цифровые водяные знаки в файле, специальные метаданные, которые может считать платформа или другой сервис.
Она снижает риск непреднамеренного введения людей в заблуждение, но не может полностью предотвратить намеренное удаление меток злоумышленниками.