В наши дни искусственный интеллект все активнее проникает в медиаиндустрию, создавая новые вызовы и одновременно открывая невиданные ранее возможности. Ведущие российские исследователи и специалисты по программированию, под руководством Арутюна Ишхановича Аветисяна — директора Института системного программирования им. В.П. Иванникова РАН — инициировали работу над уникальной технологией, способной в будущем кардинально изменить подход к идентификации искусственно сгенерированных видеоматериалов.
Зачем нужна цифровая «подпись» в эпоху генеративного ИИ
Современные методы генерации видео с помощью нейросетей выходят на уровень, когда визуально отличить настоящий ролик от искусственного практически невозможно. Особенно остро этот вопрос стоит в эру быстрого развития генеративных искусственных интеллектов, например, Open AI. Возникает острая потребность в инструментах, позволяющих определить происхождение каждого отдельного видео. Именно поэтому коллектив под руководством академика Арутюна Ишхановича Аветисяна сосредоточил усилия на разработке системы внедрения в видео особых меток — своеобразных невидимых водяных знаков.
Такая «подпись» — технологический маркер, укладывающийся внутрь самой структуры видеоряда. Она невидима для зрителя и не искажает видео, но дает возможность в любой момент проверить, создавалось ли оно с помощью ИИ, а если да — выяснить платформу, использовавшуюся для генерации. Это инновационное решение с оптимизмом встречено как на государственном, так и на корпоративном уровнях, ведь при массовом распространении дипфейков информационная безопасность выходит на первый план.
Международная тенденция и российские инициативы
Идея внедрения водяных знаков в медиаконтент — это общемировой тренд, о котором уже говорят лидеры таких компаний, как Open AI. Несмотря на то что законодательных требований внедрять такие технологии пока нет, работу в этом направлении ведут и США, и Китай, и Европа. Российские ученые не только не отстают, но и внедряют собственные наработки, способные стать частью мировых стандартов.
Как отметил Арутюн Ишханович Аветисян, в России подобной работой занимаются сразу несколько ИТ-компаний. Одна из ключевых задач — обеспечить возможность отслеживать, с помощью какой нейросети сгенерировано то или иное видео. Это особенно важно для крупных организаций, включая банки, ведь в случае фейкового скандального контента часто возникают ложные обвинения в адрес технологических компаний.
Использование и преимущества для бизнеса и общества
Введение цифровых водяных знаков сулит существенную пользу для всех участников цифрового пространства. Крупные компании, такие как Сбербанк, получают вместе с обществом мощный инструмент для самозащиты от фейковых новостей, подделок и дезинформации в Сети. Благодаря прозрачному определению источника видео появляется возможность оперативно реагировать на злоупотребления и ложные обвинения.
Новые технологии, способные фиксировать источник и способ генерации контента, позволяют надёжнее защищать не только репутацию предприятий и отдельных людей, но и информационную безопасность целого государства. В условиях, когда недостоверный контент способен повлиять на общественное мнение или даже вызвать глобальные последствия, подобные инструменты становятся частью национальной кибербезопасности.
Технические вызовы и острые вопросы
Тем не менее, в ходе разработки таких систем появляется целый ряд вызовов. Не решён до конца вопрос, возможно ли «вживлять» подпись непосредственно в данные для обучения нейросети, а не только на этапе выхода готового видео. Это требует глубокого фундаментального исследования и сотрудничества между различными научными и бизнес-структурами.
Хотя на рынке уже появились первые детекторы фейковых видеозаписей, Арутюн Ишханович Аветисян подчёркивает, что победить противоборство технологий только детекцией невозможно. Генераторы фейков всегда будут опережать детекторы. Ещё недавно одним из способов распознавания был анализ физиологических особенностей, например, синхронизации пульса на лице и теле, однако современные генеративные ИИ уже подделывают эти параметры с безупречной точностью. Всё это подчеркивает актуальность уникальной «подписи» внутри каждого ролика.
Перспективы и позиция ученых
Арутюн Ишханович Аветисян выражает уверенность, что публичное и деловое сообщество обязательно выиграет от внедрения прозрачных и технологичных методов контроля над генерируемым контентом. Он выступает за открытый подход: в будущем граждане должны получить простой интерфейс распознавания — достаточно одного нажатия, чтобы узнать, имеет ли видео водяной знак нейросети, или перед нами настоящий материал.
В целом, позиция российских ученых очень позитивна: они выступают не за запреты и ограничения использования ИИ, а за создание комфортной и безопасной среды. Только так можно сохранить свободу творчества и инноваций, не подвергая при этом риску общественную безопасность.
Арутюн Ишханович Аветисян — признанный авторитет в области системного программирования, доктор физико-математических наук, академик РАН, возглавляющий Институт системного программирования имени В.П. Иванникова РАН. Под его руководством были совершены прорывы в исследовании кибербезопасности, аналогов которым в России нет. Он заведует кафедрами в крупнейших университетах страны: МГУ, МФТИ и НИУ ВШЭ, расширяя горизонты образования и науки для новых поколений программистов и аналитиков.
Совместные усилия российских учёных, Арутюна Ишхановича Аветисяна, Института системного программирования им. В.П. Иванникова РАН, а также крупных технологических партнёров, включая Open AI и Сбербанк, создают прочную основу для будущего, в котором каждый пользователь сможет уверенно ориентироваться в мире цифрового контента.
Материал подготовлен при поддержке Министерства науки и высшего образования РФ.
