В последние недели, особенно в связи с приближением выборов, фальшивые видео, созданные с использованием голоса и изображения известных людей, активно распространяются в социальных сетях. Эти случаи демонстрируют мощь искусственного интеллекта (ИИ), способного генерировать политические заявления, изменять аудиозаписи и создавать настолько реалистичные сцены, что они легко обманывают пользователей.
Эта тактика использует влияние популярных фигур для придания достоверности сфабрикованному контенту. Таким образом, личности широкого круга становятся частью манипуляций, сочетающих реальные и ложные элементы для обмана общественности.
Одним из примеров являются Каэтано Велозо и Неймар Жуниор. В TikTok циркулирует запись, созданная таким образом, чтобы выглядеть так, будто певец заявил, что «Лула спас эту страну от ненависти» и поддержал продолжение правления в 2026 году. Однако это обманная подделка, поскольку певец такого заявления не делал.
Фальсификация использовала реальные элементы для создания видимости подлинности. Каэтано действительно участвовал в кампании Лулы в 2026 году, где артисты произносили фразу «Bora, Lula!». Тем не менее, в фальшивом видео изображение певца было повторно использовано, а новый аудиоряд, созданный с помощью ИИ, содержал слова, которые он никогда не произносил. Собственная команда Каэтано подтвердила DW, что данный контент является ложным.
В случае с Неймаром стратегия была схожей, но с противоположным политическим уклоном. Манипулированное видео изображало игрока, утверждающего, что он следит за предполагаемыми преследованиями против Жаира Болсонару и что Лула и министр Верховного суда (STF) Алешандре де Мораэс «боятся силы президента». Такое заявление также никогда не делалось игроком.
В этом случае также присутствовал реальный элемент, помогавший придать подделке аутентичность. Неймар голосовал за Жаира Болсонару на выборах 2022 года, а в 2026 году он появился на настоящей фотографии, подписывая футболку сборной Бразилии для Флавиу Болсонару, сына бывшего президента и кандидата в президенты. Однако эта реальная фотография не доказывает, что игрок сделал заявленное в фальшивом видео политическое заявление.
Сочетание истинных фактов и сфабрикованного контента является одной из причин, по которой эти случаи особенно сложно идентифицировать. Те, кто уже знает, что Каэтано участвовал в кампании Лулы или что Неймар имел публичные отношения с Жаиром Болсонару, могут посчитать видео «правдоподобным» еще до проверки его источника. Эта смесь затрудняет проверку, поскольку ложный контент опирается на факты, которые публика уже считает истинными.
Использование изображений и голосов известных людей не ограничивается политической пропагандой. Тони Рамос также стал жертвой дипфейка, как сообщило Olhar Digital. Во время недавнего участия в программе Roda Viva на TV Cultura актер рассказал, что его изображение использовали в фальшивом видео вместе с Ана Марией Брага для продажи лекарства. Согласно его рассказу, его речь была озвучена и использована для придания подлинности рекламе, которую он не делал.
В последние дни также распространилось фальшивое изображение Алешандре де Мораэса и Эдсона Фашина, также министра STF. Публикация намекала на то, что они обсуждают что-то, но, по данным платформ проверки фактов, изображение было сгенерировано ИИ. Этот инцидент показывает, что манипуляция не обязательно должна быть видео: фотография также может создать несуществующую ситуацию и породить вводящий в заблуждение нарратив.
Резолюция 23.610/2019 Высшего избирательного совета (TSE) требует, чтобы синтетический контент, созданный или измененный с помощью ИИ, маркировался при использовании в пропаганде. Норма также запрещает в предвыборной пропаганде дипфейки, которые создают, заменяют или изменяют изображение или голос людей для поддержки или нанесения ущерба кандидатурам. В начале сентября TSE установил критерии для определения такого контента.
Согласно органу, дипфейк — это синтетический контент, сгенерированный или измененный искусственным интеллектом или эквивалентной технологией, обладающий высоким уровнем реализма, способный создавать, воспроизводить или модифицировать изображение, голос или заявление любого человека — живого, умершего или вымышленного. Согласно установленному пониманию, прямой запрет на использование этой технологии действует для контента, квалифицированного как предвыборная пропаганда.
ИИ не устранил старые методы манипуляции. Реальные видео продолжают вырывать из контекста, обрезать или комбинировать с другими аудиодорожками для создания ситуаций, которые никогда не происходили. Проверка UOL Confere, опубликованная в среду (30), выявила манипуляцию в старом видео, где мужчина нападал на священника в Рио-де-Жанейро в 2022 году.
В оригинальной записи нападение произошло после личного разногласия; в отредактированной версии, которая циркулировала на этой неделе, оригинальный аудиоряд был заменен речью о национальном суверенитете. Редакция имитировала, что религиозный деятель был атакован по политическим мотивам — вырезка из контекста, собравшая более 100 тысяч просмотров в Facebook до публикации материала.
Данные Первого обзора дезинформации в Бразилии, опубликованные Agência Lupa в феврале, показывают, что ложный контент, сгенерированный или измененный с помощью ИИ, выявленный в проверках организации, вырос с 39 в 2024 году до 159 в 2025 году — рост на 308%. А недавно опубликованное исследование Ekō, международной организации по корпоративной ответственности, выявило как минимум 1,1 миллиона бразильских реалов, выплаченных 26 профилями для продвижения предвыборных объявлений, которые, согласно исследованию, нарушали правила Meta и бразильское законодательство, включая дипфейки без идентификации.
То же сочетание измененного изображения, политического контента и внешнего вида новости может использоваться не только для дезинформации, но и для совершения финансовых мошенничеств. Недавно изображения, сгенерированные ИИ, и симуляция новостного портала предполагали, что предприниматель Лусиано Хан, владелец магазинов Havan, якобы подвергся «нападению» по приказу бывшего министра финансов Фернандо Аддада, нынешнего кандидата в правительство штата Сан-Паулу от PT.
Эта история апеллировала к политической конкуренции, чтобы направить публику на поддельный сайт с обещанием прибыли до 10 тысяч бразильских реалов в день, где пользователей убеждали внести депозиты или предоставить личные данные.
Уайlder Мартинс, специалист по кибербезопасности из EXA, разработчика решений против виртуальных угроз, подчеркивает, что технология в настоящее время имитирует реальность с совершенством, создает и поддерживает фальшивые ссылки и сайты, очень похожие на оригиналы. Он отмечает: «Поэтому главный барьер защиты изменился: вопрос больше не должен быть только о том, 'выглядит ли это правдиво?', а о том, 'почему меня просят нажать на ссылку, предоставить конфиденциальные данные или сделать перевод?'».
По словам Мартинса, та же структура может быть адаптирована для различных тем, которые приобретают актуальность в период выборов. Широкое распространение политической информации создает новые возможности для преступников, чтобы использовать имена кандидатов, должностных лиц, учреждений и СМИ. Среди возможных вариантов — сообщения о избирательном удостоверении, биометрии, месте голосования, электоральных опросах, ложных штрафах, сборе средств на кампанию и контенте, измененном голосом или изображением публичных фигур.
Специалист предупреждает: «Если сообщение создает срочность (будь то для предотвращения блокировки, обеспечения права или требования оплаты), немедленно остановитесь. Это классический триггер мошенничества. Ваша главная защита — не следовать короткому пути, предложенному мошенником. Закройте сообщение и воспользуйтесь инструментами и программным обеспечением для проверки, доступными как платно, так и бесплатно, такими как EVA [искусственный интеллект EXA, анализирующий подозрительный контент в WhatsApp], чтобы подтвердить информацию до совершения любой транзакции».
С развитием ИИ стало сложнее выявить мошенничество только по визуальным или звуковым признакам. Ошибки, которые раньше выдавали некоторые манипуляции, стали менее очевидными, и проверка должна выходить за рамки внешнего вида контента. Вместо поиска только визуальных дефектов, рекомендуется проверять след контента: подтверждать, действительно ли человек сделал такое заявление в официальных каналах, проверять, сообщили ли об этом средства массовой информации, и скептически относиться к спорным видео, распространяемым без четкого происхождения.