Они кажутся такими же энергичными и с безупречной дикцией, как настоящие ведущие эфира, но на самом деле они сгенерированы искусственным интеллектом. Более того, они распространяют фейки.
«Ошеломляющий шаг: Канада объявила войну США», — говорит светловолосая ведущая американских новостей в видеоролике, распространяемом по соцсетям от TikTok до X, передает euronews.com
Глядя прямо в камеру, ведущая продолжает: «Давайте обратимся к Джо Брэкстону, который находится на границе». Те, кто дотянет до семисекундной отметки, больше других приблизятся к истине.
«Я сейчас на границе, но войны нет, — говорит репортер, а затем сообщает. — Мама, папа, я знаю, что это может выглядеть реально, но это всё создано искусственным интеллектом».
Ведущие в этих роликах демонстрируют такой же энтузиазм и дикцию, как и настоящие дикторы, они созданы искусственным интеллектом (ИИ).
Многие из этих роликов созданы с помощью Veo 3 — программного обеспечения Google для создания видео с помощью искусственного интеллекта, которое позволяет пользователям генерировать восьмисекундные ролики, синхронизируя аудио и видео.
С помощью этой технологии пользователи «заставляют» сфабрикованных ведущих произносить безумные вещи.
Как определить, что видео поддельное ?
Ряд признаков может помочь онлайн-пользователям определить, является ли видео с телеведущим настоящим. Один из признаков — то, что в этих видео многие «репортёры», якобы ведущие репортажи с места событий, держат один и тот же микрофон, на котором написано «NEWS».
Хотя многие телеканалы имеют термин «новости» в своем названии (например, BBC News, Fox News или Euronews), ни одно известное СМИ не называется просто «Новости».
В других случаях логотипы на микрофонах, одежде ведущих, а также на заднем плане и в бегущей строке на экране, представляют собой тарабарщину.
ИИ не в состоянии различить, что делает серию букв разборчивой, поскольку ориентируется в первую очередь на визуальные паттерны, а не на смысловое значение текста, поэтому часто генерирует неразборчивый текст.
Это связано с тем, что ИИ работает по принципу подсказки: если человек не вводит подсказку, в которой указано, какие слова должны быть включены в генерируемое видео, машина создаёт собственный текст.
Сфабрикованные ведущие новостей, используемые государствами
В последние годы всё больше аутентичных телеканалов экспериментируют с ИИ-ведущими, используя либо полностью сгенерированных персонажей, либо прося реальных людей подписать разрешение на использование их изображения или голоса. В октябре одна из польских радиостанций вызвала споры, уволив журналистов и запустив на этой неделе «ведущих» с искусственным интеллектом.
Государственные структуры также используют ИИ-ведущих для пропаганды.
Так в опубликованном в 2023 году докладе, аналитическая компания Graphika, специализирующаяся на ИИ, обнаружила, что фиктивный новостной канал под названием «Wolf News» продвигал интересы Коммунистической партии Китая с помощью распространяемых в соцсетях видеороликов и ведущих, сгенерированных ИИ.
ИИ-ведущие обходят репрессивную цензуру
ИИ-ведущие могут способствовать распространению фальшивых новостей и дезинформации, но в некоторых случаях они могут избавить журналистов, работающих при репрессивных режимах, от опасности публичного разоблачения.
В июле 2024 года президент Венесуэлы Николас Мадуро был переизбран в ходе выборов, омрачённых, по мнению правозащитных групп, фальсификациями.
После переизбрания Мадуро, находящийся у власти с 2013 года, еще больше ограничил свободу прессы, подвергая опасности работников СМИ.
Чтобы дать ему отпор, в августе 2024 года журналисты начали операцию Operación Retuit («Операция ReTweet»).
В серии из 15 видеороликов в стиле соцсетей сгенерированные ИИ женщина и мужчина по имени «Бестия» и «Бадди» рассказывают о политической ситуации в Венесуэле, делясь фактическими данными.