Из похищенных и измененных онлайн-изображений в сети создают аватары, которые говорят на китайском и пропагандируют любовь к Китаю.
Источник: "Голос Америки"
Детали: Женщины в реальной жизни узнают себя на видео. Одной из них стала 20-летняя украинка Ольга Лоек, которая изучает когнитивные науки в Университете Пенсильвании. Несколько месяцев назад Лоек открыла канал на YouTube, где она рассказывает о ментальном здоровье и делится своими философскими взглядами на жизнь.
Однако она начала получать сообщения от подписчиков, которые рассказывали, что видели ее в китайских социальных сетях.
Там она не Ольга Лоек, а россиянка, которая говорит по-китайски, любит Китай и хочет выйти замуж за китайца. Ее зовут Наташа, или Анна, или Грейс, в зависимости от платформы социальных сетей в Китае.
Прямая речь: "Я начала переводить видео с помощью Google Translate и поняла, что большинство этих учетных записей говорят о таких вещах, как Китай, Россия, о том, насколько хорошие отношения между Китаем и Россией. Это очень оскорбительно".
Еще детали: В некоторых роликах аватары рассказывают о том, как они ценят тесные связи России и Китая. В других роликах восхваляют китайскую историю и культуру или рассказывают о том, как сильно россиянки хотят выйти замуж за китайца: "Если ты женишься на русских женщинах, мы будем стирать белье, готовить, мыть посуду каждый день, - говорит женщина на видео, - Мы также дадим вам иностранных детей, сколько захотите".
На видеосайтах Douyin и Bilibili размещено несколько десятков видео, на которых аватар Лоек разговаривает на китайском. Большинство из этих учетных записей приглашают зрителей посетить онлайн-магазины, чтобы купить, как они говорят, настоящие русские товары.
Douyin, китайская версия TikTok, обозначила некоторые из этих видео как потенциально сгенерированные ИИ. Но из комментариев видно, что многие верят, что смотрят на настоящую женщину. Один пользователь сети написал: "Русская красавица, китайцы приветствуют вас".
На Bilibili, крупнейшем видеосайте Китая, некоторые видео с искусственным интеллектом, в которых используется лицо Лоек, помечены логотипом HeyGen, что указывает на то, что видео было создано на вебсайте компании. В одном видео с Bilibili демонстратор даже показывает, как сделать короткое видео на HeyGen с клипом, на котором разговаривает Лоек.
HeyGen - это компания искусственного интеллекта со штаб-квартирой в Лос-Анджелесе, которая работает в Китае с 2020 года. Она специализируется на реалистичных цифровых аватарах, генерации голоса и переводе видео. По данным Forbes, сейчас компания оценивается в 75 миллионов долларов.
В политике модерации HeyGen указано, что пользователи не могут создавать аватары, которые "изображают реальных людей, включая знаменитостей или общественных деятелей, без явного согласия".
Лоек сказала, что после того, как она и ее подписчики на YouTube отправили жалобы китайским компаниям социальных сетей, около десятка учетных записей, которые имитировали ее, были удалены.
Журналисты обратились к материнской компании HeyGen и Douyin, ByteDance, за комментариями, но не получили ответа.
В начале 2023 года правительство Китая ввело положение о регулировании дипфейков и других "сервисов глубокого синтеза".
Закон запрещает создавать дипфейки без согласия людей, чье изображение или другая информация используются. Лоек опубликовала свою историю на YouTube, и ее распространили в китайских социальных сетях. Пользователи сети на разных платформах сочувствовали ей и призывали ужесточить правила в отношении ИИ.