У соціальній мережі TikTok почали активно поширюватися шахрайські дипфейки, які використовують образи відомих співачок Тейлор Свіфт та Ріанни. Дослідження виявило, що ці фальшиві відео не лише вводять користувачів в оману, але й можуть загрожувати їхній безпеці. Шахраї створюють контент за допомогою технологій глибокого навчання, що дозволяє їм маніпулювати зображеннями і звуком так, щоб вони виглядали максимально реалістично. Використовую
Шахраї почали масово використовувати дипфейки із зірками, щоб просувати фейкові рекламні кампанії в TikTok. Найчастіше в таких відео з’являються обличчя Тейлор Свіфт, Ріанни та інших відомих артистів. Про цейдетьсяу звіті компанії Copyleaks.
За їхніми даними, зловмисники створюють відео, що виглядають як реальні інтерв’ю чи виступи знаменитостей, але насправді є зміненими за допомогою ШІ — із підставленими голосами та обличчями.
У таких роликах «зірки» нібито рекламують програми заробітку, наприклад, обіцяють гроші за перегляд відео чи прості онлайн-завдання. Насправді це схема для збору персональних даних: користувачів переводять на сторонні сайти, де просять ввести email, номер телефону або навіть платіжну інформацію.
Особливість нової хвилі шахрайства — якість дипфейків. Якщо раніше такі відео легко впізнавалися через неприродні рухи чи голос, то зараз вони значно реалістичніші. Зловмисники використовують справжні відео з червоних доріжок, подкастів або токшоу, які просто переписують за допомогою ШІ.
Модерація платформи поки не встигає реагувати на такі обсяги контенту. Попри правила проти маніпуляцій і шахрайства, відео проходять перевірку і набирають перегляди.
Експерти зазначають, що подібні схеми небезпечні не лише через обман, а й через наслідки. Зібрані дані можуть використовувати для крадіжки особистості, продажу в даркнеті або подальших фішингових атак.
Це не перший випадок, коли Тейлор Свіфт стає мішенню для ШІ-контенту. Раніше в мережі поширювалися фейкові зображення за її участі, що змусило співачкузапатентувати свої голос і зовнішність, аби захиститися від штучного інтелекту.