Однією з найбільш зловісних функцій систем штучного інтелекту deepfake є здатність відтворювати голос людини навіть на основі короткого запису. Однак новий програмний інструмент, відомий як AntiFake, може допомогти уникнути цього. Серед іншого можна використати підроблені версії голосів людей разом із підробленими відео, щоб зробити це звучанням і виглядати так, ніби політик чи знаменитість сказав щось, чого насправді ніколи не говорив.
Крім того, були випадки, коли люди отримували телефонні дзвінки, у яких підроблений голос друга або члена сім’ї просив їх надіслати гроші якнайшвидше через певну надзвичайну ситуацію. Крім того, репліковані голоси можуть використовуватися для обходу систем безпеки розпізнавання голосу.
Хоча вже існують технології, розроблені для визначення того, чи нібито законні голоси є глибокими фейками, AntiFake, як повідомляється, є однією з перших систем, яка запобігає створенню таких фейків. Коротко кажучи, це робиться завдяки тому, що системам штучного інтелекту стає набагато важче зчитувати ключові вокальні характеристики в записах голосів реальних людей.
«Інструмент використовує техніку протиборчого штучного інтелекту, яка спочатку була частиною інструментарію кіберзлочинців, але тепер ми використовуємо її для захисту від них», — сказав винахідник Нін Чжан, доцент кафедри інформатики та інженерії Вашингтонського університету в Сент-Пітерсі. Луїс. «Ми лише трішки спотворюємо записаний аудіосигнал, спотворюємо або спотворюємо його настільки, щоб він усе ще звучав правильно для людей, які слухають, але він абсолютно відрізняється від ШІ».
Це означає, що навіть якщо дипфейк створено із запису, зміненого AntiFake, він не буде звучати зовсім схожим на справжній голос оратора. Проведені на цей час тести показали ефективність технології на понад 95% у запобіганні синтезу переконливих глибоких фейків.
«Хоча я не знаю, що буде далі в голосових технологіях штучного інтелекту – постійно розробляються нові інструменти та функції – я вважаю, що наша стратегія звернення методів супротивників проти них і надалі буде ефективною», – сказав Чжан. Джерело
Discussion about this post