Заступник керівника апарату Білого дому Брюс Рід (Bruce Reed) заявив, що технологія «клонування голосу» за допомогою ШІ є однією з головних проблем для регуляторів. За його словами, суспільство ще не усвідомило, наскільки сильно ідеальна підробка людського голосу може вплинути на наше життя. Люди перестануть довіряти дзвінкам, якщо не будуть впевнені, що голос справжній, вважає Рід.
Уже зараз шахраї використовують технології для більш правдоподібних афер. За даними FTC, у США почастішали випадки, коли аферисти телефонують жертвам від імені родичів, які потрапили в біду.
Аналітики з фірми McAfee, що займається питаннями кібербезпеки, стверджують, що для створення переконливої підробки голосу достатньо 3-4 секунд зразка. Водночас мер Нью-Йорка Ерік Адамс (Eric Adams) за допомогою ШІ телефонує жителям мовами, якими не володіє. За його словами, це дає змогу охопити більше людей.
Однак експерти вважають, що це скоріше вводить в оману та вимагає чітких правил використання подібних технологій.
Також зараз уже існують платформи для клонування голосу, які дають змогу в кілька кліків створити підробку. Серед них ElevenLabs, яка незабаром після виходу з бета-версії зіткнулася з різними випадками шахрайства. Джерело
Discussion about this post