ФЕЙКОВЫЙ ГОЛОС БАЙДЕНА МОГ БЫТЬ ИСПОЛЬЗОВАН В ЛОКАЛЬНЫХ ПРАЙМЕРИЗ ЭТОГО ГОДА
ИИ находит своё применение в различных отраслях и для различных задач в повседневной жизни. Границы постоянно расширяются и неудивительно, что ИИ добрался и для использования в политике.
Одно из первых сообщений об этом было опубликовано NBC на этой неделе. В начале этого года консультант Демократической партии Стив Крамер / Steve Kramer нанял фокусника Пола Карпентера / Paul Carpenter , чтобы тот использовал искусственный интеллект (ИИ) для создания сообщения, имитирующего голос президента Джо Байдена. Крамер якобы заплатил Карпентеру 150 долл. за создание имитации голоса Байдена, который затем был использован в кампании обзвона, призывающем демократов Нью-Гэмпшира не голосовать на президентских праймериз в штате.
Исходящий обзвон выполнялся одной телекоммуникационной кампанией из Техаса и охватил от 5 000 до 25 000 человек. При звонках подставлялся номер бывшего председателя Демократической партии Нью-Гэмпшира, который вел кампанию в поддержку Байдена в то время.
Для создания фейковой аудиозаписи использовался сервис Eleven Labs ; это заняло меньше 20 минут и стоило Карпентеру всего 1 доллар. Для фейковый записи не использовался оригинальный голос Байдена; Карпентер записал текст своим голосом, а затем с помощью настроек параметров речи сделал запись похожей на голос Байдена.
Карпентер является фокусником, обладающим мировыми рекордами по сгибанию вилок и освобождению из смирительной рубашки. По его словам, он «был в ситуации, когда кто-то предложил мне немного денег, чтобы я что-то сделал, и я это сделал. Никакого злого умысла не было. Я не знал, как это будет использоваться».
Карпентер решил встретиться с корреспондентами NBC и CNN, чтобы предупредить о том , как легко использовать ИИ, чтобы ввести людей в заблуждение.
Информация об обзвоне привлекла пристальное внимание сотрудников правоохранительных органов и спровоцировала расследование в нескольких штатах на предмет потенциального нарушения законов штатов о влиянии на избирателей и федеральных законов о телекоммуникациях.
Количество сервисов по созданию кастомизированных голосов и озвучивания текстов постоянно растет. Относительно недавно были введены ограничения на использование фейковых видео и фото. Теперь , вероятно, настало время для подобных мер и для фейковых голосовых сообщений.
