Аудиоджекинг: Искусственный Интеллект Может Вмешаться в Живые Разговоры

В мире стремительных технологических изменений исследователи IBM Security обнаружили нечто удивительное и одновременно тревожное — метод перехвата и манипуляции живыми разговорами с использованием искусственного интеллекта (ИИ).

Новый вид атаки, получивший название "аудиоджекинг", покоится на принципах генеративного искусственного интеллекта и технологии звукового дипфейка.

Аудиоджекинг: Как Это Работает

Эксперимент исследователей заключался в использовании генеративного ИИ, такого как ChatGPT от OpenAI и Llama-2 от Meta, для обработки звуков из двух источников в реальном времени, например, телефонного разговора. Когда ИИ услышал определенное ключевое слово или фразу, ему давались инструкции перехватить соответствующий звук и манипулировать им, прежде чем отправить его получателю. В результате эксперимента ИИ успешно перехватил и подменил голос одного из участников разговора, не вызвав подозрений "жертв".

Простота Реализации

Впечатляет тот факт, что создание системы для аудиоджекинга оказалось удивительно простым. Основное внимание исследователи уделили тому, как захватить звук с микрофона и передать его генеративному ИИ. Тем самым подчеркивается, что современные технологии делают подобные атаки доступными даже без глубоких знаний в области информатики.

Генеративный ИИ: Опасный Инструмент

Всего за три секунды голоса человека генеративный ИИ способен создать его виртуальный клон. Этот процесс в настоящее время может быть осуществлен через API, что подчеркивает простоту и доступность технологии.

Потенциальные Угрозы

Аудиоджекинг представляет не только угрозу финансовой безопасности, но и функционирует как невидимая форма цензуры. Манипулируя содержанием живых трансляций новостей или политических выступлений в режиме реального времени, эта технология может стать мощным инструментом в руках злоумышленников.

Итак, хотя аудиоджекинг требует определенного уровня социальной инженерии или фишинга для успешной атаки, его реализация стала на удивление простой.

Это напоминает о важности постоянного обновления методов защиты информации и разработки технологий, способных эффективно противостоять подобным угрозам.