Согласно сообщению агентства, Европол высказал опасения по поводу потенциального незаконного использования чат-бота ChatGPT для фишинга, целенаправленного преследования жертв и распространения дезинформации.
«Поскольку возможности LLM, таких как ChatGPT, активно совершенствуются, потенциальная эксплуатация этих типов систем ИИ преступниками дает мрачные перспективы», — заявили полицейские.
Первый технический отчет выделил три сферы использования чат-бота для преступных целей.
1. фишинг
2. целенаправленного преследования жертв
3. создания и распространения дезинформации
Его способность имитировать языковые модели для копирования стиля конкретных людей или групп может привести к целенаправленному преследованию жертв.
«Способность ChatGPT создавать очень реалистичный текст делает его полезным инструментом для целей фишинга», — заявили в Европоле.
В то же время способность ChatGPT создавать достоверный текст делает его идеальным инструментом для распространения дезинформации.
Согласно Европолу, даже преступники с небольшими техническими знаниями могут использовать ChatGPT для создания вредоносного кода.
«Это позволяет пользователям генерировать и распространять сообщения, отражающие конкретное повествование, с относительно небольшими усилиями».
В марте американские власти также сообщили о росте случаев использования технологий имитации речи для шантажа родственников жертв.
