Европол предупредил о потенциальном неправомерном использовании чат-бота ChatGPT в попытках фишинга, дезинформации и киберпреступности. Об этом пишет Reuters.
«Поскольку возможности LLM, таких как ChatGPT, активно совершенствуются, потенциальная эксплуатация этих типов систем ИИ преступниками дает мрачные перспективы», — заявили полицейские.
Агентство выпустило первый технический отчет, в котором авторы выделили вредоносное использование чат-бота в трех сферах преступности:
- фишинга;
- целенаправленного преследования жертв;
- создания и распространения дезинформации.
«Способность ChatGPT создавать очень реалистичный текст делает его полезным инструментом для целей фишинга», — заявили в Европоле.
Согласно отчету, способность чат-бота воспроизводить языковые модели для имитации стиля речи конкретных людей или групп дает возможность преступникам целенаправленно преследовать жертв.
Правоохранители также считают, что умение ChatGPT создавать достоверно звучащий текст в масштабе делает его идеальным инструментом для пропаганды и дезинформации:
«Это позволяет пользователям генерировать и распространять сообщения, отражающие конкретное повествование, с относительно небольшими усилиями».
Согласно Европолу, преступники с небольшими техническими знаниями могут обратиться к ChatGPT для создания вредоносного кода.
Напомним, в марте американские власти сообщили о росте случаев использования технологий имитации речи для шантажа родственников жертв.
