Компания OpenAI выявила несколько преступных группировок, пытавшихся использовать ChatGPT для получения конфиденциальной информации. Совместно с командой Microsoft разработчикам удалось заблокировать доступ к чат-боту.
Сообщается, что представители OpenAI и Microsoft Threat Intelligence обнаружили аккаунты, принадлежащие хакерским группировкам. В отчете фигурируют такие организации:
- Charcoal Typhoon и Salmon Typhoon, связанные с Китаем;
- Crimson Sandstorm (Иран);
- Emerald Sleet (КНДР);
- Forest Blizzard (РФ).
«Мы пресекли деятельность пяти субъектов, использовавших возможности искусственного интеллекта для поддержки вредоносной деятельности. Выявленные учетные записи OpenAI, связанные с этими субъектами, были удалены», — заявили разработчики.
По данным OpenAI, Charcoal Typhoon и Salmon Typhoon исследовали различные инструменты кибербезопасности, изучали деятельность спецслужб и отладку кода.
Также специалисты выяснили, что Crimson Sandstorm применяла ChatGPT для создания фишинговых приложений и сайтов, а Emerald Sleet — для написания вредоносного кода и поиска специалистов в области обороны. В свою очередь, Forest Blizzard отправляла запросы на поиск информации о средствах спутниковой связи и радиолокационной визуализации.
В ходе расследования команда установила, что последняя версия ChatGPT предлагает «ограниченные возможности для хакеров». Между тем, в OpenAI заявили о необходимости улучшить безопасность продукта и ввести усиленный мониторинг взаимодействия пользователей с платформой.
Напомним, в феврале команда OpenAI обновление для ChatGPT, позволяющее ИИ-боту запоминать факты и предпочтения пользователей.