Хакеры использовали ChatGPT для сбора данных и написания кода

Компания OpenAI выявила несколько преступных группировок, пытавшихся использовать ChatGPT для получения конфиденциальной информации. Совместно с командой Microsoft разработчикам удалось заблокировать доступ к чат-боту.

Сообщается, что представители OpenAI и Microsoft Threat Intelligence обнаружили аккаунты, принадлежащие хакерским группировкам. В отчете фигурируют такие организации:

• Charcoal Typhoon и Salmon Typhoon, связанные с Китаем;
• Crimson Sandstorm (Иран);
• Emerald Sleet (КНДР);
• Forest Blizzard (РФ).

«Мы пресекли деятельность пяти субъектов, использовавших возможности искусственного интеллекта для поддержки вредоносной деятельности. Выявленные учетные записи OpenAI, связанные с этими субъектами, были удалены», — заявили разработчики.

По данным OpenAI, Charcoal Typhoon и Salmon Typhoon исследовали различные инструменты кибербезопасности, изучали деятельность спецслужб и отладку кода.

Также специалисты выяснили, что Crimson Sandstorm применяла ChatGPT для создания фишинговых приложений и сайтов, а Emerald Sleet — для написания вредоносного кода и поиска специалистов в области обороны. В свою очередь, Forest Blizzard отправляла запросы на поиск информации о средствах спутниковой связи и радиолокационной визуализации.

В ходе расследования команда установила, что последняя версия ChatGPT предлагает «ограниченные возможности для хакеров». Между тем, в OpenAI заявили о необходимости улучшить безопасность продукта и ввести усиленный мониторинг взаимодействия пользователей с платформой.

Напомним, в феврале команда OpenAI обновление для ChatGPT, позволяющее ИИ-боту запоминать факты и предпочтения пользователей.