Компания OpenAI заявила о пресечении более 20 попыток иностранного влияния, в которых ChatGPT применялся для разработки и отладки вредоносного ПО, распространения дезинформации, обхода систем обнаружения и проведения фишинговых атак.
Ранее специалисты по информационной безопасности уже предупреждали о том, что злоумышленники активно используют искусственный интеллект для создания вредоносного ПО. Например, весной текущего года исследователи из компаний и Proofpoint сообщили, что киберпреступники распространяют инфостилер Rhadamanthys с помощью PowerShell-скрипта, созданного искусственным интеллектом. В прошлом месяце аналитики HP Wolf обнаружили, что вредоносное ПО AsyncRAT также использует код, созданный с использованием ИИ.
В своем отчете представители OpenAI подтвердили факты злоупотребления возможностями ChatGPT и привели конкретные примеры, когда китайские и иранские хакеры использовали чат-бот для повышения эффективности своих операций.
Одной из таких группировок, о которых рассказала OpenAI, стала китайская SweetSpecter, впервые выявленная аналитиками Cisco Talos в ноябре 2023 года. Эта группировка, как сообщалось, занимается кибершпионажем и преимущественно нацелена на правительства азиатских стран.
OpenAI сообщила, что SweetSpecter проводит атаки, отправляя фишинговые письма с вредоносной ZIP-архивом, замаскированным под запросы в службу поддержки. После открытия вложения запускается цепочка заражения, в результате которой в систему жертвы проникает троян SugarGh0st RAT.
Ранее специалисты по информационной безопасности уже предупреждали о том, что злоумышленники активно используют искусственный интеллект для создания вредоносного ПО. Например, весной текущего года исследователи из компаний и Proofpoint сообщили, что киберпреступники распространяют инфостилер Rhadamanthys с помощью PowerShell-скрипта, созданного искусственным интеллектом. В прошлом месяце аналитики HP Wolf обнаружили, что вредоносное ПО AsyncRAT также использует код, созданный с использованием ИИ.
В своем отчете представители OpenAI подтвердили факты злоупотребления возможностями ChatGPT и привели конкретные примеры, когда китайские и иранские хакеры использовали чат-бот для повышения эффективности своих операций.
Одной из таких группировок, о которых рассказала OpenAI, стала китайская SweetSpecter, впервые выявленная аналитиками Cisco Talos в ноябре 2023 года. Эта группировка, как сообщалось, занимается кибершпионажем и преимущественно нацелена на правительства азиатских стран.
OpenAI сообщила, что SweetSpecter проводит атаки, отправляя фишинговые письма с вредоносной ZIP-архивом, замаскированным под запросы в службу поддержки. После открытия вложения запускается цепочка заражения, в результате которой в систему жертвы проникает троян SugarGh0st RAT.
Эти атаки затронули даже личные электронные адреса сотрудников OpenAI. В ходе расследования компания обнаружила, что SweetSpecter использует целый кластер аккаунтов ChatGPT для скриптинга и анализа уязвимостей.