Новости

ChatGPT как инструмент киберпреступников, фишинг и распространение вредоносного ПО

Компания OpenAI заявила о пресечении более 20 попыток иностранного влияния, в которых ChatGPT применялся для разработки и отладки вредоносного ПО, распространения дезинформации, обхода систем обнаружения и проведения фишинговых атак.

Ранее специалисты по информационной безопасности уже предупреждали о том, что злоумышленники активно используют искусственный интеллект для создания вредоносного ПО. Например, весной текущего года исследователи из компаний и Proofpoint сообщили, что киберпреступники распространяют инфостилер Rhadamanthys с помощью PowerShell-скрипта, созданного искусственным интеллектом. В прошлом месяце аналитики HP Wolf обнаружили, что вредоносное ПО AsyncRAT также использует код, созданный с использованием ИИ.

В своем отчете представители OpenAI подтвердили факты злоупотребления возможностями ChatGPT и привели конкретные примеры, когда китайские и иранские хакеры использовали чат-бот для повышения эффективности своих операций.

Одной из таких группировок, о которых рассказала OpenAI, стала китайская SweetSpecter, впервые выявленная аналитиками Cisco Talos в ноябре 2023 года. Эта группировка, как сообщалось, занимается кибершпионажем и преимущественно нацелена на правительства азиатских стран.

OpenAI сообщила, что SweetSpecter проводит атаки, отправляя фишинговые письма с вредоносной ZIP-архивом, замаскированным под запросы в службу поддержки. После открытия вложения запускается цепочка заражения, в результате которой в систему жертвы проникает троян SugarGh0st RAT.
Фишинговое письмо SweetSpecter
Эти атаки затронули даже личные электронные адреса сотрудников OpenAI. В ходе расследования компания обнаружила, что SweetSpecter использует целый кластер аккаунтов ChatGPT для скриптинга и анализа уязвимостей.
Прочее