Специалисты из Университета Иллинойса в Урбане-Шампейне недавно опубликовали работу, где продемонстрировали, что нейросеть GPT-4 от OpenAI способна самостоятельно использовать уязвимости в системах после получения их детального описания.
В ходе эксперимента было выбрано 15 критических уязвимостей. Выяснилось, что GPT-4 успешно применила 87% из них, в то время как другие нейросети с этим не справились.
Даниэль Канг, один из авторов исследования, отмечает, что применение нейросетей может существенно облегчить процесс использования уязвимостей злоумышленниками. Он считает, что системы, основанные на искусственном интеллекте, будут гораздо эффективнее существующих инструментов для начинающих хакеров.
Авторы работы также обсуждают стоимость таких атак. Они утверждают, что успешная атака с использованием нейросети обойдётся в разы дешевле, чем услуги профессионального тестировщика на проникновение.
Согласно результатам исследования, GPT-4 не смогла использовать только две из 15 уязвимостей. Одна из причин — трудности в навигации по веб-приложению, другая — описание уязвимости на китайском языке, что сбило нейросеть с толку.
Канг подчеркивает, что гипотетическое ограничение доступа нейросети к информации о безопасности не станет эффективной защитой от атак с использованием нейросетей. Он призывает компании активно усиливать свою защиту, включая регулярное обновление ПО.
OpenAI пока не прокомментировала результаты этого исследования.
В ходе эксперимента было выбрано 15 критических уязвимостей. Выяснилось, что GPT-4 успешно применила 87% из них, в то время как другие нейросети с этим не справились.
Даниэль Канг, один из авторов исследования, отмечает, что применение нейросетей может существенно облегчить процесс использования уязвимостей злоумышленниками. Он считает, что системы, основанные на искусственном интеллекте, будут гораздо эффективнее существующих инструментов для начинающих хакеров.
Авторы работы также обсуждают стоимость таких атак. Они утверждают, что успешная атака с использованием нейросети обойдётся в разы дешевле, чем услуги профессионального тестировщика на проникновение.
Согласно результатам исследования, GPT-4 не смогла использовать только две из 15 уязвимостей. Одна из причин — трудности в навигации по веб-приложению, другая — описание уязвимости на китайском языке, что сбило нейросеть с толку.
Канг подчеркивает, что гипотетическое ограничение доступа нейросети к информации о безопасности не станет эффективной защитой от атак с использованием нейросетей. Он призывает компании активно усиливать свою защиту, включая регулярное обновление ПО.
OpenAI пока не прокомментировала результаты этого исследования.