Компания Microsoft раскрыла подробности новой атаки по сторонним каналам, нацеленной на удалённые языковые модели. Пассивный злоумышленник, способный отслеживать сетевой трафик, может получить информацию о темах, обсуждаемых в чат-ботах с ИИ, даже если данные зашифрованы.
Несанкционированное получение данных, передаваемых пользователями и языковыми моделями в режиме реального времени, представляет собой серьезную угрозу для приватности как личных, так и корпоративной коммуникации. Угроза была обозначена как Whisper Leak.
Злоумышленники, обладающие возможностью наблюдения за шифрованным сетевым трафиком, способны применить данную атаку для выявления принадлежности запроса пользователя к определенной тематической категории.
Суть атаки заключается в наблюдении за защищенным трафиком TLS-протокола между пользователем и сервером языковой модели. Анализируя размер пакетов и временные промежутки передачи данных, злоумышленник способен построить обученную систему классификации запросов и определять, касается ли общение конфиденциальных тем.
Атака использует данные о размере пакетов и временных интервалах, а также обученные классификаторы для определения темы разговора.
Специалисты Microsoft рекомендуют избегать обсуждения важных тем в ненадёжных сетях, использовать VPN, непотоковые модели LLM и выбирать поставщиков, которые внедрили меры защиты.
Несанкционированное получение данных, передаваемых пользователями и языковыми моделями в режиме реального времени, представляет собой серьезную угрозу для приватности как личных, так и корпоративной коммуникации. Угроза была обозначена как Whisper Leak.
Злоумышленники, обладающие возможностью наблюдения за шифрованным сетевым трафиком, способны применить данную атаку для выявления принадлежности запроса пользователя к определенной тематической категории.
Суть атаки заключается в наблюдении за защищенным трафиком TLS-протокола между пользователем и сервером языковой модели. Анализируя размер пакетов и временные промежутки передачи данных, злоумышленник способен построить обученную систему классификации запросов и определять, касается ли общение конфиденциальных тем.
Атака использует данные о размере пакетов и временных интервалах, а также обученные классификаторы для определения темы разговора.
Специалисты Microsoft рекомендуют избегать обсуждения важных тем в ненадёжных сетях, использовать VPN, непотоковые модели LLM и выбирать поставщиков, которые внедрили меры защиты.
Мы внедряем системы информационной безопасности в Свердловской области и Севастополе!
Благодаря многолетнему опыту и команде экспертов, знаем, что важно для IT-инфраструктуры и как защититься от киберугроз во всех сферах деятельности.
+7 (343) 222-13-32 — Екатеринбург
+7 (978) 214 29 87 — Севастополь
Благодаря многолетнему опыту и команде экспертов, знаем, что важно для IT-инфраструктуры и как защититься от киберугроз во всех сферах деятельности.
+7 (343) 222-13-32 — Екатеринбург
+7 (978) 214 29 87 — Севастополь