5 октября 2026 года Google Research представила отчёт об открытых проблемах конфиденциальности и безопасности ИИ-агентов. Авторы рассматривают, как ограничивать передачу данных и действия помощников с учётом конкретной задачи.
Что опубликовала Google Research
Документ подготовлен по итогам исследовательского семинара CAPS, прошедшего в конце 2025 года. В работе участвовали более 50 представителей науки и индустрии. Это исследовательская повестка, а не объявление о готовом средстве защиты.
Авторы выделяют неоднозначность входных инструкций, вероятностное планирование и трудности контроля при автономной работе. Предлагается рассматривать защиту на нескольких уровнях: среды исполнения, модели, пользовательского управления и взаимодействия агентов.
Почему важен контекст
Разрешение помощнику использовать документ для подготовки ответа не обязательно означает разрешение отправить этот документ внешнему адресату. В отчёте обсуждается отдельный слой контроля, который оценивает допустимость передачи информации или действия до выполнения операции.
Что проверить в своей системе
Практический вывод редакции: перед подключением помощника к CRM, почте или хранилищу стоит определить допустимые операции и возможность их последующей проверки. Для технического разбора нужны фактические события целевой системы, а не только ответ в чате.
Об этом — в нашей статье «ИИ-помощник изменил данные: как проверить его действия». Если требуется исследование конкретного инцидента, обсудите компьютерно-техническую экспертизу или аудит информационной безопасности.
Источник: Google Research, публикация от 5 октября 2026 года.