[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"glossary-ai-incident-reporting::ru":3,"gloss-cluster-ai-incident-reporting::ru":26,"gloss-next-ai-incident-reporting::ru":9},{"slug":4,"category":5,"name":6,"definition":7,"meta_desc":8,"faq":9,"schema_markup":9,"related":10},"ai-incident-reporting","security","Сообщение об ИИ-инцидентах","Сообщение об ИИ-инцидентах — это маршрут, по которому неверный, вредный или неожиданный результат модели попадает в запись, проходит сортировку и вызывает действие, вместо того чтобы быть замеченным одним человеком и забытым. Это обратная связь, превращающая оценку из предзапускового упражнения в то, что продолжает работать после запуска, когда входные данные перестают походить на тестовые.\n\nТакие инциденты не похожи на аварии. Ничего не упало, частота ошибок не сдвинулась, мониторинг зелёный, а система уверенно выдаёт неправду, раскрывает то, чего читателю видеть не следовало, или ведёт себя так, как проектировщик не предполагал. Поскольку привычные сигналы молчат, сообщение почти всегда начинается с человека — агента поддержки, клиента, сотрудника, заметившего неверный ответ.\n\nПоэтому канал сообщения — и есть главная задача проектирования. Он должен быть доступен там, где появляется результат, то есть обычно кнопкой рядом с ответом, а не формой где-то в интранете. Он должен захватывать контекст, делающий случай воспроизводимым: ввод, вывод, идентификатор диалога или трассы, версию модели и промпта, время. Без этого сообщение сводится к «на прошлой неделе оно сказало что-то странное», а это не расследуется.\n\nСортировке нужны собственные критерии, потому что поток в основном малозначим, а серьёзные случаи прячутся внутри него. Тяжесть здесь — про последствие: положился ли кто-то на ответ, пострадал ли кто-то, раскрылись ли данные, воспроизводится ли это, сколько пользователей проходят тем же путём, — а не про то, насколько неловко выглядит текст. Тяжёлые случаи требуют той же дисциплины, что и инцидент безопасности: локализация, путь отката и решение о том, кого необходимо уведомить.\n\nПольза возникает, только если сообщения возвращаются в работу. Подтверждённые случаи должны попадать в набор для оценки, чтобы та же поломка ловилась в следующий раз, а их скопления — в запись о породившей их системе. Организация, собирающая инциденты и не добавляющая их в тесты, будет заново открывать одну и ту же поломку, а её оценки будут выглядеть лучше, чем продукт.","Сообщение об ИИ-инцидентах — маршрут, по которому неверный ответ попадает в запись и в работу. Мониторинг при этом зелёный, поэтому сигнал подаёт человек.",null,[11,14,17,20,23],{"slug":12,"name":13},"audit-log","Журнал аудита (Audit Log)",{"slug":15,"name":16},"guardrails","Ограждения (Guardrails)",{"slug":18,"name":19},"hallucination","Галлюцинация",{"slug":21,"name":22},"incident-management","Управление инцидентами",{"slug":24,"name":25},"runbook","Ранбук",[27,31,34,37,40,43,46,48,51,54,57,60],{"slug":28,"category":5,"name":29,"updated_at":30},"access-review","Пересмотр доступов","2026-09-08T21:32:37+00:00",{"slug":32,"category":5,"name":33,"updated_at":30},"ai-governance","Управление ИИ",{"slug":35,"category":5,"name":36,"updated_at":30},"ai-review-board","Совет по рассмотрению ИИ",{"slug":38,"category":5,"name":39,"updated_at":30},"ai-risk-tiering","Ранжирование ИИ по риску",{"slug":41,"category":5,"name":42,"updated_at":30},"ai-system-inventory","Реестр ИИ-систем",{"slug":44,"category":5,"name":45,"updated_at":30},"ai-usage-policy","Политика использования ИИ",{"slug":12,"category":5,"name":13,"updated_at":47},"2026-09-08T21:32:36+00:00",{"slug":49,"category":5,"name":50,"updated_at":47},"blast-radius","Радиус поражения",{"slug":52,"category":5,"name":53,"updated_at":47},"break-glass-access","Аварийный доступ (break-glass)",{"slug":55,"category":5,"name":56,"updated_at":47},"bridge-letter","Бридж-письмо (bridge letter)",{"slug":58,"category":5,"name":59,"updated_at":47},"business-associate-agreement","Соглашение с бизнес-партнёром (BAA)",{"slug":61,"category":5,"name":62,"updated_at":47},"byok","Собственный ключ шифрования (BYOK)"]