Усталость от согласований (Approval Fatigue)

Усталость от согласований — то, что происходит с человеческой контрольной точкой при потоке: проверяющий перестаёт читать. Это типичный отказ надзора в автоматических системах, и это проблема конструкции, а не дисциплины: никто не удерживает настоящее внимание над очередью, которая не кончается и почти всегда в порядке. Механизм стоит назвать прямо. Ворота, срабатывающие на каждое действие, приучают стоящего за ними человека, что правильный ответ — одобрить, ведь почти всегда это так. Редкий случай, заслуживающий внимания, приходит выглядящим точно как сотня предыдущих, на том же экране, с той же кнопкой. Поток не просто снижает качество проверки: за некоторой частотой он превращает проверку в формальность, которая продолжает фигурировать в описании процесса и в анкете безопасности поставщика. Симптом легко измерить, и на него редко смотрят. Доля одобрений около ста процентов — не доказательство, что система работает; это доказательство, что ворота либо не нужны, либо не читаются, а различить одно от другого можно только по тому, что случилось на ошибочных случаях. Время на решение говорит о том же: одобрения длиной в секунду-две решениями не являются. Лечение — ставить меньше ворот, а не призывать людей сосредоточиться. Отправляйте на проверку только значимое: необратимое, необычное, дорогое, низкоуверенное, — а остальное пусть идёт с понятным журналом и дешёвой отменой. Непроверяемый поток выборочно контролируйте, а не игнорируйте. И давайте проверяющему то, чем этот случай отличается от обычного: полезное суждение здесь сравнительное, а интерфейс чаще всего утаивает именно сравнение. Есть и отложенная цена второго порядка. Однажды усвоив, что согласования — формальность, команда переносит привычку на случаи, где решение действительно требовалось, в том числе в других системах. Надзор — ограниченный бюджет, и трата его на случаи, которые в нём не нуждались, приводит компанию к разбору инцидента с полным журналом согласований, о которых никто не помнит.

Похожие термины

Ещё термины: ИИ-агенты