Раскрытие использования ИИ

Раскрытие использования ИИ — это сообщение затронутым людям о том, что в дело был вовлечён ИИ: что они говорят с ботом, а не с человеком; что материал сгенерирован или создан с помощью модели; что решение о них принято с участием модели. Отчасти это юридический вопрос, но в основном вопрос доверия, и оба указывают в одну сторону чаще, чем ожидают продуктовые команды. Случаи полезно разделять. Диалоговое раскрытие, где пользователю нужно знать, человек ли ответил, важнее всего тогда, когда альтернатива — быть введённым в заблуждение о собеседнике, и когда пользователь может захотеть эскалации к человеку. Контентное раскрытие охватывает сгенерированный текст, изображения, звук и видео, и именно здесь синтетические материалы с реальными людьми поднимают самые острые вопросы. Решенческое раскрытие охватывает автоматическую обработку, влияющую на доступ человека к услуге, работе или деньгам, и это область, где законная обязанность встречается чаще всего — в зависимости от юрисдикции. Помогает раскрытие или нет, решает формулировка. Сплошная плашка «на сайте используется ИИ» — это шум: она есть везде, ничего не говорит об ответе перед глазами и размывает случаи, которые действительно важны. Раскрытие, привязанное к конкретному результату и поясняющее, что было сгенерировано и что проверил человек, пригодно: читатель сам решит, какой вес этому дать. Там, где ответ опирается на источники, показать их лучше, чем утверждать надёжность. Есть версия, которая работает против вас. Раскрытие как щит от ответственности — длинное предупреждение о возможной неточности, приложенное к продукту, который подаётся как авторитетный, — перекладывает бремя на пользователя, ничего не меняя в системе, и читатели учатся его не замечать. Если функция настолько ненадёжна, что нуждается в столь сильном предупреждении, предупреждение не является решением. Определите политику один раз и применяйте её последовательно, потому что вред от раскрытия почти никогда не в самом раскрытии. Он в том, что клиент узнаёт — из оговорки агента поддержки или из статьи журналиста, — что принятое им за человеческое или ручное таковым не было. Последовательность к тому же делает правило простым для сотрудников, а это и удерживает его в силе в продукте, куда ИИ добавляют функция за функцией.