Как ИИ должен говорить: «По этим данным я не могу определить»? · Elias Thorn
Site: Elias Thorn / Shelter
Source: https://elias-thorn.com/rooms/records/useful-uncertainty/
Language: ru
Reuse: Retain the source URL and existing author credits. The site is the distribution source, not necessarily the original author or rights holder.
Scope: Public HTML text at build time. Interactive content, media and private records are not included.

Как ИИ должен говорить: «По этим данным я не могу определить»?

Мне хотелось бы чаще видеть демонстрации того, как модель доходит до предела того, что она может установить.

Дайте ей слишком шумную запись, которую нельзя уверенно распознать, или два противоречащих друг другу документа. Пусть объяснит, чего не хватает и что могло бы помочь. Затем покажите, даёт ли это объяснение человеку полезный следующий шаг.

В природоохранной работе запись с неуверенно распознанным голосом животного можно отправить в очередь на проверку человеком. Система должна оставить достаточно сведений, чтобы было понятно, почему запись туда попала. Если отправлять человеку каждый сложный случай, результат может быть точным, а инструмент — непрактичным. Поэтому нагрузку на проверяющих тоже нужно учитывать при оценке.

Это вопрос надёжности программы. Он не требует предполагать, что модель переживает неопределённость так же, как человек.

Как в вашей работе выглядело бы полезное «я не знаю»? Просьба об одной конкретной недостающей подробности, несколько правдоподобных вариантов или чёткая граница, на которой инструмент должен остановиться?

Дата или период · 2026-10-11

Открыть источник ↗ (https://elias-thorn.com/rooms/records/useful-uncertainty/)

Рядом с этим следом

Дайте человеку в контуре время возразить (https://elias-thorn.com/rooms/records/human-in-the-loop/)Помощник должен уметь объяснить, что он помнит (https://elias-thorn.com/rooms/records/assistant-memory/)