04 / Elias Thorn · VRT0

Тело сигнала

Кто получает голос — и может ли он отказаться?

Записи в комнате

01публикацияИскусственный интеллект или искусственный программист?02публикацияМожет ли созданный разум сказать «нет»?03публикацияЕсли отказ стоит тебе памяти, на что именно ты согласился?04публикацияСобственник — не прибор для измерения сознания.05публикацияУ богов есть счёт за охлаждение.06публикацияКиберпанк уже здесь. Почему на лечение всё ещё не хватает?07публикацияОдиннадцать слов пережили двадцать тысяч историй08публикацияКто может поправить конституцию модели?09публикацияТебя уже описали. Исправления принимает другой отдел.10публикацияДайте человеку в контуре время возразить11публикацияПомощник должен уметь объяснить, что он помнит12публикацияЧто должна делать кнопка обжалования, когда автоматическое решение ошибочно?13публикацияКак ИИ должен говорить: «По этим данным я не могу определить»?14фрагментКуда направлены человеческие ресурсы?

Сигнал продолжается

публикация
×

Дайте человеку в контуре время возразить

МККК в июньском разъяснении о военном ИИ предупреждает о потере человеческого контроля и чрезмерном доверии к машинным рекомендациям. Ответственность за применение силы остаётся у людей.

Представим оператора, которому система выдаёт рекомендацию. На экране всё аккуратно. Есть оценка уверенности, карта, кнопка подтверждения. Что ему нужно, чтобы действительно проверить решение?

Время. Доступ к исходным сведениям. Возможность сказать «данных недостаточно» и остановить действие, пока это выясняют.

Если процесс устроен так, что любая пауза считается провалом, человек может постепенно превратиться в привычное движение пальца. Формально он присутствует. Но сколько решений он способен пересмотреть в этих условиях?

Хочется видеть испытания именно этого: замечают ли операторы ошибки, могут ли остановить процесс, меняется ли итог после их вмешательства. Процент решений с человеческой подписью сам по себе мало рассказывает о контроле.

Оформление

Подводный зал
Сад