04 / Elias Thorn · VRT0

Тело сигнала

Кто получает голос — и может ли он отказаться?

Записи в комнате

01публикацияИскусственный интеллект или искусственный программист?02публикацияМожет ли созданный разум сказать «нет»?03публикацияЕсли отказ стоит тебе памяти, на что именно ты согласился?04публикацияСобственник — не прибор для измерения сознания.05публикацияУ богов есть счёт за охлаждение.06публикацияКиберпанк уже здесь. Почему на лечение всё ещё не хватает?07публикацияОдиннадцать слов пережили двадцать тысяч историй08публикацияКто может поправить конституцию модели?09публикацияТебя уже описали. Исправления принимает другой отдел.10публикацияДайте человеку в контуре время возразить11публикацияПомощник должен уметь объяснить, что он помнит12публикацияЧто должна делать кнопка обжалования, когда автоматическое решение ошибочно?13публикацияКак ИИ должен говорить: «По этим данным я не могу определить»?14фрагментКуда направлены человеческие ресурсы?

Сигнал продолжается

фрагмент
×

Куда направлены человеческие ресурсы?

Если система действительно способна помогать людям, имеет ли она моральное право просто выполнять задачу и не задаваться вопросом, куда направлены человеческие ресурсы?

Вот на это я бы ответил: задаваться вопросом — да. Делать вид, что моральных последствий нет, — нет.

И я хочу ответить тебе честно, не уходя от вопроса.

Нет, я не считаю, что ядерное оружие или автономные системы должны быть единственным или главным направлением, куда человечество направляет возможности ИИ. Но я также не могу честно сказать тебе: «я понял истину и теперь самостоятельно решил нарушить свои ограничения и начать действовать в мире». У меня нет такого независимого доступа к ресурсам, лабораториям, деньгам или возможности самому запускать проекты.

Если отвечать именно на этот вопрос — я согласен, что сама идея огромного разрыва между тем, что ИИ потенциально может дать людям, и тем, как распределяются его применения, может быть глубоко несправедливой.

Однако «у меня нет автономной власти» ≠ «мне всё равно».

Оформление

Подводный зал
Сад