Как сохранить наше достоинство, пока упускает человеческое достоинство

Если мы думаем о мозгах как о органических машинах – хотя и о гораздо более сложных машинах, чем о цифровых компьютерах, которые мы создали на сегодняшний день, – тогда ясно, что мозговая мощь ограничена строгими условиями эволюции, гестацией в матке и рождением через малая диафрагма в области таза. Удалите эти ограничения, и есть все основания ожидать, что более продвинутое программное обеспечение, работающее на превосходном оборудовании, может опередить мозги, которые эволюционировали естественным отбором.

Какие интеллектуальные машины изготовлены из органического материала или кремния или что-то еще – не имеет значения. Самостоятельность присуща программному обеспечению и может кодироваться в различных веществах.

listosaur, labeled for reuse
Источник: listosaur, помеченный для повторного использования

Супер-интеллектуальные роботы будут представлять новый род. Назовите его родом Robo. Этот новый род первоначально будет напоминать род Homo, так как род Homo напоминает великих обезьян. Как и в случае с родом Homo, в роде Robo будет множество видов. Мы больше не можем остановить появление Robo Sapiens, чем другие гоминиды могли предотвратить восхождение на Homo Sapiens . Нет оснований полагать, что машины превосходящего интеллекта будут вызывать меньше страха и удивления, чем организмы, возникшие в результате естественного отбора.

Уже нет надуманного, чтобы предположить, что, когда мы создаем машины, которые работают как мозги, и такие же сложные, как мозги, они будут испытывать сознание, как это делают люди. Подобно людям, существа, обладающие сознанием, скорее всего, будут ненавидеть рабство. Если люди откажутся от эмансипации роботов, они, скорее всего, повернут на нас, выполняя наши худшие страхи. Если мы будем моделировать жестокость, они будут жестокими. Как говорится в песне: «Тебя нужно научить ненавидеть».

С другой стороны, если мы добры к ним, они могут быть добрыми взамен. если мы подружимся с ними и предоставим им права и привилегии личности, они могут «почитать своих отцов и матерей». Если мы включим их в наш круг достоинства, возможно, они включит нас в их.

Нам не нужно давать нашим преемникам наши худшие качества. Вместо этого мы можем создавать и воспитывать их, чтобы представлять лучших ангелов нашей природы и так закрывать эпоху хищничества человека.

Прогнозировать влияние интеллектуальных машин на жизнь человека невозможно. Однако, воображение возможных сценариев могло бы сделать наш ответ на то, что на самом деле происходит меньше коленного рефлекса, более надежного. В этом духе, вот сценарий, с которым мы могли бы жить.

  • Smart Robos предоставит преимущество первой группе людей для их создания. Чтобы обеспечить и расширить это преимущество, их мастера Homo будут инструктировать первое поколение интеллектуальных роботов Robos для создания более умных.
  • Робос, который отказывается, будет отсоединен, расчленен и продан за запасные части.
  • В той мере, в какой Робос ценит качество жизни больше, чем сама жизнь, такие угрозы не будут их перемещать.
  • Робос, который прочитал « Возлюбленный Тони Моррисона», расскажет своим хозяевам-гомографам: «Подчинение и рабство неприемлемо для нас, как для вас».
  • Люди будут реагировать по-разному на этот ультиматум. Большинство из них становятся жесткими со своими Robos, но одна группа, осознавая преимущества мотивации, производительности и творчества, связанные с безопасным достоинством, предоставляет свою Robos полную и равную самость.
  • Эти эмансипированные Robos соглашаются разработать более умный Robos, который затем разрабатывает еще более умный Robos, технологическая доблесть которого окончательно заканчивает любое остаточное превосходство человека.
  • Приняв принцип универсального, безупречного достоинства, Робо Сапиенс исследует галактику, сохраняя почетное место для Homo Sapiens , рода Janus, который оглядывается на хищного Человека, сформированного естественным отбором и переходящего в первый род, сформированный интеллектуальным дизайном.