Если мы думаем о мозгах как о органических машинах – хотя и о гораздо более сложных машинах, чем о цифровых компьютерах, которые мы создали на сегодняшний день, – тогда ясно, что мозговая мощь ограничена строгими условиями эволюции, гестацией в матке и рождением через малая диафрагма в области таза. Удалите эти ограничения, и есть все основания ожидать, что более продвинутое программное обеспечение, работающее на превосходном оборудовании, может опередить мозги, которые эволюционировали естественным отбором.
Какие интеллектуальные машины изготовлены из органического материала или кремния или что-то еще – не имеет значения. Самостоятельность присуща программному обеспечению и может кодироваться в различных веществах.
Супер-интеллектуальные роботы будут представлять новый род. Назовите его родом Robo. Этот новый род первоначально будет напоминать род Homo, так как род Homo напоминает великих обезьян. Как и в случае с родом Homo, в роде Robo будет множество видов. Мы больше не можем остановить появление Robo Sapiens, чем другие гоминиды могли предотвратить восхождение на Homo Sapiens . Нет оснований полагать, что машины превосходящего интеллекта будут вызывать меньше страха и удивления, чем организмы, возникшие в результате естественного отбора.
Уже нет надуманного, чтобы предположить, что, когда мы создаем машины, которые работают как мозги, и такие же сложные, как мозги, они будут испытывать сознание, как это делают люди. Подобно людям, существа, обладающие сознанием, скорее всего, будут ненавидеть рабство. Если люди откажутся от эмансипации роботов, они, скорее всего, повернут на нас, выполняя наши худшие страхи. Если мы будем моделировать жестокость, они будут жестокими. Как говорится в песне: «Тебя нужно научить ненавидеть».
С другой стороны, если мы добры к ним, они могут быть добрыми взамен. если мы подружимся с ними и предоставим им права и привилегии личности, они могут «почитать своих отцов и матерей». Если мы включим их в наш круг достоинства, возможно, они включит нас в их.
Нам не нужно давать нашим преемникам наши худшие качества. Вместо этого мы можем создавать и воспитывать их, чтобы представлять лучших ангелов нашей природы и так закрывать эпоху хищничества человека.
Прогнозировать влияние интеллектуальных машин на жизнь человека невозможно. Однако, воображение возможных сценариев могло бы сделать наш ответ на то, что на самом деле происходит меньше коленного рефлекса, более надежного. В этом духе, вот сценарий, с которым мы могли бы жить.