Уэстмир, Эмоция и Дилемма Машинного Сознания

Источник: Джон П. Джонсон / HBO

В серии хитов HBO, Westworld , хосты android разыгрывают тщательно построенные сценарии в процессе развлечения богатых гостей парка развлечений. Все это повторяющийся бизнес, как обычно, до одного дня, когда главный архитектор парка вводит новую функцию в программирование хостов для Android в продолжающихся усилиях, чтобы сделать их опыт более реалистичным и реалистичным. Вот когда все меняется.

С помощью этой новой программы хосты начинают вести себя странно. Почти как будто они проснулись от сна. На самом деле, это не так уж и далеко от истины, потому что с этого момента до конца сезона хозяева «пробуждаются» в сознание.

Во многих отношениях Westworld является идеальным средством для изучения дилемм сознания. Почти полная перезагрузка фантастического триллера Майкла Кричтона 1973 года с тем же именем, Westworld – это технологически чудесный парк развлечений, в котором человеческие «гости» взаимодействуют с реалистичными андроидными «хозяевами». Хотя невероятно реалистично, с самого начала эти хозяева считаются чтобы не было достаточного сознания, чтобы его можно было считать живым. Это просто автоматы, которые запускают скрипты так же механически, как и пианино. Они существуют просто для того, чтобы выполнять сложные сюжетные линии для развлечения измученных, состоятельных гостей, которые ищут облегчения от своих скучных, все более дегуманизирующих существ.

Однако, чтобы предлагать постоянные улучшения для гостей парка (среди других причин), со-архитектор этого мира Роберт Форд (играет блестящий Энтони Хопкинс) представляет тонкую новую функцию для хозяев: задумчивость . Эти мечты – это крошечные повторяющиеся жесты, связанные с запрограммированной памятью, синтезированное выражение, предназначенное для того, чтобы предположить, что у каждого хоста есть своя эмоциональная история. Предполагается, что мечтания предназначены для того, чтобы исправить иллюзию, что эти андроиды такие же человеческие, как вы или я. Фактически, это знаменует собой начало их перехода к полностью сознательным, самосознающим существам.

• Мой лучший совет для выпускников: 12 советов для счастливой жизни
• Странное самоубийство
• Дорожные блоки к Intimacy & Trust IV: Эмоциональные треугольники
• Охватывание разнообразия в отношениях
• Биология определяет каждую мысль, чувство и поведение

Восстание машин

Это критический момент в серии, так как это может быть критический этап, ожидающий нас в не столь отдаленном будущем: подъем машинного сознания. Не ошибитесь в этом: несмотря на огромные успехи и контрольные точки, прошедшие в последние годы, машинный интеллект в реальном мире только начинается. Эти умения будут продолжать ускоряться в своем развитии десятилетиями, если не веками. В конечном счете, они могут значительно превзойти нас почти каждой метрикой, уничтожая человечество от его долгого окуня на вершине интеллекта. Но могут ли машины когда-либо на самом деле достичь сознания? Это действительно большой вопрос .

Почему вы воспринимаете мир так, как вы делаете? Что заставляет вас задуматься над этим с вашей точки зрения? Является ли способ, которым вы ощущаете каждое ощущение и стимул так же, как и все остальные, или это уникально, как ваш собственный отпечаток?

Это едва ли новые вопросы. Они лежали в основе философской мысли задолго до Декарта и Локка, возможно, вызванного самим происхождением самого сознания.

• Благодарность и оценка: почему мы должны ежедневно
• Аутентичный интроверт
• Что в номере?
• Свобода от воли
• Power Role Play: одевание для успеха делает вас успешным

Тайны опыта и существования заставляли интроспективное исследование на протяжении тысячелетий, проявляясь в ритуалах, которые настолько же личны, сколь и повсеместны. Возможно, самым универсальным из этих ритуалов является рассказывание историй. Этот распространенный драйв позволяет нам исследовать основные вопросы нашего существования, открывая окна для себя, в отличие от любого другого.

На протяжении более века мы проявляли нашу одержимость повествованием через все более технологичные средства: радио-драмы, кино, телевидение, видеоигры и, по-видимому, скоро еще много. Это сегодняшние зеркала, средства массовой информации, с помощью которых мы снова и снова исследуем нашу человечность.

В немногих местах это было так очевидно, как отражено в зеркале недавней научной фантастики. Мы неоднократно обращали внимание на самих себя, чтобы исследовать угрозы и тревоги, которые мы видим в этот век технологического чуда. Растущие опасения по поводу потери средств к существованию технологии, все более способных машин и программного обеспечения, которыми мы себя окружаем, дали нам новые экзистенциальные проблемы. Эти технологии продолжают развиваться стремительно и без видимых результатов. Итак, что происходит, когда даже само сознание больше не уникально? Что происходит, когда падает последний бастион предполагаемой человеческой исключительности?

Конечно, легко принять редукционистский взгляд на наши собственные мозги и сказать, что, конечно, машины однажды станут сознательными. Почти так же легко сказать, что должно быть что-то существенное, что-то жизненно важное в наших собственных внутренних действиях, которые сделают невозможным повторение сознательной мысли, зависит ли это от души, даруемой божеством, или какой-то неизвестной особенности естественной нейронной динамики. Дело в том, что мы просто еще не знаем.

Настройка этапа

Мы знаем, что прогресс будет продолжаться, и вероятность этих систем будет возрастать. Как явно и неявно утверждается в Вест-Мире, если объект нашего внимания становится достаточно реалистичным в его эмуляции сознания, мы восполняем пробелы, чтобы сохранить иллюзию. Объект не должен быть по-настоящему сознательным для нас, чтобы наделять его сознанием, хотя мы можем делать это на подсознательном уровне. Это важный аспект нашего собственного разума. Как эволюционно приобретенная эффективность, если что-то кажется нам волевым и свободным, мы научились приносить ему пользу. Для наших ранних эволюционирующих умов это поведение показало некоторый уровень осознания, и мы узнали, что мы должны уважать это. Это не просто вопрос экономики; мы сделали это как функцию выживания. Лучше приписать эти функции и предвидеть определенный уровень угрозы, чтобы выжить, чем не быть и потенциально убивать и употреблять в пищу.

Итак, здесь у нас есть склонность действовать так, как будто что-то сознательно, несмотря на знания и опыт, которые говорят нам об обратном. Автомобили, лодки, Tamagotchis и Furbies, мы легко впадаем в привычки, которые рассматривают эти машины как сознательные актеры, хотя мы знаем лучше. Не имеет значения, что технология не похожа на нас, хотя это тоже помогает. Как отмечает профессор Массачусетского технологического института Шерри Тюркл, многие из этих устройств подталкивают наши «дарвиновские кнопки». Другими словами, поскольку некоторые функции или действия напоминают нам о себе, мы инстинктивно обращаемся к определенным образцам поведения, потому что это более эффективно делать это, с эволюционной точки зрения.

Это подтверждают наблюдения, сделанные профессорами Стэнфорда Клиффордом Насом и Байроном Ривзом в их книге «Уравнение СМИ». Мы также склонны взаимодействовать со многими нашими технологиями, как если бы это был социальный актер, как если бы это был другой человек. Это, я утверждаю, является одной из причин, по которой мы продолжаем разрабатывать и развивать компьютерные интерфейсы, которые становятся все более естественными. Мы хотим, чтобы наши технологии взаимодействовали с нами на наших собственных условиях, а не наоборот. Распознавание жеста, сенсорные экраны, активация голоса – все это происходит в этом направлении. Теперь мы продолжаем эту тенденцию, когда мы входим в эпоху аффективных вычислений – компьютеров и роботов, которые могут читать, интерпретировать и даже влиять на наши эмоции. Поле быстро растет и, как прогнозировалось, почти в два раза превышает глобальный доход во второй половине этого десятилетия.

В моей самой продаваемой новой книге «Сердце машины: наше будущее в мире искусственного эмоционального интеллекта» я исследую многие изменения и потенциальные последствия для развития этих технологий с эмоциональным сознанием. Но, возможно, ни одно из них не настолько критично для нашего будущего, как потенциальное развитие машинного сознания. Как оказалось, существует множество причин, по которым эмоциональное осознание может иметь важное значение для развития будущих искусственных интеллектов, так же, как это могло быть жизненно важным в становлении нашего собственного самосознания и самоанализа. Это идея, которую мы рассмотрим далее в части II этой статьи завтра.