Стивен Хокинг и Элон Муск недавно описали искусственный интеллект как серьезную угрозу для человечества. Их беспокойство заключается в том, что быстрые улучшения в интеллектуальной производительности компьютеров сделают их такими же умными, как люди. Человеческий уровень интеллекта может быстро привести к компьютерам, которые намного умнее, чем мы. Этот скачок правдоподобен, потому что у компьютеров есть преимущества над нами в отношении скорости обработки, хранения, доступа к огромному количеству информации и простоты передачи между компьютерами. Как только такая суперинтеллекция существует, она может оказаться в интересах и действиях, которые идут вразрез с интересами людей, на наш ущерб и, возможно, даже на нашу кончину. Насколько обеспокоены люди об этой проблеме?
В настоящее время я преподаю курс, который систематически сравнивает интеллект в машинах, людях и других животных. Для людей я использую то, что я считаю лучшей современной теорией интеллекта: архитектура семантического указателя Криса Элиасмита. Для машин класс рассматривает ведущие примеры текущих программ искусственного интеллекта, в том числе IBM Watson, бездорожники Google, CYC, Apple Siri и Google translate.
Это сравнение показывает, что между человеческим интеллектом и искусственным интеллектом все еще существуют огромные пробелы. IBM Watson очень впечатляет, отвечая на вопросы достаточно хорошо, чтобы победить отличных игроков в телевизионной игре Jeopardy. И он даже начинает проявлять некоторые способности к творческому решению проблем, когда шеф-повар Уотсон создает новые рецепты. Более того, похоже, что Уотсон собирается внести ценный вклад во многие другие области, такие как бизнес и медицина. Тем не менее, Ватсон в обозримом будущем намного уступает человеческим способностям иметь дело с перцептивными представлениями, образами, эмоциями, сознанием, обучением, языком и полным спектром творческих проблем, которые могут решить люди. Другие текущие программы ИИ имеют сходные ограничения.
Поэтому я считаю, что искусственный интеллект на человеческом уровне более отдален в будущем, чем многие полагают. Идея, что машинный интеллект может привести к простому загрузке нейронных подключений людей в компьютер, крайне наивна из-за сложностей человеческого мозга, которые включают не только электрические соединения, но и широкий спектр химических процессов с участием нейротрансмиттеров, гормонов и глиальных клеток. Искусственный интеллект добился впечатляющих успехов за последние 60 лет, производя машины, которые могут играть в шахматы и перемещаться по поверхности Марса. Но я уверен, что это будет как минимум еще на 60-100 лет, прежде чем машинный интеллект начнет приближаться к человеческому интеллекту, сделав ИИ гораздо менее насущной угрозой для человечества, чем глобальное потепление, пандемии и растущее неравенство, ведущее к социальным конфликтам.
Более непосредственная озабоченность по поводу ИИ состоит в том, чтобы обеспечить, чтобы виды искусственного интеллекта, принятые такими группами, как американские военные, Google и Facebook, использовались для того, чтобы приносить пользу людям. Недавнее открытое письмо, подписанное Хокином, Муском и ведущими исследователями ИИ, делает сильное и разумное заявление о том, что искусственный интеллект должен использоваться для человеческой выгоды.
Хотя меня не интересуют машины, вытесняющие человечество в ближайшем будущем, есть много правдоподобности в том утверждении, что когда-то достигнутый, искусственный интеллект человеческого уровня может быстро произвести суперинтеллекцию, которая на самом деле может представлять угрозу для человечества. Переход от человеческого уровня к суперинтеллектуалу может произойти быстро из-за его вероятной способности расширяться со скоростью намного быстрее, чем человеческий интеллект. Компьютеры могут избежать наших ограничений в отношении скорости обработки, скорости обучения и прозрачности информации. Суинтеллекция действительно страшна, потому что нет оснований полагать, что она будет действовать в соответствии с человеческими этическими принципами.
Вы можете подумать, что вы можете программировать этические принципы в компьютере, но любая интеллектуальная программа может перепрограммировать себя, чтобы устранить правила, которые были им предоставлены. Я сомневаюсь, что у суперинтеллектуала будет стремление к этическому мышлению, которое приходит почти ко всем людям через нашу эмоциональную способность заботиться друг о друге. Самые влиятельные взгляды в философии пытались сделать этику вопросом разума, например, через права и обязанности кантианцев или посредством утилитарных расчетов наибольшего блага для наибольшего числа. Я считаю более правдоподобным мнение Юма и некоторых феминистских этиков о том, что эмоции и забота лежат в основе наших этических суждений. Нельзя ожидать, что интеллектуальность машины будет иметь одинаковую этическую основу, потому что эмоции отчасти являются результатом физиологии, а не только когнитивной оценки ситуаций. Джон Хоугланд однажды сказал, что проблема с компьютерами в том, что им просто наплевать. С точки зрения долгосрочной выгоды ИИ для человечества, проблема в том, что им просто наплевать на нас.