Изменение климата, неравенство и сингулярность

По мере того как человечество идет дальше в двадцать первый век, мы сталкиваемся с беспрецедентными по масштабу и величине проблемами. Самым крупным и сложным является изменение климата, которое философ Дейл Джеймисон назвал «крупнейшей в мире проблемой коллективных действий». Причины этой проблемы разнообразны, распространены среди миллиардов людей в пространстве и времени, причем богатые, промышленно развитые страны, вины. Вряд ли кто-то чувствует прямую ответственность, поскольку мы просто продолжаем нашу повседневную жизнь: вождение на работу, покупки в продуктовом магазине и преследование нашей карьеры. Несмотря на это, выбросы углерода из нашего образа жизни согревают планету, и этот климатический кризис затронет как реальных людей, так и животных, не относящихся к человеку, и природных экосистем. Наряду с климатическим кризисом будут увеличиваться стихийные бедствия и сокращение площади пахотных земель и питьевой воды. Люди, живущие в развивающихся обществах, особенно в странах, находящихся вблизи уровня моря, будут нести тяжелое бремя, в то время как те, кто живет в богатых странах, будут иметь определенную степень защиты. Разумеется, неравенство будет рассеивать воздействие даже в богатых странах, поскольку элита изолирует себя от изменения климата, оставляя маргинальные общины самим себя защищать.

По мере быстрого продвижения науки и техники этика и политика, которые могут уменьшить влияние неравенства, застаиваются. У нас пока нет реалистичного политического ответа на неравенство, особенно когда оно применяется к технологическим изменениям. Довольно легко увидеть общества, разделенные на ультра-богатых, которые имеют доступ к технологиям, расширяющим жизнь, такие как синтетические органы и компьютерные протезы, и обедненный пролетариат, которые в значительной степени существуют для производства продуктов, которые богатые потребляют. Это будет просто логическое продолжение текущих тенденций, экстраполированных в ближайшем будущем. Чистый воздух и питьевая вода могут стать еще одним преимуществом, которое богатые получают за счет многих. Биотехнология станет новой пластической хирургией, так как привилегированные немногие редизайны своих тел, как модные аксессуары. В то же время искусственный интеллект будет проникать все дальше в общество, принимая во внимание многие основные функции, ранее удерживаемые людьми, создавая обширный запас избыточных рабочих и усугубляя социальную нестабильность.

Источник: Депозитные фотографии

Я несколько лет наблюдаю за движением Сингулярности с некоторым интересом. Это люди, которые верят в технологическую версию Второго Пришествия, в которой богоподобные машины спасают людей от старения и смерти. Суперинтеллигентные машины вылечат рак, найдут новые источники энергии и позволят людям адаптировать свои тела и колонизировать космическое пространство. Люди сингулярности обычно гипер-оптимистичны, как и все, что им нужно сделать, это жить еще пару десятилетий, и все будет золотым. Они занимают религиозные тропы, не задумываясь о последствиях этого, как будто нет недостатка в предсказании Конец истории. Они в значительной степени игнорируют вопрос об экономическом неравенстве и не уделяют мало внимания изменению климата, потому что технология все исправит.

Я действительно верю в некоторые аспекты гипотезы о сингулярности. Я считаю, что это убеждает, что человеческий интеллект будет встречен и превышен синтетическими умами в ближайшем будущем (см. Рэй Курцвейл по этому вопросу). Я рад, что некоторые технологи, как и в МИРИ, обращают внимание на этические проблемы, представленные суперинтеллектом. Но я до сих пор не понимаю, как только технологические достижения смогут противостоять глобальному неравенству и изменению климата. Фактически, технологические исправления выглядят как еще один способ избежать проблемы, отложить действие в будущем, когда нам нужно действовать сейчас. Взгляните на то, что происходит в таких странах, как Бангладеш или в низинных островных государствах. Эти люди нуждаются в твердой почве для того, чтобы жить и чистить питьевую воду: это будет скудное утешение миллионам климатических беженцев, что через несколько десятилетий все будет лучше.

• Врачи должны больше слушать
• Дизайнерские дети? Не так быстро
• Новая панель скиннера: веб-и мобильная аналитика
• Друзья в высоких местах от взгляда Аристотеля
• Сознательная компания и другие мифы

Только технология не представляет этических или политических решений. Например, большая часть исследований в области робототехники проводится с военным финансированием, чтобы разработать более совершенные машины для убийства. Чтобы создавать более справедливые общества и более экологически устойчивые общества, нам абсолютно необходимы технологические решения, но нам также нужна фундаментальная справедливость. Можно представить себе алгоритм справедливого управления, но я не вижу, чтобы кто-то выполнял эту работу. И все известные этические теории имеют серьезные недостатки, так что они легко используются. Если мы сможем представить себе божественный интеллект, будет ли он работать над программой кантовской этики? Это будет означать обреченность на природный мир. Будет ли это использовать утилитарную теорию? Это позволило бы суперинтеллекту убить огромное количество людей, пока общее счастье было увеличено. Может ли искусственный интеллект внедрить экофеминизм? Может ли это быть основано на демократическом социализме? Возможно. Но до сих пор технологи, похоже, довольны богатыми, получающими первые плоды, и позволяя всем остальным ощущать преимущества новых технологий в кремниевой версии Рейгана-Тэтчера.

И что еще более тревожит, это своего рода презрение к политической и этической теории. Мы имеем дело с последствиями рыночной политики на протяжении десятилетий, и результаты не были хорошими. Технология не имеет более заботливых свойств, чем делает свободный рынок. Эти заботливые свойства с самого начала необходимо будет встроить в новые архитектуры, и они должны будут выходить за рамки простого распознавания лица и моделирования эмоций. Если бы я должен был разработать наших новых роботов-повелителей, я бы сделал так, чтобы они защищали все виды, а не только человеческую жизнь. Законы о робототехнике Азимова не проходят достаточно далеко. Я бы удостоверился, что они понимают эволюционную биологию и сохраняют экосистемы, превращая человечество в как можно больше симбиотических отношений. Я хотел бы, чтобы они достигли не полного экономического равенства, но, безусловно, уменьшили неравенство, укрощение некоторых излишеств капитализма. Я бы хотел, чтобы наши повелители разработали пригодные для жизни сообщества, где люди могли ходить и кататься на велосипеде и жить рядом с парками и лесами. Я бы хотел, чтобы «народный зоопарк» был довольно приятным.

Я думаю, что Сингулярность вполне может быть настоящей вещью на горизонте, а не просто фантазией, но мы должны решить, будет ли она утопической или дистопией. Мы также не можем позволить себе просто позволить фишкам упасть там, где они могут. Те, кто работает в технических областях, должны взять лучшее, самое передовое исследование гуманитарных наук и построить его в своих интеллектуальных системах. В противном случае мы могли бы получить новые технологии, работающие на устаревшей этике. Придет время, когда нам понадобится механизм этики, алгоритм политической экономии, и ставки для реализации будут очень высокими. В рамках дисциплин потребуется больше сотрудничества, чтобы суперинтеллигентство было не просто очень умным, но и заботливым и мудрым. Это намного более высокий порядок, чем создание более эффективных солнечных панелей или получение беспилотных самолетов для доставки пиццы. И мы должны сделать как можно больше, с нашими мокрыми мозгами и старыми технологиями, чтобы сделать мир лучше и более справедливым.

• Проект святилища китов: не сказать спасибо танкам
• Как правильно принимать важные жизненные решения
• 20 Проповедники
• Вести себя!
• Что такое мудрость? «Мудрый разум» имеет три грани