Прошло 20 лет, и появились две новые технологии: BEVRE (Brain-Embedded Virtual Reality Entertainment) и PAGI (Personal Artificial General Intelligence) – система искусственного интеллекта, которая учится на ваших взаимодействиях, автоматизируя как можно больше вашего поведения так что вы можете идти по жизни на автопилоте.
Вы купили обе системы, как только они появились около 10 лет назад. Они дополняют друг друга. Вы хотите свободы спать или проверять, убегая в BEVRE, когда захотите. Большая часть вашей жизни утомительна. Вы бы предпочли позвонить, когда сможете, поэтому, конечно, вы хотите, чтобы PAGI автоматизировал все, что мог.
Около 18 лет назад, по той же причине, вы были первопроходцем в самостоятельном управлении автомобилями. Вождение утомительно. Вы хотели автомобиль с самостоятельным вождением, чтобы вы могли освободить свой разум от блуждания PAGI таков во всем, что касается вашей повседневной жизни, вашей трудовой жизни, социальной жизни, семейной жизни.
Проблема в том, что вы используете PAGI уже десять лет. Вы надеялись, что это автоматизирует все, но вы все еще получаете эти сообщения вмешательства водителя, призывающие вас переопределить автоматизацию, когда PAGI наткнулся на какое-то взаимодействие, которое он еще не может автоматизировать. Раздражает необходимость продолжать следить. Жаль, что PAGI не автоматизирует все. Вы хотите, чтобы это работало лучше.
Надуманный футуризм? Попробуйте поменяться ролями.
PAGI – это твой разум. Ваш ум уже автоматизирует то, что он может, превращая ответы в привычки, ноу-хау, все, что вы можете делать, не думая об этом, оставляя свой ум свободным для того, чтобы его развлекали мечты или что-то еще. Было бы удобно, если бы ваш ум мог автоматизировать все, но нет, вы продолжаете сталкиваться с новыми обстоятельствами, которые невозможно автоматизировать.
Ваш разум не компьютер, но он немного похож на компьютерного программиста. Ваши привычки похожи на компьютерные программы, созданные вашим умом, которые, как и PAGI, пытаются автоматизировать все, а не то, что могут. Остаются все эти области вашей жизни, где все слишком ненадежно, непредсказуемо, неопределенно. Ваш разум продолжает вызывать неопределенности. Это раздражает, но это жизнь.
Возможно, вы слышали, что ваш разум это компьютер. В наши дни это популярное понятие, даже доминирующая идея в искусственном интеллекте и многое другое, когнитивная наука, философия, даже жизнь и социальные науки. Но это неправильно. Ваш разум – это не компьютер.
Это ошибочное мнение возникает из-за неаккуратной путаницы. Классическая физика внутренне связна. В классической физике нет чудес и противоречий. Математика разработана с внутренней последовательностью как целью, предотвращением любых внутренних противоречий. Он не идеален (например, доказательство Геделя), но достаточно близок, чтобы создать впечатление внутренней согласованности. И компьютеры также предназначены для внутренней согласованности. Компьютер, который противоречит сам себе, заблокируется.
Ничто из того, что делает организм, не нарушает классическую физику. Мы можем моделировать выбранное поведение с помощью математики или компьютеров. Другими словами, мы можем моделировать надежные привычки живых существ с помощью математики или компьютеров. Значит ли это, что мы компьютеры? Являются ли живые существа вычислениями?
Вы, наверное, слышали, как раньше говорилось, карта не территория. Вы можете смоделировать что-то, не понимая истинную природу этого чего-то. Карты и территории статичны, а мы динамичны, поэтому, возможно, мы хотим сказать, что смоделированные направления не являются реальными направлениями. Когда мы говорим, что мозги это вычисления хуже. Математика это не территория. Картография это не территория. То, что мы можем моделировать привычки человека с помощью вычислений, не означает, что люди занимаются вычислениями. Это правда, что ничто разум не нарушает законы физики. Но мы не компьютеры.
Тем не менее, мы хотели бы быть настолько, насколько мы можем. В этом суть научно-фантастического упражнения. Ум – это не компьютер, а нечто вроде генератора автоматизации PAGI. Все, что становится достаточно надежным, чтобы мы могли справиться с этим автоматически, мы делаем. Сознание или умственная деятельность подобны ПАГИ. Он имеет дело с неожиданностями, неожиданностями и в той степени, в которой он может, он пытается превратить неожиданное ожидаемое в надежные, фиксированные привычки, чтобы мы могли вернуть себе разум, свободно иметь дело с другими неожиданными взаимодействиями или просто расслабиться или мечтать.
Это то, что подразумевается под медленным мышлением против быстрого мышления. Мышление быстро бежит по привычке. Медленное мышление имеет дело с сомнительными, удивительными обстоятельствами, которые еще не воплотились в привычку, то, что ум еще не превратил в привычки компьютерного алгоритма. Медленное мышление – это умы и сомнения; быстрое мышление – это внутренняя уверенность.
Тенденция предполагать, что умы – это компьютеры, не вызвана неаккуратной путаницей, описанной выше. Это также обусловлено естественным человеческим желанием. Хотя есть много о нас, что приходит в себя от мысли, что наши умы – это компьютеры, нам тоже многое нравится в этом. Назовите это робо- завистью , желанием, чтобы мы могли быть как компьютеры.
Подумайте обо всех преимуществах компьютера. Вы знаете много вещей, которые хотели бы сделать, но еще не сделали. Вы говорите себе, чтобы сделать это, но вы еще не там. Это включает в себя все навыки, которые вы понимаете в теории, но которые еще предстоит применить на практике, и все навыки мышления и эмоций, которые вы советуете себе применять, но не применяете. Вы говорите себе, чтобы быть терпеливым, добрым, любящим, принимающим, но ваша интуиция упряма. Говорить, что делать, недостаточно. Вы должны пережить свое горе из-за какой-то потери в прошлом, но прислушивается ли ваша интуиция? Вы говорите себе избавиться от этих вредных привычек – курить, пить, переедать, что угодно. Вы говорите себе перестать чувствовать то, что вы чувствуете, и это не работает. Вы говорите себе «Просто сделай это», а потом нет.
У вас не было бы этой проблемы, если бы ваш разум был компьютером, а вы – роботом. Вы можете просто перепрограммировать себя. Простой шаг; надежное изменение вашей природы. Это было бы завидной чертой у вас нет. Вы слышите, что это вызвано в самопомощи, например, «будь здесь сейчас» или «отбрось свое эго», как если бы это было так просто, как если бы наши аппетиты были под нашим полным контролем, как в запрограммированных роботах. Они не находятся под нашим полным контролем, и это нас беспокоит.
Это беспокоит нас и о других людях. Почему они не слушают причину? Почему я не могу просто сказать своему супругу, детям и коллегам просто отключить его, а они автоматически отключат? “Что с тобой не так? Я сказал вам, чтобы сделать X! Так почему бы тебе просто не сделать это?
Мы существа привычки, и наши умы являются создателями привычки. Когда у нас есть привычка, это трудно изменить. Мы можем утверждать, что мы открыты для обучения, но это не совсем так. Разум постоянно пытается внедрить как можно больше в компьютерную привычку. Разочаровывает ум, когда мы обнаруживаем, что то, что мы успешно напичкали, всплыло как ненадежное. Мы сводим к минимуму медленное мышление, насколько мы можем. Как и вы в научной фантастике, вы бы хотели, чтобы все было уже автоматизировано. Вы хотите, чтобы ваш разум был минимальным, чтобы вы могли путешествовать на автопилоте.
Наша робо-зависть заставляет людей стремиться к религиозному, духовному или политическому абсолютизму. Разве не было бы неплохо очистить нашу жизнь? Разве не было бы неплохо быть запрограммированным жить по какому-то верному алгоритму? Нет больше беспокойства, растерянности или неуверенности в себе. Ваша всемогущая интуиция всегда будет знать, что делать. Никогда не запутавшись в том, что имеет значение, вы бы уже знали.
Робо-зависть вызывает отвращение к теории эволюции Дарвина естественным отбором, а не страхом, что мы произошли от обезьян, не страхом уменьшенной роли Бога, а страхом неизбежного влечения. Все адаптации – это привычки реагирования, которые могут быть успешными или неудачными. Нет абсолютно безошибочных рецептов того, как жить, нет убер-алгоритма. Ваши привычки могут оказаться неудачниками.
Конечно, мы ненавидим бесплодие роботизированного существования, но мы тоже жаждем этого. Мы думаем об этом как о свободе воли против детерминизма. Мы хотим свободы взбираться, но не падать. Мы хотим детерминизм, который предотвращает падение, но мы не хотим детерминизм, который удерживает нас от подъема. Мы хотели бы, чтобы роботизированный детерминизм был настолько активным, чтобы мы могли использовать автопилот и программировать кишки других людей, чтобы они не доставляли нам неудобств во время подъема.
То, что мы действительно хотим, – это храповик, который надежно фиксирует провал и падение, сохраняя при этом свободу для подъема. Вы слышите это в наших молитвах всеведущему Богу, космическому GPS, который может сказать нам, как достичь нашего идеала, потому что мир вокруг нас полностью автоматизирован, как в компьютерной игре для одного человека. Все остальные были бы роботами, поэтому мы можем взобраться на их надежных персонажей на следующий уровень и на следующий, вплоть до небес.
Мы мечтаем о внутренней согласованности, такой как робот, компьютер, математика или физика, и мы никогда не достигаем этого. Как и PAGI, мы постоянно сталкиваемся с тем, что невозможно автоматизировать. К счастью, в отличие от роботов, мы не запираемся, нам интересно. Или мы делаем противоположное, ограничиваясь какой-то автоматизированной привычкой, которая не работает, но служит нашей жажде робо-зависти для абсолютной уверенности.
Рекомендации
Брокман, Джон, ред. (2018) Возможные умы: 25 способов взглянуть на ИИ. Нью-Йорк, Нью-Йорк: Пингвин Пресс.
Канеман, Даниэль (2013) Думая быстро и медленно. Нью-Йорк, Нью-Йорк: Фаррар, Страус, Жиру.
