Дэвид Чалмерс – философ разума, наиболее известный своим аргументом в связи с трудностью того, что он назвал «трудной проблемой» сознания, которую он обычно обсуждает посредством мысленного эксперимента с участием зомби, которые действуют и говорят точно так же, как люди, и все же (я четко объяснил, что я думаю об этом в своем эссе «Зомбирование философии»).
Вчера мне было приятно видеть Чалмерса в действии в Центре выпускников Городского университета в Нью-Йорке. Он не говорил о зомби, рассказывая нам вместо этого о своих мыслях о так называемой Сингулярности, о предполагаемом моменте, когда искусственный интеллект превзойдет человеческий интеллект, в результате чего или весь ад сломается, или следующий славный этап в эволюции человека – в зависимости от того, будет ли вы обычно видите стекло наполовину пустым или наполовину заполненным. В разговоре выяснилось, что такое проблема Чалмерса (кроме его очень плохой стрижки): он читает слишком много научной фантастики и, по-видимому, не может вырваться из необходимости приостановить недоверие, когда вернется в реальный мир. Позволь мне объяснить.
Чалмерс (и другие сторонники возможности сингулярности) аргументации начинается с простого наблюдения за тем, что за последние несколько лет машины приобрели вычислительную мощность с необычайной скоростью, что можно экстраполировать на ближайший взрыв интеллекта. Слишком плохо, что, как должен знать любой ученик статистики 101, экстраполяция – это действительно плохой способ предсказания, если не быть разумно уверенным в понимании основных причинно-следственных явлений (чего мы не имеем в случае интеллекта). (Я задал вопрос по этим вопросам Чалмерсу в Q & A, и он отрицал, что использовал экстраполяцию слов вообще, я проверил с несколькими коллегами по вину и сыру, и все они подтвердили, что он это сделал – несколько раз).
Как бы то ни было, Чалмерс представил свой главный аргумент в пользу Сингулярности, который выглядит примерно так:
1. Скоро будет AI (то есть искусственный интеллект)
2. Скоро будет переход от AI к AI +
3. Скоро будет переход от AI + к AI ++
Следовательно, будет AI ++
Все три предпосылки и заключение, за которым следует в скобках утверждение о том, что каждый имеет только «отсутствующие победители», т. Е. Отсутствует что-либо, что может помешать любому из вышеперечисленных.
Чалмерс, очевидно, очень гордился его аргументами, но я понял, что мало кто был впечатлен, и я, конечно, не был. Во-первых, он последовательно отказывался определять, что означает AI ++, AI + или даже, если на то пошло, AI. Это, в разговоре о философии, является довольно серьезным грехом, потому что философский анализ не выходит из-под земли, если мы не будем достаточно ясно понимать, о чем мы говорим. Действительно, большая часть философского анализа направлена на выяснение понятий и их отношений. Вам было бы трудно (и все больше расстраиваться) найти любой философский анализ в разговоре Чалмерса.
Во-вторых, Чалмерс не предоставил ни одной причины для любого из своих ходов, просто изложив каждую предпосылку и добавив, что если AI возможно, то нет оснований полагать, что AI + (что бы это ни было) также не возможно, скоро. Но, друг мой, если вы предъявляете новые требования, бремя доказывания на вас доказывает, что есть положительные причины думать, что то, что вы предлагаете, может быть правдой, а не для всех нас, чтобы доказать, что это не , Сдвиг бремени доказывания – это самый старый трюк в риторическом инструменте, а не тот, который должен уважать уважающий себя философ перед своими сверстниками (или где-нибудь еще, если на то пошло).
В-третьих, обратите внимание на скобку о том, что любое из помещений, а также заключение не будут действительно выполняться, если «пробойник» мешает. Когда его спросили во время вопросов и ответов, что он имел в виду победителями, Чалмерс в значительной степени сказал все, что люди или природа могут бросить на развитие искусственного интеллекта. Но если это так, и если нам не предоставлена классификация и анализ таких победителей, тогда весь аргумент равен «X – это правда (если только что-то не доказывает, что X не является истинным»). Не так уж впечатляет.
Другой слон в комнате, конечно же, является самой концепцией «интеллекта», искусственной или человеческой. Это печально трудная концепция для распаковки и, тем более, для количественного измерения (что необходимо было бы разделить между AI и AI + или AI ++). Несколько человек отметили эту проблему, включая меня в вопросах и ответах, но Чалмерс небрежно отбросил ее в сторону, заявив, что его аргумент не зависит от человеческого интеллекта, вычислительной силы или интеллекта в более широком смысле, а только от неуказанного количества «G», которое он быстро связан с неопределенным набором когнитивных способностей с помощью функции неопределенного математического сопоставления (добавив, что «потребуется больше работы», чтобы сформулировать такое понятие – не шутить). В самом деле? Но подождите минутку, если мы начнем всю эту дискуссию об Сингулярности, используя аргумент, основанный на экстраполяции вычислительной мощности, разве наше обсуждение не должно ограничиваться вычислительной властью? (Который, разумеется, совсем не то же самое, что и интеллект). И если мы говорим об ИИ, что же там означает «я» там, если не интеллект, по-видимому, такой же человеческий?
На самом деле проблема с искусством ИИ в целом заключается в том, что мы добились небольшого прогресса после десятилетий попыток, вероятно, по очень хорошей причине, что человеческий интеллект не является алгоритмическим, по крайней мере, не в том смысле, в котором находятся компьютерные программы. Я, конечно же, не призываю мистицизм или дуализм здесь, я думаю, что интеллект (и сознание) являются результатом активности физического мозгового субстрата, но сам факт того, что мы можем строить машины со степенью вычислительной мощности и скорости, что значительно превосходит человеческий разум и все же нигде не является «умным», должно быть достаточно ясно, что проблема заключается не в вычислительной мощности, а в скорости.
После развертывания вышеупомянутого весьма сомнительного «аргумента» в разговоре Чалмерса все было странно. Он быстро продолжил рассказывать нам, что A ++ будет происходить путем моделирования эволюции в виртуальной среде, тем самым создавая размытое и запутанное сочетание из разных понятий, таких как естественный отбор, искусственный отбор, физическая эволюция и виртуальная эволюция.
Это, естественно, поднимало вопрос о том, как мы контролируем Сингулярность и останавливаем «их» от толкания нас к вымиранию. Предпочтительным решением Чалмерса является либо предотвращение «утечки» AI ++ в наш мир, либо выбор моральных ценностей во время (виртуального) эволюционного процесса. Глупый я, я думал, что самый простой способ остановить угрозу AI ++ – просто отключить машины, управляющие предполагаемым виртуальным миром, и покончить с ними. (Кстати, что это значит, что виртуальный интеллект существует? Как он «течет» в наш мир? Как голограмма Star Trek исчезла?)
Тогда уровень необоснованного абсурда обострился еще быстрее: возможно, мы на самом деле являемся одним из примеров виртуального интеллекта, сказал Чалмерс, и наш Создатель может быть готов оттолкнуть нас, потому что мы, возможно, собираемся просочиться в его / ее мир , Но если нет, то мы можем подумать о том, как интегрироваться в AI ++, что, естественно, можно было бы сделать путем «загрузки» нашей нервной структуры (рекомендация Чалмерса – это один нейрон за раз) в виртуальный интеллект – опять же, что бы это ни было может означать.
Наконец, Чалмерс, очевидно, обеспокоенный его собственной смертностью (ну, а кто нет?) – выразил надежду, что A ++ будет иметь технологию (и интерес, я полагаю), чтобы перестроить его мозг, возможно, из коллекции сканирований, книги и видеоролики о нем, и оживить его. Понимаете, он не думает, что будет жить достаточно долго, чтобы действительно увидеть Сингулярность. И это единственная часть разговора, на которой мы фактически договорились.
Причина, по которой я так долго продолжалась в ужасном исполнении Чалмерса, состоит в том, что это именно то, что придает философии плохое имя. Приятно видеть, что философы проявляют серьезный интерес к науке и привносят свои инструменты и перспективы своей дисциплины в высокий уровень важных социальных дебатов о будущем технологий. Но попытка становится не особо забавной шуткой, когда начинающий известный философ начинает разворачивать очень плохие аргументы и заканчивает тем, что на их ежегодном съезде становится больше кукушки, чем поклонники трекки. Теперь, если вы извините меня, я вернусь к следующему эпизоду Battlestar Galactica, где вы можете найти все основные идеи, обсуждаемые Чалмерсом, представленными в чрезвычайно интересной манере, чем его разговор.