Подъем разумной машины – это старый троп в научной фантастике. И это никогда не получается для человечества. «Терминатор» , «Матрица» и « Я», «Робот», являются примерами фильмов, в которых изображаются интеллектуальные машины , которые становятся сознательными, а затем уничтожают или подчиняют своих создателей.
Голливудские блокбастеры – редко точные портреты реальности. Итак, действительно ли нам есть что бояться наших интеллектуальных машин? Некоторые ученые считают, что вполне разумно бояться ИИ.
Когда в 2014 году состоялась премьера трансценденции в кассе, известный физик Стивен Хокинг и его коллеги записали комментарий к ведущей британской газете The Independent . Отмечая, как искусственный интеллект значительно усиливает человеческий интеллект, они замечают: «Успех в создании ИИ будет самым большим событием в истории человечества». Но затем появляется предупреждение: «К сожалению, это может быть и последнее, если мы не научимся избегайте рисков ».
Как и в случае с любой новой технологией, нам нужно тщательно взвешивать потенциальные выгоды от опасностей и находить способы их смягчения. Хокинг и его коллеги указывают на то, как ИИ может сбиться с пути и иметь непреднамеренные последствия. Он также может быть установлен в гнусных целях недоброжелательными людьми. Но авторы кажутся менее озабоченными разумными машинами, умышленно разрушающими человечество.
Норвежский биолог Бьёрн Гринде в своей новой книге «Эволюция сознания» указывает, что интеллект не означает сознание. «Природа полна разумных решений без какого-либо намека на сознание», – пишет он (стр. 61). То же самое можно сказать о наших машинах.
Нет единого определения интеллекта, на которое все согласны, но существует общее мнение о том, что он включает в себя способность учиться на опыте, адаптироваться к меняющейся среде, принимать решения и действовать в собственных интересах.
Жизнь существует на планете более трех миллиардов лет, главным образом в форме одноклеточных организмов. Только до эволюции нейронов и нервных систем 600 миллионов лет назад появился интеллект.
Вы можете утверждать, что способность микробов двигаться к питательным веществам и от токсинов является свидетельством интеллекта без нервной системы. Но Гринде утверждает, что эти движения можно объяснить с точки зрения химических процессов.
У нас нет причин предполагать интеллект со стороны растений. Их рост определяется физикой гравитации и света, и процветают ли они или погибают, это дело слепой удачи. Семена, которые прорастают в богатой почве и солнечном свете, процветают, в то время как те, которые приземляются в бедной почве и тени, увядают. И если условия меняются, завод не может двигаться в более выгодное положение.
Только животные могут приближаться к возможностям и избегать угроз, и это потому, что они имеют нервные системы. Вся цель нервной системы состоит в том, чтобы позволить организму взаимодействовать со своей средой для достижения конечной цели получения своих генов в следующее поколение.
Если вы не двигаетесь, вам не нужен мозг. Просто спроси морской шприц. В юности он плывет как головастик, но во взрослой жизни он придает рок, где он проводит всю оставшуюся жизнь. Его первым действием после успокоения является поглощение собственного мозга.
Животные проявляют интеллектуальное поведение, потому что у них нервная система. Даже низкая нематода с 302 нейронами может научиться различать бактерии, которые хороши для еды, и те, которые сделали ее больной. У пчел крошечный мозг около миллиона клеток, и они не только хорошо разбираются в хорошей еде, они также могут сообщать местонахождение источников пищи своим ульям. Довольно удивительно для мозга пчел!
У осьминога есть мозг в сто раз больше размера пчелы, что делает его настоящим гением подводного мира. Эти головоногие моллюска могут научиться управлять сложными лабиринтами, использовать инструменты и даже учиться, наблюдая за тем, что делают другие. Итак, осьминог явно умный, но имеет ли он сознание? Некоторые нейробиологи говорят: «Может быть». Но Гринде более склонна говорить: «Может быть, нет».
Гринде – это не просто видовой шовинист. Скорее, его кишка говорит ему, что пчелы и осьминоги не осознают. Вы, вероятно, не знаете об этом, но на самом деле у вас есть второй «мозг» в вашем желудке. Строго говоря, это сеть нейронов, идущих от рта до ануса, которые контролируют деятельность желудочно-кишечного тракта. Несмотря на то, что он крошечный по сравнению с гигантским нейронным блобом внутри вашего черепа, у 500 миллионов нейронов он в пять раз превышает размер мозга осьминогов.
«Гут» мозг выполняет свою работу с очень небольшим вкладом от большого мозга наверху. Фактически, кишка только общается с мозгом на основе потребности в знаниях, главным образом, когда что-то пошло ужасно неправильно. В настоящее время вы не знаете о токсичных бактериях, которые быстро размножаются и съедают на животе. Но на мгновение ваш мозг «кишки» отправит сигнал тревоги, и только когда сообщение дойдет до вашего основного мозга, вы осознаете, что собираетесь болеть. (Это также ваш главный мозг, который переводит вас в ближайшую ванную комнату.)
Если количество нейронов является приблизительной мерой интеллекта, то ваша кишка в пять раз более умна, чем осьминог. И если у вашей кишки нет сознания, почему мы должны считать это со стороны скромного головоногих? Другими словами, одного интеллекта недостаточно для создания сознания.
Вместо этого Гринде утверждает, что сознание возникает из основных эмоций боли и удовольствия, которые обеспечивают мотивацию поведения и ведут к быстрому обучению. Эмоциональные состояния генерируются некоторыми структурами переднего мозга, такими как кору головного мозга и лимбической системе. Эти структуры хорошо развиты у млекопитающих, и они также существуют в более примитивных формах у птиц и рептилий, но не у других животных. Другими словами, сознание строится на эмоциях, а не на интеллекте.
В научно-фантастической тропе машины становятся все более и более умными, пока не пройдут какой-то порог, после чего внезапно появляется сознание. Но где именно этот порог? Возможно, это так называемая сингулярность, когда машины становятся более умными, чем люди, – что бы это ни значило.
В фильме « Трансцендентность» сценаристы выдумывают проблему порогового сознания. В частности, у них есть изобретатель интеллектуальной системы, который каким-то образом загружает свое собственное сознание в компьютер. Вместо того, чтобы машина становилась как мужчина, мужчина помещается внутри машины.
Но тогда история уже не о том, что AI намеренно уничтожает человечество. Вместо этого речь идет об одном человеке, использующем ИИ против своих собратьев. И это опасность AI, о которой предупреждает нас Стивен Хокинг.
