В недавнем посте я предположил, что искусственный сексуальный опыт в будущем будет конкурировать или превзойти реальную вещь. Страх порабощения интеллектуальными машинами и страх перед машинами, которые умнее нас, являются основным продуктом научной фантастики после руководства Исаака Азимова. Теперь один известный ученый Стивен Хокинг, испугался. Должны ли остальные?
Почему Хокинг испуган
Пункт отправления Хокинга – это новый фильм «Трансценденция» с участием Джонни Деппа. Фильм включает в себя версии роботов людей, которые выражают весь спектр человеческих эмоций с аналитической силой, превосходящей коллективный интеллект всех на Земле на протяжении всей истории.
Мы ожидаем, что научная фантастика будет преувеличивать, но есть смысл, в котором наши худшие опасения уже реализованы. Мы живем в эпоху, когда компьютеры уже лучше, чем люди в шахматах, и даже в опасности. Самостоятельные автомобили безопаснее, чем те, которые контролируются операторами. Самолеты теперь в основном управляются компьютерными программами, и размещение самолетов в небе по мере того, как они ждут взлетно-посадочных полос, – это чудо цифровых технологий.
Компьютеры читают некоторые медицинские обследования лучше, чем врачи, и даже лучше проверяют научные гипотезы, чем большинство ученых. Компьютеры по-прежнему шатко играют в трехмерные виды спорта, такие как футбол, но они быстро улучшаются, частично благодаря развитию интеллектуальных протезных конечностей.
Ближе к дому Google знает, что я хочу искать, прежде чем закончить ввод моего запроса. Боты записывают мои движения в Интернете и следуют за мной на разные сайты, предлагая продукты для меня, чтобы купить. Некоторые из них осторожно патрулируют интернет, ища сделки, соответствующие моим потребностям.
Технология уже намного умнее любого из нас. Должны ли мы беспокоиться, это в значительной степени вопрос о том, хорошо ли настроены роботы по отношению к людям и стабильны ли эти отношения. Эта проблема хорошо отражена в отношениях между Дживсом, дворецким и Берти Вустером, работодателем, в романах PG Wodehouse.
Доверяющий Дживс
Берти Вустер всегда мог доверять Дживсу, и их отношения были, конечно, предсказуемыми и стабильными, как британская система классов, на которой она была основана. Даже если Дживс был умнее Вустера и лучше получал соответствующую информацию из окружающей среды, Вустер не должен был беспокоиться о том, что его позиция узурпирована.
У умного дворецкого было преимущество, так же, как наличие мускулистого садовника, но это не было угрозой, потому что Вустер доверял Дживсу использовать свой интеллект для выгоды хозяина. Вустер больше не беспокоился о том, что Дживс подрывает социальный порядок, чем он беспокоился о том, что садовник входит в французские окна, чтобы низко посадить его с ударом лопаты в сторону головы. В Wodehouse нет крестьянских революций.
Нет никакого эквивалента жесткой классовой системы, чтобы держать роботов под контролем, хотя Исаак Азимов предположил, что роботы всегда должны быть запрограммированы таким образом, чтобы их усилия были направлены на то, чтобы служить благу человечества. Это может стать сложным, особенно в будущем мире, где роботы сами проектируют.
Хокинг признает, что будущие технологии могут помочь нам искоренить давние человеческие проблемы войны, болезней и бедности. Тем не менее, он опасается потенциальных проблем:
«Можно представить, что такая технология перехитрила финансовые рынки, изобретает человеческих исследователей и разрабатывает оружие, которое мы даже не можем понять», – говорит Хокинг.
В эпоху высокоскоростных торгов можно было бы утверждать, что одно из этих препятствий уже прошло, и искусственный интеллект уже очень хорошо справляется с наукой. И кто действительно понимает, что происходит на границах нового развития оружия.
Тем не менее, самый основной вопрос, который нужно задать об ИИ, заключается не в том, является ли это потенциально опасным, а заслуживает ли доверия.
Почему мы должны действительно волноваться
Многие научно-фантастические дистопии предполагают, что роботы поднимаются и вырывают контроль над людьми. Вероятно, это последнее, о чем нам нужно беспокоиться, если роботы не контролируются злонамеренным человеческим интеллектом.
Есть много причин, по которым искусственный интеллект может угрожать, но я бы поставил аварии намного выше злобы. Некоторые футуристы опасаются, что крошечные самовоспроизводящиеся сущности могут окутать мир, вызывающий экологический коллапс, – апокалипсис нанотехнологий, известный как «гипотеза серого гвоздя».
Нетрудно представить, как компьютерные вирусы могут заразить многие системы управления, чтобы финансовые рынки замерли, электрическая сеть пошла черным, а самолеты столкнулись в воздухе над аэропортами, в то время как самоходные автомобили пахали в стенах. Даже не думайте о роботе, выполняющем операцию на сердце, когда его программное обеспечение становится скомпрометированным!