Компьютеры не имеют социального решения
Недавний фэндер-гид, в котором автомобиль с самообслуживанием Google был поражен автобусом, пытаясь слиться перед ним, бросил вызов автомобильной промышленности. В качестве примера деморализации, вызванной несчастным случаем, исполнительный директор Google заявил, что может потребоваться три десятилетия, чтобы решить проблему, обнаруженную этой системой. Проблема в том, что компьютер машины предсказал, что автобус остановится, чтобы позволить слияющему автомобилю идти впереди него, но водитель автобуса не вел себя так, как было предсказано. Google взял на себя ответственность за несчастный случай, а также заявив, что водитель-водитель внес свой вклад в аварию (мои слова), которые не соответствуют действительности. (Для учетной записи Google и ее последствий см. Эту ссылку: theverge.com).
Обсуждая эту историю с автолюбителем в последнее время, он сказал, что реальной проблемой является общественная реакция. Он указал на тот факт, что изгибы крыльев в автомобилях, которыми управляют люди, происходят чрезвычайно часто, не вызывая большой озабоченности, и что цель полностью автономного автомобиля ближе к реальности, чем большинство людей понимают. Проблема PR, очевидно, является проблемой, хотя я считаю ее тесно связанной с химерой достижения совершенства в квесте об избежании несчастных случаев. В недавнем опросе AAA 75% водителей указали, что они крайне неохотно передадут полный контроль над их вождением на свой автомобиль. Вероятно, количество скептиков будет значительно снижаться, если бы самоходные автомобили оказались абсолютно безопасными. Несколько смертельных или почти смертельных несчастных случаев могут, на мой взгляд, привести к тому, что самоубийство автомобиля на шельфе в течение долгого времени, может быть, навсегда. Кто-нибудь, кроме провидец программного обеспечения, действительно полагает, что такое совершенство безопасности никогда не может быть достигнуто, или что широкое признание общественности в отсутствие почти совершенства всегда возможно? Рискуя поставить себя в ту же категорию, что и скептики, которые смеялись над демонстрацией эфира или каким-либо другим нововведением, мой ответ на автономных движущих предпринимателей – это «мечта».
Те, кто считает, что самозанятые автомобили близки к реальности, указывают на полностью электрический автомобиль Tesla model-S, который имеет режим самостоятельного вождения («автопилот»), который может активировать водитель. По словам моего друга. сегодня можно проехать сотни километров на межгосударственном самолете, управляя Теслой, делая отвлекающие вещи, такие как чтение газеты. Обнаружив это, я проверил это утверждение и нашел его немного преувеличенным. По словам основателя Tesla и генерального директора Elon Musk, вариант самостоятельного вождения (который он назвал несовершенной бета-версией) всегда должен использоваться руками в руле, что, конечно же, исключало бы чтение газеты. Недавно Муск признал несколько близких к катастрофическим инцидентам, но он обвинил их в том, что водители, которые проигнорировали это предупреждение, сняли руки с колеса. Эти инциденты в основном касались того, что можно назвать ошибками, не относящимися к социальной (т. Е. Рельефу), но почти каждое водительское решение, особенно когда другие автомобили являются частью местности, создает определенные требования к социальному суждению для оператора, независимо от того, является ли оператор человека или компьютера. (Для получения информации о некоторых промахах Tesla-S см. Раздел technologyreview.com).
Поддержка заявления о том, что сегодня можно проехать сотни километров на автопилоте Tesla, можно найти в хорошо освещенной поездке по пересеченной местности, сделанной в Тесла-С, которая сделала путешествие в рекордные сроки. Однако не всегда известно, что во время путешествия было три инцидента, в которых серьезная авария была предотвращена. В одном из этих инцидентов автомобиль вошел в кривую со скоростью 90 миль в час (значительно выше предела скорости), и автомобиль потерял бы контроль, если бы человек не быстро перевернулся. Проблема заключалась в том, что компьютерный алгоритм автомобиля требовал, чтобы он следил за маркером полосы или центральной линии на стандартном расстоянии, но опытные водители знают, что нужно исправлять на высокой скорости (в дополнение к замедлению), делая кривую ближе, чем обычно к вершине дороги, чтобы сократить степень поворота колеса, необходимую для безопасного согласования кривой. Здесь вывод состоит в том, что автомобиль не может безопасно работать автономно с высокой скоростью. Другая близкая авария произошла, когда автомобиль запутался в действии другого автомобиля и пересек среднюю линию дороги, направляя Тесла-С на встречное движение и что могло быть смертельным лобовым столкновением.
- Что они едят в тюрьме?
- Как думать, как преступник
- Вкус для плохих мальчиков и плохая еда
- Человек, который мог видеть невидимый
- Взгляните в мои глаза и убейте своего мужа
Интересно, что, хотя Google частично обвинил водителя автобуса в его несчастном случае, Тесла полностью обвинил своих клиентов в таких инцидентах, предупреждая владельцев, что в случае аварии в режиме автопилота финансовая ответственность будет полностью зависеть от водителя. На что я говорю «много удачи, Элон», рассказывая об этом судье, когда кто-то серьезно пострадавший клиент или семья мертвого владельца подает в суд на вас ». Фактически, некоторые комментаторы взяли Теслу на этические и юридические основания для предоставления несовершенного автопилота когда предсказуемо, что многие владельцы ошибочно предполагают, что это полностью работоспособный и, таким образом, полностью безопасный самозарядный автомобиль. Мотивы Теслы для спешки в производстве явно не готового продукта? Скорее всего, эго (подтверждая мнение Муска о том, что он опережает Google и других конкурентов в гонке AI) и, конечно же, денежные средства (заставить людей покупать довольно дорогие продукты компании).
Хотя кажется, что не-социальные ситуации (например, двусмысленные, запутанные или плохо спроектированные центральные линии или на рампе) остаются очень жестким орешком для самовозбуждения автомобильной промышленности, и я считаю, что основным препятствием для их возможного успеха является в социальной сфере. Как проиллюстрировано на примере аварии на автобусе, решения о самоуправляемых автомобилях частично основаны на прогнозах относительно того, что может сделать водитель другого автомобиля, но если мы знаем что-либо о поведении человека, то это не полностью предсказуемо, рационально или вежливо (для доказательства из этого следует лишь взглянуть на недавние политические события на Ближнем Востоке или, если на то пошло, в Соединенных Штатах). Кроме того, водители, разделяющие дорогу с автономным транспортным средством, могут иметь проблемы со зрением, быть в состоянии нарушения, невнимательности или взволнованном состоянии или лишены компетентности вождения, что может привести к внезапным опасным действиям, которые не могут быть компьютерными, кроме, возможно, самого большого в мире суперкомпьютер когда-либо сможет адаптироваться к достаточно быстрому. Дело в том, что опытный и компетентный водитель всегда «читает» поведение и намерения других водителей и делает ответные реакции второго уровня, основанные не на вероятностях, а на выводах и восприятиях в реальном времени.
Иллюстрация для основы социальных оценок для многих несчастных случаев можно найти в опыте начинающих водителей-подростков, родители которых платят очень высокие страховые премии по какой-либо причине. Моя подружка по волосам недавно рассказала мне историю своего 18-летнего сына, у которого было два (к счастью) незначительных несчастных случая в течение первых пяти дней после получения его лицензии. Ни один из них не был технически его виновником, но факт остается фактом, что ни один из них не мог бы произойти, если бы он был на год или два старше. В одном из несчастных случаев молодой человек ехал, когда машина вошла в дорогу с подъездной дороги справа и вспахала в дверь пассажира пассажира неофита. Объяснение молодого человека заключается в том, что он концентрировался на дороге и не думал о возможности такого события. Почти наверняка, были тонкие реплики, например, другая машина, приближающаяся к дороге, и выглядела так, как будто она могла выйти. Вероятно также, что он сам бессознательно вносил свой вклад в проблему, например, казалось, что сигнал другой машины может продолжаться. Опытный и осторожный водитель настроен на такие (по существу социальные) тонкие реплики и осознает необходимость участия в текущем потоке оценок оценки риска. Неопытный водитель, такой как этот молодой человек, глубоко эгоцентричен, поскольку он рассматривает только свою собственную точку зрения во время вождения, а также когда делает многое другое. На мой взгляд, мне непонятно, как машинный автомобиль будет лучше, чем водитель неофита при чтении и издании таких тонких социальных реплик.
- 20 Другие возможные причины, по которым они сказали Нет
- О консерваторах, либералах и поддельных новостях
- Макиавеллианские маркетологи
Инженеры-программисты умеют решать физические проблемы, но они еще не решили или даже не обратили много внимания на проблемы социального суждения. Осведомленность об этой реальности пришла ко мне несколько лет назад на ежегодной конференции в Колорадо, в которой рассматривается применение технологий для людей с когнитивными нарушениями. Все эрудированные презентации касались применения программного и аппаратного обеспечения для физических проблем, таких как проблемы с мобильностью. Когда моя очередь появилась, я говорил о фильме, который публика только что наблюдала за человеком с умственными недостатками, которого поддерживали его добрые соседи, которые позволили ему продолжать жить в своем жилом доме в Нью-Йорке. Каждая из проблем, которые угрожали ему продолжать жить в здании, была социальной, такой как его чрезвычайная легковерие (мой особый интерес), что отразилось на таких вещах, как его предоставление ключа к его квартире уличным людям (которые терроризировали соседей, похищали вещи и повредил здание по-разному). Когда я бросил вызов вычислительным властям (некоторым легендарным), которые были собраны на конференции, чтобы сказать, как технология может решить такое поведение, основанное на социальных суждениях (и одиночестве), ответ был одним из тишины.
Самодвижущее движение интересно не только как автомобильное явление, но и как иллюстрация развития в области искусственного интеллекта (AI). Google – пример компании, которая очень оптимистично относится к способности своих компьютерных ученых, используя растущие успехи в миниатюризации микросхем, улучшить работу человека через ИИ. Возможно, ведущим примером такого отношения является Раймонд Курцвейл – гениальный изобретатель многих самоназванных компьютерных устройств (и кто-то считается современным Томасом Эдисоном), который теперь работает полный рабочий день в качестве резидентного футуролога Google. Курцвейл написал несколько книг и дал много бесед, превознося свой оптимистичный взгляд на будущее «трансгуманизма» (использование все более сложных технологий для повышения интеллекта человека) и «сингулярности» (использование технологий для изменения биологии человека, например, путем лечения болезни и продления жизни человека). Центральное место в этих концепциях – несколько спорная убежденность Курцвейла в том, что суть интеллекта – распознавание образов (что-то компьютеры хороши), и поэтому компьютерные ученые в конечном итоге смогут построить улучшенную версию человеческого мозга. Таким образом, компетентное вождение автомобиля, которое в значительной степени зависит от распознавания образов, будет очевидным расширением концепции ИИ. Проблема с великими гениями (такими как Kurzweil) и отличными компаниями (такими как Google) заключается в том, что они часто испытывают трудности с пониманием того, что они слишком сильно занялись «проблемой». Моя собственная убежденность в том, что создание самозанятого автомобиля, способного признание и успешное решение сотен социальных и физических решений, связанных с безопасностью от точки А до точки В, окажется проблемой, которая не может быть решена в жизни Курцвейла, даже если ему удастся изменить свою биохимию (он принимает 150 [с 200 до 200] пилюль в день) и живет еще сто лет.
Авторское право Стивен Гринспен
