Бен Шнейдерман написал эссе, которое я публикую ниже; Я второй автор. Это эссе отражает серию разговоров, которые Бэн и я наслаждались в прошлом году.
Бен – заслуженный профессор университета по информатике в Университете штата Мэриленд и член Национальной академии инженерии США. Его последняя книга – «Новые азбуки исследований: достижение прорывных взаимодействий». Свяжитесь с ним по адресу [email protected].
Гэри Клейн
_______________________
Капитан Салленбергер (Салли) по праву отпраздновал свое мастерство в качестве опытного пилота. Когда птица ударила, остановили оба двигателя, ему удалось безопасно посадить его лайнер в реке Гудзон. Замечательная работа Сулленбергера была связана с его многолетним опытом пилота, быстрой оценкой возможностей и умелым управлением элементами управления.
Каждый день эксперты-медсестры, пожарные и родители также решают реальные проблемы, которые спасают жизни и приносят комфорт тем, кому они служат. Точно так же врачи, учителя и сантехники используют свой опыт, чтобы помочь другим в значимых путях. Эти эксперты действуют в трудных ситуациях, когда информация может быть неправильной и неполной и в которой существующие рекомендации могут быть неадекватными. Тем не менее, они нажимают, смешивая свой опыт в большом количестве ситуаций с тем, что они знают о текущей проблеме, узнавая знакомые шаблоны и выявляя аномалии достаточно быстро, чтобы принимать решения и принимать меры. Эксперты также допускают ошибки, иногда серьезные, но тщательное изучение этих ошибок может усовершенствовать существующую практику, улучшить обучение или контрольные списки и привести к лучшим инструментам.
Эксперты умеют использовать сложные инструменты, такие как 3D-фетальные сонограммы или системы управления воздушным движением, которые повышают их понимание происходящего и сохраняют контроль. Эти инструменты могут иметь высокий уровень автоматизации, если экспертные пользователи могут понимать, прогнозировать и контролировать действия этих инструментов. И для этого дизайнеры должны иметь в виду, что их технологии и практика направлены на поддержку и укрепление квалифицированных и опытных пользователей; в противном случае автоматизация, которую они внедряют, сопряжена с риском вмешательства в экспертизу и фактического ухудшения характеристик, как это произошло в некоторых самолетах и конструкциях медицинских устройств.
К сожалению, слишком многие дизайнеры не замечают навыков и потребностей экспертов, которые будут использовать их творения. Наша цель в этом эссе – предложить некоторые рекомендации по созданию инструментов и автоматизированных средств, которые улучшают принятие решений экспертов, а не унижают его.
Экспертные программисты, которые создали, а затем улучшили функцию Google Translate, заслуживают признания за свои взносы. Они ясно поняли, что:
«Искусственный интеллект – это не создание ума; речь идет о совершенствовании инструментов для решения проблем ».
Хотя им было ясно, что они строят инструменты, многие журналисты неправильно обозначили свою работу как еще одну демонстрацию того, что люди могут быть заменены. Из рассказов 1947 года о «гигантских электронных мозгах» эти вводящие в заблуждение сообщения о роли технологий подорвали доверие к человеческим экспертам. Даже недавний отчет Artificial Intelligence-100 из Стэнфорда утверждал, что:
«Разница между арифметическим калькулятором и человеческим мозгом не является одним из видов, а масштаба, скорости, степени автономии и общности».
Мы не согласны с этим центральным заявлением. Человеческое мышление не является расчетным или расчетным. Человеческое творчество отличается от того, что производят нейронные сети и генетические алгоритмы. Даже эксперты по искусственному интеллекту отвергают идею о том, что их документы на конференции должны быть рассмотрены в программах машинного обучения. По иронии судьбы, эти человеческие эксперты, которые посвящают себя созданию «умных» и «умных» машин, знают, что человеческие эксперты лучше ценят открытия и инновации.
Мы считаем, что эксперты превосходят по крайней мере три замечательных человеческих черты:
1) Пограничное мышление: люди способны справляться с границами знаний, где неполная и некорректная информация вызывают путаницу и где постановка целей является ключевым навыком. Даже в этих сложных условиях эксперты могут формулировать и решать проблемы для создания чего-то нового. Человеческие эксперты часто совершают удивительные прорывы, открывая новые пути к удивительным направлениям исследований. Они делают больше, чем оптимизируют производительность или распознают статистические модели – они создают совершенно новые продукты и услуги, различают отличительные категории и видят новые виды отношений. Умение на границах знаний и возможностей проталкивать мимо границы – это то, что люди всегда демонстрировали. Они производят неожиданные патентоспособные изобретения, участвуют в дебатах, чтобы продвигать убедительные причины, и формируют компании для доставки революционных продуктов и услуг.
2) Социальное участие: люди по своей природе являются социальными, навыками, которые они используют, чтобы учиться, строить доверие, помогать другим и просить о милостях. Человеческий дискурс отличается от запроса Сири или Google или Alexa для информации. Обмен людьми информирует каждого участника, уточняет вопросы и заключает соглашения. Человеческое сотрудничество стало ключом к его удивительным успехам на протяжении всего существования наших видов, от комплексного сотрудничества вокруг охоты, кормления и общинного строительства с современными командами, которые управляют компаниями и развивают Википедию. Человеческое лидерство, способствующее участию, требует сочетания навыков, которыми управляют крупные компании, трансформирует города и формирует национальные правительства. Это руководство также может быть злым, коррумпированным и военным, но это темная сторона человека. Яркая сторона человеческого опыта демонстрирует значимое уважение, ищет подлинный компромисс и питает доверие. Люди очень умелые в строительстве и использовании общей площадки для обеспечения эффективной коммуникации, а затем замечают, когда общая земля разрушилась и нуждается в ремонте.
3) Ответственность за свои действия: Люди являются ответственными сторонами, которые заслуживают почестей, когда они приносят выгоды и которые должны быть подотчетны, когда их решения приводят к вреду. Честная отчетность и надежное исследование ошибок способствуют улучшениям, которые обеспечивают большую защиту. Исключительные действия, такие как Sullenberger's, продвижение понимания, совершенствование подготовки и толчок экспертов для выполнения на все более высоких уровнях достижения. Ответственность разъясняет дизайн продукта, поскольку он побуждает дизайнеров давать пользователям контроль и предоставлять исследователям достаточные данные, чтобы понять, что произошло. Мы принимаем на себя ответственность, которая позволяет другим доверять нам. Мы также занимаемся другими мероприятиями по укреплению доверия: мы стараемся быть предсказуемыми; мы предупреждаем других, когда наше поведение может их удивить, мы предпринимаем ненужные шаги для оказания помощи другим и т. д.
По мере того, как дизайнеры узнают эти человеческие черты, их проекты улучшатся, что приведет к более безопасным, более эффективным и более успешным технологиям. Чем раньше журналисты поймут, что превосходство в технологическом дизайне проявляется, когда эти человеческие черты поддерживаются, а не вытесняются, тем скорее их работы будут отмечать, как замечательные человеческие навыки могут быть усилены передовыми системами.
Мы видим будущее, в котором ценится человеческая экспертиза, даже когда дизайнеры создают более мощные инструменты. Лучшие из этих инструментов повысят производительность человеческих экспертов, используя больше своих творческих возможностей. И для этого дизайнеры должны будут найти способы разрешить всем нам, а не только экспертам, понять, предсказать и контролировать действия наших инструментов.
