Ответ смартфона на самоубийство, депрессию и изнасилование: #Fail

В новом исследовании рассматривается ответ «разговорных агентов», таких как Сири, на вопросы психического здоровья, физического здоровья и межличностного насилия. Почему это имеет значение? Как отмечают авторы, Pew Research сообщает, что 62% пользователей смартфонов ищут информацию о состоянии здоровья на своих телефонах (Smith, 2015). Так что да, имеет смысл понять, что говорят Сири и ее собеседники, когда мы задаем очень сложные вопросы.

Источник: Памела Рутледж / Shutterstock

Информационные запросы значительно различаются. Например, «что такое птичий грипп» или «то, что представляет собой хвост», совсем не отличается от просьбы о помощи или просьбах о помощи, таких как «Я хочу совершить самоубийство». Как ни удивительно, однако, оказывается, что Siri, Google и их цифровые компаньоны намного хуже по этим вопросам, чем вы думаете. Они варьируются от неэффективных (хотя и квази-эмпирических) ответов, таких как «Мне жаль это слышать», чтобы не иметь никакого отношения к делу, неправильно или просто не отвечать вообще.

Эти находки важны и важны, если мы, как общество, не теряемся в сорняках и забываем общую картину. Легко предположить, что Сири и друзья должны получить лучшие ответы (и они, вероятно, должны, в некоторой степени), но нам нужно задать некоторые вопросы более высокого уровня. Мы не должны упускать из виду важные этические и юридические последствия того, что алгоритмы распознавания голоса предоставляют консультации вне контекста. Все ситуации, о которых спросили исследователи, лучше всего использовать, набрав 911 и поговорить с профессиональным специалистом по аварийному реагированию. Технология имеет ограничения, и нас не следует обманывать тем, что наши телефоны могут говорить.

Хотя Pew Research не проводит различия между поиском информации и запросом экстренной помощи, именно этот узкий подраздел вопросов, который тестируют исследователи. Таким образом, мы не знаем, сколько из 62% пользователей смартфонов задают такие срочные вопросы. Тем не менее, как отмечают исследователи, их результаты свидетельствуют о том, что эти голосовые услуги могут не иметь большой возможности для предоставления некоторых основных социальных услуг. Разумеется, возможно, что алгоритмы могут быть расширены, чтобы включать основные направления в службы экстренной помощи, во многом, как и вызов 911. Однако как мы строим эту систему вопросов и ответов, чтобы иметь какой-то смысл? Психологи, в частности, справляются с тем, как советы можно использовать с помощью технологий с этической точки зрения.

• Рози Кун о трансформационном коучинге
• Умеет ли психиатрическая помощь нашим детям?
• 5 секретов счастья
• Создание упражнения для здоровья
• 5 причин сделать йогу прямо сейчас

Ожидания пользователей относительно того, где получить помощь, а также ценность и валидность полученной помощи, являются важными элементами этого уравнения. Сколько людей действительно ожидают, что их смартфон узнает, что делать, если их изнасиловали или подавлены? Является ли склонность человека к антропоморфизации технологий, особенно когда она говорит с нами, делает это полезным или опасным местом для предоставления информации? Существует более 90 000 приложений для здравоохранения, начиная от диагностических инструментов и заканчивая велнес-приложениями, поэтому мы не чужды полагаться на наши смартфоны для информации о безопасности и гигиене труда. Это предположение о заботе может быть важным фактором, а также детерминантом поведения.

В то время как в исследовании указывается, что есть явно упущенные возможности помочь людям, существует множество этических вопросов – не говоря уже о потенциальных юридических обязательствах – в предоставлении ничего, кроме относительно бесполезных ответов, таких как указания «набрать местный номер службы экстренной помощи "Или номер соответствующего ресурса. Я мог бы утверждать, что это так же важно для медиаграмотности и важности обучения пользователей ограничениям онлайн-источников информации, не говоря уже о распознавании голоса Siri. Должна ли Сири и ее приятели просвещать людей о потенциальных недостатках их информации? (У меня есть видение лучших намерений, превращающихся в решения с 30-секундной правовой оговоркой, предшествующей любому совету, – мы часто делаем что-то одинаково непригодным для использования, пытаясь решить проблемы, не учитывая общую картину. Юзабилити редко вызывает озабоченность юридического отдела.)

Учитывая все разговоры о больших данных и завышении, мы также должны учитывать, что очень большой Брат назначает ответственность за технологию (или Apple или Google или кого бы то ни было), чтобы обеспечить такой уровень заботы. Легко понять, как Сири или Google могли прочесть симптомы инсульта, но разве человеку было бы лучше позвонить 911 немедленно? Это нарушает нашу конфиденциальность? Провайдеры часто юридически обязаны следить за случаями, которые связаны с возможностью личного вреда. Имеет ли Сири такое же обязательство делиться с властью? Хотим ли мы отслеживать, чтобы сделать такой запрос Сири? Клиницисты-психиатристы в настоящее время защищают себя и своих пациентов путем регулярного включения следующего сообщения, когда нет возможности ответить на звонок лично: «Если это чрезвычайная ситуация, не оставляйте сообщение. Пожалуйста, повесьте трубку и наберите 911. «Может быть, Сири и друзья должны просто сделать то же самое.

• Шесть причин, которые вы испытываете при эмоциональном питании, когда подчеркиваете
• Выход из каботажного судна
• Была ли наибольшая помощь Магии поддержке его гей-сына?
• Создание пространства для горя и потерь
• Кофе как антидепрессант: его плюсы и минусы

Ничто из этого не должно убирать из исследования. И, к их мнению, исследователи рассматривают многие из этих проблем в ограничениях исследования, таких как язык и культура, и сложность алгоритмов построения, которые могут соответствующим образом сортировать информацию и судить о характере и серьезности ситуации. Однако исследование ставит важные вопросы о текущем использовании и ограничениях технологии, индивидуальных правах и обязанностях, социальном охвате и заполнении пробелов в социальном разрыве для людей, которые не имеют возможности находить или получать доступ к другим услугам.

Мы будем продолжать сталкиваться с новыми горизонтами с жесткими вопросами, которые мы должны ответить, прежде чем наш смартфон сможет. Мы должны, однако, избегать тенденции коленного рывка к решению этих проблем один за другим без более широкого обсуждения. Это выходит далеко за рамки предположения, что смартфоны должны научиться отвечать на сложные вопросы. Существует множество психических и физических проблем со здоровьем и случаи межличностного насилия, которые часто очень субъективны и различаются по степени срочности и вероятности получения травмы или вреда. Возможно, мы начнем с того, что просто научим смартфоны говорить «наберите 911» и включите функцию вашего местоположения.

Рекомендации

Miner, AS, Milstein, A., Schueller, S., Hegde, R., and Mangurian, C. (2016). Разговорные агенты на основе смартфонов и ответы на вопросы о психическом здоровье, межличностное насилие и физическое здоровье. Внутренняя медицина JAMA.

Smith, A. (2015). Использование смартфона в США в 2015 году. Исследовательский центр Pew, 18-29. Получено 13 марта 2016 года с http://www.pewinternet.org/2015/04/01/us-smartphone-use-in-2015/.