Хотите спроектировать поведение пользователя? Пройдите тест «С сожалением»

Каковы этические обязанности компаний, которые могут манипулировать?

Источник: NirandFar

Какова этическая ответственность компаний, которые способны манипулировать человеческим поведением в массовом масштабе? Это вопрос, который надеются, что технологи и дизайнеры спросят себя при создании продуктов, изменяющих мир, – но тот, который не был задан достаточно часто.

Оперирование кондиционированием, прерывистое подкрепление, поиск самоактуализации – методы, используемые менеджерами продуктов в крупнейших компаниях мира, – это психология и технология равных частей. Как недавно признал основатель-президент Facebook, Шон Паркер, компания уже давно занимается бизнесом «использования уязвимости в человеческой психологии».

• Наклонная голова делает собаку более привлекательной?
• Вы – то, что вам нравится “
• Как юмор и ирония проливают свет на киберзапугивание
• Нирвана сна
• Аутизм аскетизма и гений монастырей

Наши гаджеты и приложения более убедительны, чем когда-либо. Тем не менее для создателей этих технологий существует несколько руководящих указаний о том, как этически менять поведение пользователей. Без стандарта предприятия склонны бездумно подталкивать конверт в бесконечном стремлении к большему вовлечению, большему росту и, в конечном счете, увеличению прибыли. Как сказал один основатель запуска: «В конце дня у меня есть обязательства перед моими инвесторами и сотрудниками, и я сделаю все, что в моих силах, чтобы нарушить закон, чтобы заставить людей использовать мой продукт».

Техническая индустрия должна сделать лучше, чем угроза тюрьмы, чтобы решить, что делать правильно.

К счастью, большинство технологов и дизайнеров, которых я знаю, работают над тем, чтобы улучшить жизнь людей. Во всем мире предприниматели стремятся создавать продукты, которые покупают потребители. Независимо от того, работаете ли они в крупной технологической компании Silicon Valley или из гаража, они мечтают о том, чтобы заставить людей действовать, предлагая им следующее незаменимое улучшение в своей жизни, и большинство из них пытаются сделать это по-верхнему.

• Привлечение конфликта: история в трех частях
• 5 способов заботиться о себе Эмоционально
• Была ли Россия или Кембриджская аналитика влиять на голосование?
• Где следующий Николай Круз?
• Кризисные актеры: почему теории заговора так привлекательны

Как использовать

Конечно, многие из них тоже не прочь разбогатеть. Но это сочетание – стремление сделать как разницу, так и прибыль – как человечество решило многие из наших самых неприятных проблем. Нет ничего плохого в том, что люди, которые хотят использовать здания, хотят использовать, но способность разрабатывать поведение пользователей должна соответствовать стандарту этических ограничений.

Проблема заключается в тех же методах, которые пересекают линию в определенных случаях, приводят к желаемым результатам в других. Например, использование Snapchat в полосах, которые подсчитывают количество друзей друзей из числа друзей подряд, было подвергнуто критике за обучении подростков, чтобы они продолжали возвращаться к приложению. Но та же техника убеждения используется языковым приложением Duolingo, чтобы помочь людям, изучающим новую языковую палочку с программой.

Те же переменные вознаграждения, которые используются для извлечения наличных денег игрокам, играющим на электронных игровых автоматах, также используются в видеоиграх, которые помогают детям с раком отвлекаться, поскольку они получают болезненные процедуры.

Понятно, что проблема заключается не в самой технике убеждения, а в том, как используется эта техника.

Но без теста, чтобы рассказать о разнице между добром и злом, легко понять, как дизайнеры могут сбиться с пути.

Тест на сожаление

Технологической отрасли нужен новый этический бар. Девиз Google: «Не будь злым», слишком расплывчато. Золотое правило: «Делайте другим, как вы хотели бы, чтобы они поступали с вами», оставляет слишком много места для рационализации.

Я бы сказал, что мы должны сказать следующее: «Не делайте с другими то, что они не хотели бы делать с ними». Но как мы можем знать, что пользователи делают и чего не хотят?

Я смиренно предлагаю «тест на сожаление».

Если мы не уверены в использовании этически сомнительной тактики, «если бы люди знали все, что знает дизайнер продукта, будут ли они выполнять намеченное поведение? Может ли они сожалеть об этом?

Если пользователи будут сожалеть о принятии мер, техника не сможет пройти тест на сожаление и не должна быть встроена в продукт, потому что он манипулирует людьми тем, что они не хотят делать. Привлечение людей к тому, что они не хотели делать, это уже не убеждение – это принуждение.

Итак, как мы можем сказать, жалуются ли люди на использование продукта? Просто! Мы спрашиваем их.

Подобно тому, как компании проверяют потенциальные возможности, которые они рассматривают в процессе развертывания, они могут проверить, является ли спорная тактика тем, что люди ответят положительно, если они будут знать, что произойдет дальше.

Эта концепция тестирования не нова для отрасли – дизайнеры продуктов постоянно тестируют новые функции. Но тест на сожаление ввел бы еще одну этическую проверку, попросив представительную выборку людей, если они предпримут действие, зная, что все, что знает дизайнер, произойдет.

Тест не обязательно потребует больших усилий или затрат. В недавней статье Якоб Нильсен из Nielsen Norman Group написал, что, по его мнению, результаты теста на удобство использования могут быть получены при тестировании всего пятью людьми.

Кораблекрушения

История технологических инноваций включает в себя много непредвиденных последствий. Как однажды сказал культурный теоретик Пол Вирилио: «Изобретение корабля было также изобретением кораблекрушения». Прекрасная вещь о испытании с сожалением заключается в том, что она может помочь избавиться от некоторых непредвиденных последствий, поставив тормоза на неэтичный дизайн прежде чем они перейдут к миллионам пользователей.

Тест на сожаление также может быть использован для регулярных проверок. Как и многие люди, я удалил отвлекающие приложения, такие как Facebook, с моего телефона, потому что сожалею о том, что потратил время на прокрутку через свой канал, а не на то, чтобы полностью присутствовать с людьми, которых я забочусь. Не было бы в интересах Facebook знать о таких людях, как я?

Если какая-либо компания, будь то Facebook или другой бизнес, не слушает пользователей, которые все чаще возмущаются им по той или иной причине, это рискует тем, что больше людей откажется от своего обслуживания. И именно поэтому понимание сожаления так важно. Игнорирование людей, которые жалуются на использование вашего продукта, – это не только плохая этика, это также плохо для бизнеса.

Примечание Нир: Спасибо Джейсону Амунве, Рафаэлю Аризаге Ваке, Ахмеду Бузиду, Джейми Киммелю, Джули Ли, Дженнифер Макдональд, Бо Рену, Ирине Райку, Джулиану Шапиро, Шеннон Валлор, Энн Мари Уорд, Сьюзан Вайншенк, Гатри Вайншенк и Кейси Уинтерс за читающих версии этого эссе.

Иллюстрации Джон Деволь

Эта статья была первоначально опубликована на сайте NirAndFar.com