Проблема с ранним предупреждением
Согласно исследованиям секретной службы школьных стрелков, которые изучали 37 нападений 41 атакующего с 1974 года, 75% школьных стрелков сообщали кому-то, как правило, о сверстниках их планов заранее, и часто сотрудники школы также знали о предупреждающих знаках, студенты, которые в итоге стали школьными стрелками. Принстонский социолог Кэтрин Ньюман, изучавший школьные съемки в глубине, сказал: «Они [школьные стрелки] никогда не взрываются спонтанно; они обычно выпускают намеки много месяцев вперед ».
И все же, в большинстве случаев, по данным секретной службы, никто не сообщал о таких «красных флажках» заранее властям.
Почему ИИ может помочь
Хотя причины, по которым люди не предупреждают власти, различны; от давления со стороны сверстников (обрывки не круты), до избытка «ложных тревог» (много детей), когнитивных предубеждений, таких как эффект нормальности (мы не планируем или не реагируем на проблемы, которые никогда не случались с нами) , чтобы научиться беспомощности (бюрократы ничего не сделают), все люди, которые держат знаки опасности для себя, имеют один общий признак: они люди.
И люди – и всегда будут подвержены социальному давлению, когнитивным предубеждениям, убеждениям и другим силам, которые заставят их неохотно выступить с точной озабоченностью по поводу возможных школьных шутеров в обозримом будущем. Более того, даже если бы больше людей вышло вперед, власти, вероятно, были бы ошеломлены ложными тревогами и, следовательно, не спешили реагировать на реальные угрозы. Наконец, даже сверстники или учителя школьных стрелков, которые слышат передовые предупреждения о нападении, часто не знают обо всех факторах, которые предсказывают летальность – например, доступ к огнестрельному оружию – это поможет им отличить настоящие угрозы от ложных тревог.
Итак, вот радикальная идея: давайте применим искусственный интеллект (AI) наряду с недавними достижениями в области цифровой защиты частной жизни, чтобы компьютеры, а не люди, генерировали ранние признаки школьных съемок.
Компьютеры, на которых выполняются алгоритмы AI, не подвержены социальному давлению и могут получить гораздо больше информации о потенциальных стрелках, таких как доступ к предплечьям, чем могут быть сверстники или учителя. Поэтому системы ИИ, учитывая достаточные данные и «обучение», могут достигать достаточно высоких «ставок хита» с низкими «ложными тревогами». Кроме того, новые технологии конфиденциальности могут защищать гражданские свободы, а компьютеры хрустят их количество.
Прежде чем перейти к особенностям того, почему ИИ, вместе с технологиями конфиденциальности, теоретически, по крайней мере, уменьшают смертность от школьных шутеров, я должен признать, что никакая технология, какая бы она ни была развита и точна, может решить проблему сама по себе, поскольку ни одна технология не будет решать глубокие культурные, антропологические, правовые и политические корни проблемы.
Технология, в лучшем случае, предлагает только надежду на улучшение некоторых симптомов глубоко укоренившихся проблем, таких как школьные съемки.
Тем не менее, если такие «симптоматические» методы лечения могут спасти даже одну жизнь, их стоит рассмотреть.
Как ИИ с параллельными достижениями в области цифровой конфиденциальности может поставить проблему в проблему
AI очень хорошо справляется с задачей, которую ученые-компьютеры называют классификацией: Есть ли у фотографии кошка где-нибудь или нет? Является ли вызывающий абонент центром поддержки клиентов сердитым или нет? Является ли голос на телефоне мужчиной или женщиной, носителем языка или не носителем языка? Может ли заявитель на автострахование «отточить» (оборот другому перевозчику) или нет? ИИ овладел всеми этими задачами.
Совершенно возможно – даже вероятно, – что алгоритмы ИИ могут вскоре также стать довольно хорошими в «классификации», которые учащиеся представляют собой настоящую угрозу для осуществления смертоносных рабств, против которых студенты вряд ли это сделают. ИИ будет «подавать» как можно более разнообразные данные как по стрелкам, так и без стрелков, и их «научили» проводить различия между реальными угрозами и ложными тревогами. Примеры данных включают:
Огромная проблема, связанная с использованием только что перечисленных источников данных, заключается в защите личной неприкосновенности частной жизни и гражданских свобод. Любая организация, будь то школа или полицейская сила, которая собирала и сопоставляла такие данные, была бы на его лице действовать как Большой Брат Оруэлла.
Но благодаря появляющимся технологиям с экзотическими именами, такими как гомоморфное шифрование и защищенное многопартийное шифрование, теперь можно зашифровать все упомянутые выше источники данных – в момент сбора – и выполнить вычисления AI при их шифровании. Таким образом, ни в коем случае во время цикла сбора, передачи, хранения и анализа данных любой человек или компьютер в этом отношении не знал, к какой собираемой информации относится.
Только в редком случае, когда алгоритм классификации инициировал красный флаг, была бы уведомлена школа (или, возможно, судебный суд) о том, что внимание должно быть уделено конкретному учащемуся (без раскрытия каких-либо персональных данных, вызвавших предупреждение AI) с тем чтобы можно было провести отдельное расследование и, в конечном счете, вмешательство (например, предлагать консультации или проверять студентов с высоким уровнем риска на оружие при поступлении в школу).
Эта разблокировка личности может основываться на доказательствах, представленных ИИ судье, например, обобщая причины беспокойства (насильственные сообщения в социальных сетях, доступ к оружию, комментарии сверстников), даже не сообщая конкретным деталям судьи. Только если судья полагал, что это оправдано, назначит ли судья специальные «цифровые ключи» (доступные только для судебных органов), чтобы разблокировать личность ученика для уведомления школы и родителей.
Решение AI об уведомлении судьи, как было предложено выше, не будет зависеть от социального давления, когнитивных предубеждений, изученной беспомощности или других факторов, которые заставляют людей уведомлять или не уведомлять власти об угрозе.
Это правда, что использование ИИ для выявления опасных учеников создает множество проблем. Например, может ли государственное учреждение, такое как школа или система уголовного правосудия, принять меры, основанные только на том, что студент может сделать в будущем в сравнении с тем, что они на самом деле сделали?
Все вопросы, связанные с искусственным интеллектом и школьными стрелками, сложны и сложны и чреваты этическими проблемами, и некоторые скажут, что использование ИИ может быть дегуманизирующим подходом к сокращению смертей и травм при школьных съемках.
Но ничто не убивает ученика своей человечности – или прав – больше, чем убийство сокурсника.
Рекомендации
Фарр, К. (2017). Съемки школьной школы для подростков: ответы на неудачные мастулиты уже обеспокоенных мальчиков, гендерные вопросы DOI 10.1007 / s12147-017-9203-z
«Промежуточный отчет о предотвращении адресного насилия в школах», октябрь 2000 года, Национальный центр оценки угроз секретной службы США.
https://www2.ed.gov/admins/lead/safety/preventingattacksreport.pdf
http://www.popcenter.org/problems/bullying/PDFs/ntac_ssi_report.pdf
https://en.wikipedia.org/wiki/Homomorphic_encryption