Человеческое смещение в машине ИИ

Как искусственный интеллект подвержен когнитивным уклонам.

Источник: Pixabay

Искусственный интеллект (AI) может привести к положительным результатам и непреднамеренным негативным последствиям. Ключевой областью, которая требует дальнейших исследований, является влияние человеческого когнитивного уклона на ИИ. Гарвард и Массачусетский технологический институт профессор Джордж Черч, сингулярный университет Нейл Якобштейн, физик Массачусетского технологического института Макс Тегмарк, поведенческая экономика и научный сотрудник данных Колин П.П. Льюис, доктор философии, профессор философии Оксфорда Ник Бостром, основатель SpaceX и Tesla Motors Элон Муск, основатель Apple Стив Возняк и физик Кембриджа Стивен Хокинг входят в число более 8000 человек, которые подписали открытое письмо об искусственном интеллекте, которое ищет исследования о том, как использовать преимущества ИИ, избегая при этом ловушек [1].

«Успех в создании эффективного ИИ может стать самым большим событием в истории нашей цивилизации. Или самое худшее ». Стивен Хокинг, физик

• Как Земля была завоевана в 2078 году
• Может ли страсть к собакам привести к Нобелевской премии?
• Как перехитрить AI
• Приходящая эра эмоционных машин
• Лень, да ленивый, соискатель

Как и мозг человека, искусственный интеллект подвержен когнитивным уклонам. Человеческие познавательные уклоны – это эвристика, умственные сокращения, которые искажают принятие решений и рассуждения, приводя к ошибкам рассуждения. Примеры когнитивных предубеждений включают в себя стереотипы, эффект группового выигрыша, смещение подтверждения, прайминг, избирательное восприятие, ошибочность игрока и смещение выборки наблюдения. Общее количество когнитивных предрассудков постоянно развивается из-за постоянного выявления новых предрассудков.

Человеческий когнитивный уклон влияет на ИИ через данные, алгоритмы и взаимодействие. Машинное обучение, подмножество AI, – это способность компьютеров учиться без явного программирования. Изучение АИ определяется данными, алгоритмами и опытом через взаимодействия и итерации. Размер, структура, методология сбора данных и источники данных влияют на машинное обучение. Машиноведение зависит от качества обучающих наборов данных. Как и у людей, в ИИ более объективными являются данные и чем больше набор данных, тем меньше вероятность искажения [2].

Общим основополагающим фактором в когнитивных смещениях является склонность. Прочность в искусственном интеллекте зависит от распределения веса по параметрам и узлам нейронной сети, компьютерной системы, моделируемой на мозге человека. Вес может непреднамеренно смещать алгоритм машинного обучения с самого начала через ввод данных, через контролируемое обучение и путем вмешательства посредством ручной настройки. Отсутствие или включение индикаторов и присущие им когнитивные предубеждения программиста-программиста на человеке могут вызвать отклонение машинного обучения [3].

• Когда нет четкого ответа
• Глубокая проблема AI
• Переплетение мяса против искусственного интеллекта
• Почему AI не будет полностью заменять людей в любое время
• Может ли искусственный интеллект предсказать сексуальную агрессию?

Революция искусственного интеллекта (ВВС) идет полным ходом [4]. Искусственный интеллект в настоящее время является инструментом, используемым для оказания помощи людям и развертывается в виде точечных решений по широкому спектру функций, таких как персональные цифровые помощники, фильтрация электронной почты, поиск, предотвращение мошенничества, проектирование, модели маркетинга, цифровое распространение, распознавание голоса, распознавание лиц , классификация контента, естественный язык, производство видео, генерация новостей, игровая и игровая аналитика, обслуживание клиентов, финансовая отчетность, оптимизация маркетинга, управление затратами на энергию, ценообразование, инвентарь, корпоративные приложения и другие функции [5]. Некоторые из величайших мыслителей 21-го века предупреждали об опасностях, с которыми сталкивается AI. Возрастающая повсеместность ИИ требует минимизации человеческого когнитивного уклона в машине. Будущее человечества может очень сильно зависеть от этого.

Рекомендации

1. «Приоритеты исследований для надежного и полезного искусственного интеллекта: открытое письмо». Будущий институт жизни. Проверено 2 февраля 2018 года.

2. Россо, Ками. «Загадка машинного обучения и когнитивные уклоны». Средняя . 14 июля 2015 года.

3. Там же.

4. Россо, Ками. «Почему искусственный интеллект – это следующая революция – AI изменит почти каждый аспект нашей повседневной жизни». Средняя . 16 марта 2016 года.

5. Россо, Ками. «Почему ИИ сейчас имеет тенденцию». Средняя . 21 февраля 2017 года.