Глубокая проблема AI

Моделирование на человеческом мозге, глубокое обучение непрозрачно

Источник: Public Domain Archive

Искусственный интеллект в некоторой степени моделируется на мозге человека; и существует серьезная проблема с этим подходом. Машиноведение – это подмножество искусственного интеллекта (AI), где компьютерные программы автоматически учатся из данных без явного программирования. Глубокое обучение, частично вдохновленное человеческой биологией, – это метод машинного обучения, который развертывает слои искусственных нейронов, называемых узлами, в искусственном мозге, называемом нейронной сетью. Нейробиологам и психологам еще предстоит полностью понять, как работает человеческий мозг. Точно так же существует большая проблема с глубоким обучением; ученые не знают точно, как глубокое обучение достигает своих решений. В обоих случаях сложность лежит в основе отсутствия прозрачности.

Человеческий мозг сложный; исследователи оценивают, что взрослый мужской мозг человека имеет в среднем 86 миллиардов нейронов [1]. Учебники по нейроанатомии в людях обычно оценивают их число ближе к 100 миллиардам нейронов. Глубокое обучение подобно человеческому мозгу состоит из плотно взаимосвязанных обрабатывающих нейронов или узлов, расположенных в нескольких слоях. Глубокое обучение не требует явного программирования, поскольку оно предназначено для изучения из огромного количества входных данных. Например, программа глубокого обучения Google научилась распознавать изображения кошек после подачи 10 миллионов видеороликов YouTube без жесткого кодирования или маркировки изображений [2].

• Альтернативные методы лечения Повышение уровня психического здоровья
• Без сомнений
• Могут ли мозговые активности у младенцев предсказывать психические расстройства?
• Моменты изменения жизни
• Запугивание – серьезная проблема общественного здравоохранения в школах

Чтобы понять, почему глубокое обучение чрезвычайно сложно, требуется понимание самого функционального процесса. Нейронные сети находят шаблоны в больших наборах данных, а затем развивают способность концептуализировать и обобщать. Огромное количество данных подается в искусственные нейронные сети. Первый уровень узлов обрабатывает данные и затем переходит к последующим слоям узлов до тех пор, пока не будет достигнут последний уровень, и будет принято одно решение. При обработке весы математически вычисляются для узлов и для силы связи между узлами, например, синапсов мозга. Нейронная сеть создает модель с увеличением миллиардов, если не триллионов, параметров, основанных на сложных связях между узлами. Именно эта сложная сложность в модели делает невозможным точное определение того, как глубокое обучение дает результат.

Непрозрачность глубокого обучения становится проблематичной в нескольких областях этики, правового и контроля качества. Например, автомобильная промышленность быстро переходит к автономным транспортным средствам, используя технологию глубокого обучения. В случае аварии нет окончательного способа понять обоснования решений, принимаемых нейронными сетями в автономном транспортном средстве. Кто виноват в таких случаях? Этот вопрос представляет собой этическую и юридическую дилемму для всех заинтересованных сторон, включая потерпевших, пассажиров, страховых компаний и автопроизводителей. Как потребитель оценивает качество автономного транспортного средства, не понимая процесс принятия решения водителем?

Другим примером является внедрение глубокого обучения анализу изображений в здравоохранении для некоторых видов рака и диабетической ретинопатии [6]. Будете ли вы доверять диагнозу болезни модели глубокого обучения, не зная, почему это было сделано? Врач-человек может объяснить свои рассуждения и логику, когда их допрашивает пациент. Это не относится к глубокому обучению.

• Исследования показывают обещание для стареющих мозгов
• Стареющий мозг: когда друзья превращаются в врагов
• 5 способов перестать быть хорошей девочкой и стать сильными
• Первый шаг, который нужно предпринять, когда у вас грубый день
• Опиоиды по рецепту создают социальную проблему

Степень проблемы прозрачности ИИ растет, и в будущем она будет только больше проблемой, поскольку автоматизация возрастает. Недавний всплеск коммерческих и исследовательских прорывов в искусственном интеллекте в значительной степени объясняется увеличением вычислительной мощности с помощью ускорителей графического процессора (GPU) для достижения массивной параллельной обработки по сравнению с центральным процессором (ЦП), который обрабатывает информацию последовательно и последовательно [5]. Кроме того, повышение AI – это децентрализованные вычисления на основе облачных вычислений и наличие больших наборов данных. Машинное обучение используется для распознавания речи, автономных транспортных средств, обработки изображений, распознавания рукописного ввода и т. Д. Уровень мощности и изощренности AI был продемонстрирован, когда программа DeepMind AlphaGo, модель глубокого обучения, побеждала лучших игроков мира в мире [3]. Алгоритмы глубокого обучения являются частью технологии распознавания речи Apple, Microsoft, Amazon и Google [4]. ИИ развертывается во многих отраслях в глобальном масштабе, тем самым подчеркивая важность устранения его непрозрачности.

Ученые и исследователи в настоящее время работают над демистификацией того, что часто называют черным ящиком AI; никто точно не знает, как глубокое обучение приходит к его решениям. Ирония заключается в том, что искусственный интеллект моделируется после мозга, и тем самым наследует непознаваемую сложность человеческого познания.

Рекомендации

1. Фредерико Азеведо и др. «Равные числа нейронных и ненейрональных клеток делают мозг человека изометрически расширенным мозгом приматов». Журнал сравнительной неврологии . 2009 10 апреля.

2. Кларк, Лиат. «Искусственный мозг Google учится находить видео для кошек». Проводная Великобритания . 06.26.12.

3. Гибни, Элизабет. «Какой алгоритм Google выигрывает Go, он будет делать дальше». Природа . 15 марта 2016 года.

4. Парлофф, Роджер. «Почему глубокое обучение внезапно меняет вашу жизнь». Фортуна . 28 сентября 2016 года.

5. NVIDIA. «Что такое GPU-ускоренные вычисления?» Получено 20 февраля 2018 года, с http://www.nvidia.com/object/what-is-gpu-computing.html

6. Вейдман Метис, Сет. «4 глубокие успехи в обучении должны понять бизнес-лидеры». VentureBeat . 23 января 2018 года.