Ахиллесова пята компьютерного зрения А.И.

Проблема связывания ИИ и нейробиологии.

Источник: pixabay

Вы бы ездили на автономном транспортном средстве, если бы знали, что у него проблемы со зрением? Как насчет лечения рака, основанного на компьютерной интерпретации рентгенологических изображений, таких как рентген, ультразвук, компьютерная томография, ПЭТ или МРТ, зная, что компьютерное зрение можно легко обмануть? У компьютерного зрения есть проблема – требуется всего лишь небольшие изменения в вводе данных, чтобы обмануть алгоритмы машинного обучения, чтобы «увидеть» вещи неправильно.

Последние достижения в области компьютерного зрения во многом связаны с улучшенными возможностями распознавания образов посредством глубокого обучения, типа машинного обучения. Машинное обучение – это подмножество искусственного интеллекта, в котором компьютер может изучать концепции на основе обработки входных данных либо посредством контролируемого обучения, где маркируются обучающие данные, либо не так, как при обучении без учителя или в комбинации без явного программирования. Глубина глубокого обучения относится к числу слоев искусственной нейронной обработки в ее нейронной сети.

• Воспитание Бронко-Бастера: Малышка Неразумная
• Должны ли мы запретить Тинтин и Снежок?
• Какие истории ты живешь
• На супергероев (часть 1)
• AI, созданный в искусственных нейронных сетях на основе ДНК

Команда исследователей искусственного интеллекта (AI) с Кевином Эйхолтом, Иваном Евтимовым и дополнительными исследователями из Университета Калифорнии в Беркли, Университета Мичигана, Университета Стони Брук и Университета Вашингтона обнаружили, что для остановки требуется лишь небольшое изменение Знак с использованием черно-белых наклеек должен привести к тому, что современные глубокие нейронные сети (DNN) неправильно классифицируют изображения. Команда опубликовала свои выводы в апреле 2018 года в arXiv .

Одним из текущих недостатков глубокого обучения являются большие объемы данных, необходимые компьютеру для обучения. В противоположность этому, как только ребенок узнает, что такое птица, он или она может легко идентифицировать животное как птицу без необходимости изучать все различные виды птиц, которые существуют.

Различные области мозга обрабатывают различные типы ввода. Например, теменная доля – это область головного мозга, где обрабатываются сенсорные сигналы касания, температуры и боли. Затылочная доля интерпретирует зрение. Височная доля играет роль в слухе. Учитывая, что разные области мозга обрабатывают сенсорный ввод в разных областях, как он формирует единый опыт? Это описывает проблему связывания.

• Может ли страсть быть решением наркомании?
• Как самокритика угрожает вам разумом и телом
• Секс влияет на вероятность победы собаки на выставках
• Что делает преступник?
• Новый метод искусственного интеллекта получил награду NeurIPS

Например, когда реактивный самолет высоко в небе пролетает над головой, мозг знает, что ему соответствует звук удара. Мозг осознает, что крылья, хвосты, фюзеляж и белый след (конденсационная тропа) принадлежат струе, а не окружающему небу, солнцу или фоновым облакам. Так или иначе, человеческий мозг способен принимать различные сенсорные входные данные, такие как зрение, звук, вкус, обоняние и осязание, и объединять их. И все же для ученых загадка, как именно мозг это делает.

Британский профессор математики и нейробиологии Саймон Стрингер из Оксфордского фонда теоретической нейробиологии и искусственного интеллекта в настоящее время исследует нейроны в мозге, которые действуют как «связывающие нейроны» и имеют амбиции даровать «крысиный интеллект на машине в течение 20 лет».

В настоящее время обходной путь для исследователей искусственного интеллекта – стремиться к достижению хороших показателей в среднем, когда речь идет о правильной интерпретации визуальных изображений.

«Глаз видит только то, что разум готов постичь». – Робертсон Дэвис

Copyright © 2019 Cami Rosso. Все права защищены.

Рекомендации

Национальная география. «Мозг». Получено 1-16-2019 с сайта https://www.nationalgeographic.com/science/health-and-human-body/human-body/brain/.

Эйхолт, Кевин, Евтимов, Иван, Фернандес, Эрленс, Ли, Бо, Рахмати, Амир, Сяо, Чаовей, Пракаш, Атул, Кохно, Тадаёши, Сонг, Рассвет. «Надежные атаки физического мира на визуальную классификацию с глубоким обучением». ArXiv : 1707.08945v5. 10 апреля 2018 года.

Геддес, Линда. «Странные события, которые делают машины галлюцинирующими». Би-би-си . 5 декабря 2018 года.