Нужно ли мечтать, чтобы мечтать о том, чтобы разучиться?

Фаза автономной «мечты» улучшает обучение в искусственной нейронной сети.

Искусственные нейронные сети моделируются из биологических нейронных сетей, которые составляют наш мозг; они используются, чтобы позволить компьютерам учиться аналогично тому, как учится наш мозг. Например, мы учимся различать концепции с течением времени путем повторения, увидев так много разновидностей деревьев и цветов, мы узнаем, что является шаблоном дерева, и может распознавать деревья в будущем, даже если это новый сорт. Известно, что некоторые особенности деревьев-ветви-листьев-ствола связаны, и, когда мы активируем вместе, мы узнаем, что это дерево. Искусственная нейронная сеть действует аналогичным образом; связи между искусственными нейронами со временем усиливаются, если они часто активируются вместе, в том, что называется «обучением на уровне».

Однако эта модель не является надежной, поскольку эта форма прямого обучения может быстро привести к чрезмерно доминирующим связям, которые препятствуют творческому обучению. Например, когда соединения между ветвями-листьями-стволами-деревья слишком мощными, любой соответствующий вход, такой как листья на четырехлистном клевере, может быть захвачен древовидной сетью, а другие возможные пути игнорируются. Это называется «ограничительной петлей обратной связи», поскольку один набор соединений ограничивает любые другие формы формирования и по существу неоднократно усиливает себя выше всех остальных.

Недавно опубликованная статья (Thiele, Diehl, & Cook, 2017) предложила реализовать алгоритм «следящего сна» для модели искусственной нейронной сети для устранения этой проблемы. Фаза сна фактически временно отключит режим обучения в Hebbian, т. Е. Отключит силу соединений, а вместо этого позволит случайным входам запускаться через сеть без ущерба. Это похоже на процесс сновидения у людей.

Между тем, в области исследования человеческой мечты, подобные модели были предложены для описания функций «unlearning» состояния сна / сна REM. В двух последних теоретических работах авторы Malinowski и Horton (2015) предлагают «процесс деконтекстуализации» во сне – процесс разбиения воспоминаний на небольшие фрагменты, которые затем связаны с многочисленными различными трассами памяти, формируя новые связи по всей сети автобиографической памяти, не будет образовываться во время пробуждения. Этот процесс частично зависит от «гиперассоциативности» состояния сновидений.

Гиперассоциативность относится к увеличенным связям между воспоминаниями, которые были бы слабо связаны во время пробуждения. В то время как многие исследователи согласны с тем, что сновидение и REM-сон характеризуются гиперассоциативностью, Малиновский и Хортон полагают, что эти свободные связи могут быть за проницательностью и творчеством, которые возникают в результате сна.

Авторы демонстрируют гиперассоциативность сновидений в нескольких примерах фантазии мечты: мечты объединяют необычные элементы памяти – друг может быть олицетворен кошкой; повествование сна может внезапно измениться – ваш дом внезапно превращается в ваше рабочее место; мечты объединяют элементы из далекого прошлого с недавним прошлым или даже ожидаемым будущим – вы даете предстоящую речь в своей старой школе.

Экспериментальные исследования также показали, что познание является гиперассоциативным после пробуждения от сна REM. Субъекты будут давать необычные ответы на задачу ассоциаций слов и отдают предпочтение слабо связанным, а не сильно связанным семантическим парам слов. Свидетельства совпадают с предположением о состоянии сна, которое временно поднимает «Hebbian» пути пробуждения мысли.

Хартманн (1996) также предположил, что при пробуждении мысли информационные потоки линейны, тогда как во сне, нет направления для потока информации, он может свободно двигаться назад или боком к более свободно связанным понятиям. Это может быть важно для разбиения воспоминаний на фрагменты, которые могут быть лучше интегрированы в сеть в целом. Эта функция, пожалуй, лучше всего продемонстрирована тем, что происходит, когда она терпит неудачу. Например, при посттравматическом стрессовом расстройстве повторяющиеся кошмары, которые повторяют травму, могут сохраняться в течение десятилетий после травматического опыта. Это напоминает «ограничительный цикл обратной связи», который является слишком мощным и доминирующим, и любой соответствующий ввод вызовет запуск всей схемы. Таким образом, система неспособна «отучить» травму, неспособная сломать ее и позволить создавать новые соединения на своем месте.

Хотя «гиперассоциативность» во сне может иметь определенные преимущества для интеграции эмоциональных воспоминаний и для стимулирования творчества, можно утверждать, что эта функция «unlearning» на более базовом уровне является механистической необходимостью для любой нейронной сети этого калибра для поддержания себя и чтобы избежать «ограничивающих циклов обратной связи». Фактически, в описанной ранее искусственной нейронной сети экспериментаторы обнаружили, что добавление фазы «мечты», когда обучение в Hebbian было отключено, позволило увеличить скорость обучения до десяти раз, избегать ограничительных циклов обратной связи и, лучше всего, все, дал своим искусственным нейронным сетям неожиданное удовольствие от сновидений.

Рекомендации

Carr, M., & Nielsen, T. (2015). Утренний сон сна сон облегчает широкий доступ к эмоциональным семантическим сетям. Сон, 38 (3), 433-443.

Хартманн, Э. (1996). Очерк теории о природе и функциях сновидений. Мечтая, 6 (2), 147.

Horton, CL, & Malinowski, JE (2015). Автобиографическая память и гиперассоциативность в мозгу мечты: последствия для консолидации памяти во сне. Границы в психологии, 6.

Malinowski, JE, & Horton, CL (2015). Метафора и гиперассоциативность: механизмы воображения, связанные с ассимиляцией эмоций во сне и сновидениях. Границы в психологии, 6.

Thiele, J., Diehl, P., & Cook, M. (2017). Алгоритм следящего сна для повторяющихся нейронных сетей. arXiv preprint arXiv: 1703.06290.