Определены условия эволюции нейросетей с непрерывным ростом сложности

Эволюционные алгоритмы (EA) позволяют копировать поведение и эволюцию биологических организмов для решения вычислительных задач оптимизации. Их применение для улучшения топологии и весовых коэффициентов искусственных нейронных сетей, управляющих действиями роботов или виртуальных агентов, имеет многочисленные преимущества. Тем не менее, до сих пор мало кому удавалось, используя EA, получать сложное поведение, требующееся для реальных приложений.

В недавней работе исследователи из британского Университета Ноттингем Трент и немецкого Института прикладной математики им. Макса Планка предложили новый подход к эволюционному развитию нейронных сетей, обеспечивающий устойчивый линейный рост сложности их поведения.

Авторы сосредоточились на решении задачи следования траектории: робот должен придерживаться заранее определённой траектории на бесконечной плоскости. Он не получает никакой информации от датчиков, но если слишком удалится от нужного пути — «погибает».

Чтобы обеспечить линейный рост сложности поведения такого интеллектуального агента, учёные внесли в стандартный метод эволюционного развития нейросетей четыре ключевых дополнения: замораживание структуры нейросети на период изменения, временные «строительные леса» (scaffolding), однородную передаточную функцию для выходных узлов и мутации, создающие новые пути исходящих данных.

Было установлено, что хотя добавление мутаций и изменение передаточных функций даёт некоторый рост производительности, наибольший выигрыш связан с применением «лесов». Это привело авторов к выводу, что стандартные нейронные сети малопригодны для создания поведения, которое меняется со временем, то есть может эволюционировать.

«В целом, в экспериментах, о которых мы сообщали, достигалась сложность на два порядка выше, чем получаемая стандартными методами, причем главным ограничивающим фактором для дальнейшего роста является доступное время выполнения, — написали исследователи в статье для журнала Neural Networks. — Таким образом, набор методов, предлагаемых здесь, обещает стать полезным дополнением к различным современным методам нейроэволюции».