В составе Google DeepMind разрабатывает Neural Turing Machine

Эксперты в области искусственного интеллекта из недавно поглощенного компанией Google стартапа DeepMind, работают над созданием, так называемой нейромашины Тьюринга (Neural Turing Machine).

Машина Тьюринга (МТ) это математическая модель гипотетического вычислительного устройства, которое определяет результат на основании входных переменных и набора заранее установленных правил.

В статьях, размещенных на допечатном сервере arXiv, авторы из DeepMind описывают свою нейромашину, как «дифференцируемый компьютер, который, в отличие от МТ, можно тренировать методом градиентного спуска, обеспечивающим практический механизм обучения программам» За последние десятилетия ученые подошли вплотную к построению такой машины на основе концепции нейросети — совокупности узлов (нейронов), вместе представляющих данные, и связей между ними, которые могут изменяться в процессе обучения. Однако в них до сих пор отсутствовала внешняя память, в которой хранились бы идеи и концепции, рождающиеся в ходе реконфигурации связей между нейронами. Так, например, весь свод правил, история и рекорды известных игроков, могут храниться в «слепке» конфигурации узлов, обозначенном единственным словом «баскетбол».

Команда DeepMind дополнила рекуррентную нейросеть достаточно большой памятью (аналог бесконечной ленты традиционной МТ), упрощающей решение алгоритмических задач. Созданы уже все компоненты, включая саму сеть, устройства ввода-вывода, блоки кратко- и долгосрочной памяти.

Прототип нейромашины неплохо справляется с очень простыми заданиями, и в некоторых случаях даже делает это лучше обычных нейросетей.

Проблема остается лишь одна — по признанию его участников, проект Neural Turing Machine остается в большей мере академическим, и годы отделяют их от результатов, которые можно будет применить на практике.

Стратегія охолодження ЦОД для епохи AI