Безопасность цифровых технологий

БЕЗОПАСНОСТЬ ЦИФРОВЫХ ТЕХНОЛОГИЙ

БЕЗОПАСНОСТЬ
ЦИФРОВЫХ ТЕХНОЛОГИЙ

English | Русский

Последний выпуск
№1(112) январь - март 2024

Исследование работы нейронных сетей на примере задачи управления перевернутым маятником

Выпуск № 1 (91) Январь - Март 2018
Авторы:

Романников Дмитрий Олегович
DOI: http://dx.doi.org/10.17212/2307-6879-2018-1-95-103
Аннотация

Применение нейронных сетей для решения задач различной направленности приобрело достаточно большую популярность в последнее время. В том числе нейронные сети применяются в задачах обучения с подкреплением в качестве системы управления, в которых обучение происходит за счет взаимодействия со средой. Статья посвящена анализу задачи управления перевернутым маятником, для которой исследуются такие аспекты, как избыточность используемой нейронной сети, т.е. одной из задач является поиск более оптимальной формы нейронной сети, однозначности решения. Кроме того, в статье приводится объяснение и обоснование выбора количества слоев в используемой нейронной сети. Установлено, что в используемой нейронной сетиможно удалить до трети настраиваемых коэффициентов (нейронов), при этом сохранив устойчивость системы как свидетельство ее избыточности. Дана интерпретация синтеза нейронной сети, которая ранее не встречалась, а именно: нейронная сеть является классификатором, в котором скрытый слой выделяет признаки для перемещения тележки, а выходной слой является агрегатором, который по полученным признакам выдает управляющий сигнал. Данная интерпретация позволила обоснованно дать объяснение размеру скрытого слоя нейронной сети и в результате сократить количество нейронов с 128 до 16, что может быть критично для встраиваемых систем, а также уменьшить время обучения с 2600 эпох (в среднем) до 1300.


Ключевые слова: нейронные сети, сети Петри, искусственный интеллект, преобразования, функция активации, keras, регуляризация, обучение

Список литературы

1. PyTorchexamples [Electronicresource]. – URL: https://github.com/pytorch/examples (accessed: 25.04.2018).



2. Bishop C. Pattern recognition and machine learning. – New York: Springer, 2007. – 738 p. – (Information science and statistics).



3. Richert W., Coelho L. Building machine learning systems with Python. – Birmingham: Packt Publ., 2013. – 290 p.



4. Hastie T., Tibshirani R., Friedman J. The elements of statistical learning: data mining, inference, and prediction. – 2nd ed. – New York: Springer, 2013. – 745 p. – (Springer series in statistics).



5. Lantz B. Machine learning with R. – Birmingham: Packt Publ., 2013. – 396 p.



6. Mohri M., Rostamizadeh A., Talwalkar A. Foundations of machine learning. – Cambridge, MA: MIT Press, 2012. – 432 p. – (Adaptive computation and machine learning series).



7. Conway D., White J.M. Machine learning for hackers. – Sebastopol, CA: O'Reilly, 2012. – 324 p.



8. Welcome to the Deep Learning tutorial [Electronicresource]. – URL: http://deeplearning.stanford.edu/tutorial/(accessed: 25.04.2018).



9. Haykin S. Neural networks: a comprehensive foundation. – New York: MacMillan Publ., 1994. – 1104 p.



10. Романников Д.О.О преобразовании сети Петри в нейронную сеть // Сборник научных трудов НГТУ. – 2016. – № 4 (86). – С. 98–103.



11. Goodfellow I., Bengio Y., Courville A. Deep learning. – Cambridge, MA: MIT Press, 2016.



12. Krizhevsky A., Sutskever I., Hinton G.E.ImageNet classification with deep convolutional neural networks // Proceedings of the 25th International Conference on Neural Information Processing Systems: NIPS 12. – Lake Tahoe, Nevada, 2012. – P. 1097–1105.



13. Graves A., Mohamed A., Hinton G.Speech recognition with deep recurrent neural networks // Proceedings of the IEEE International Conference on Acoustics, Speech, and Signal Processing, ICASSP 2013. – Vancouver, Canada, 2013.



14. Deng L., Hinton G.E., Kingsbury B.New types of deep neural network learning for speech recognition and related applications: an overview // Proceedings of the IEEE International Conference on Acoustics, Speech, and Signal Processing, ICASSP 2013. – Vancouver, Canada, 2013.

Для цитирования:

Романников Д.О. Исследование работы нейронных сетей на примере задачи управления обратным маятником // Сборник научных трудов НГТУ. – 2018. – № 1 (91). – С. 95–103. – doi: 10.17212/2307-6879-2018-1-95-103.

For citation:

Romannikov D.O. Issledovanie raboty neironnykh setei naprimere zadachi upravleniya obratnym mayatnikom [Investigation of the work of neural networks on the example of the problem of the control of the back panel]. Sbornik nauchnykh trudov Novosibirskogo gosudarstvennogo tekhnicheskogob universitetaTransaction of scientific papers of the Novosibirsk state technical university, 2018, no. 1 (91), pp. 95–103.doi: 10.17212/2307-6879-2018-1-95-103.

Просмотров: 2481