Безопасность цифровых технологий

БЕЗОПАСНОСТЬ ЦИФРОВЫХ ТЕХНОЛОГИЙ

БЕЗОПАСНОСТЬ
ЦИФРОВЫХ ТЕХНОЛОГИЙ

English | Русский

Последний выпуск
№1(112) январь - март 2024

О проблемах синтеза нейронных сетей

Выпуск № 2 (92) Апрель - Июнь 2018
Авторы:

Романников Дмитрий Олегович,
Ибраева Динара Миннахатовна
DOI: http://dx.doi.org/10.17212/2307-6879-2018-2-117-124
Аннотация

В статье приводятся рассуждения о тех проблемах, которые возникают у исследователей при разработке систем с использованием нейронных сетей. Наибольшее внимание уделено проблемам преобразования известных алгоритмов из классического описания в нейронные сети. К таким проблемам можно отнести следующие: 1) необходимость разработки инструмента для выполнения таких математических операций, как сложение/вычитание, умножение/деление и другие, а также на необходимости разработки инструмента для выполнения манипуляции над данными, к которым можно отнести такие, как перемещение, копирование и другие; 2) необходимость разработки конструкций для управления при вычислении (т. е. отсутствие операторов if, for, while и других); 3) отсутствие привычных структур данных, таких как массив, стек, очередь и другие. Такие проблемы могут быть продемонстрированы на примере поиска наименьшего пути в грфе. Необходимо релаксировать ребра графа, для этого используются операции сравнения и сложения. Однако для выполнения данных операций в нейронных сетях их нужно предварительно реализовать. Стоит отметить, что решение задач такого вида не характерно для нейронных сетей, но может являться частью задачи реализации создания инструмента для преобразования классических алгоритмов в нейронную сеть с целью как их совместного использования, так и объяснения работы нейронной сети. Также предложен подход к решению задачи реализации нейронной системы с помощью разделения общей задачи на множество более мелких решений, которые существенно проще. Приведен пример такого разбиения исходной задачи.


Ключевые слова: нейронные сети, сети Петри, искусственный интеллект, преобразования, функция активации, keras, регуляризация, обучение

Список литературы

1. Воевода А.А., Романников Д.О. Тезисы о нейронных сетях // Сборник научных трудов НГТУ. – 2017. – № 1 (87). – С. 98–108.



2. Bishop C. Pattern recognition and machine learning. – New York: Springer, 2007. – 738 p. – (Information science and statistics).



3. Richert W., Coelho L. Building machine learning systems with Python. – Birmingham: Packt Publ., 2013. – 290 p.



4. Hastie T., Tibshirani R., Friedman J. The elements of statistical learning: data mining, inference, and prediction. – 2nd ed. – New York: Springer, 2013. – 745 p. – (Springer series in statistics).



5. Lantz B. Machine learning with R. – Birmingham: Packt Publ., 2013. – 396 p.



6. Mohri M., Rostamizadeh A., Talwalkar A. Foundations of machine lear- ning. – Cambridge, MA: MIT Press, 2012. – 432 p. – (Adaptive computation and machine learning series).



7. Conway D., White J.M. Machine learning for hackers. – Sebastopol, CA: O'Reilly, 2012. – 324 p.



 



8. Welcome to the Deep Learning tutorial [Electronic resource]. – URL: http://deeplearning.stanford.edu/tutorial/ (accessed: 26.06.2018).



      9. Haykin S. Neural networks: a comprehensive foundation. – New York: MacMillan Publ., 1994. – 1104 p.



10. Воевода А.А., Романников Д.О. Нейронные сети в системах с последовательно выполняемыми действиями // Интеллектуальный анализ сигналов, данных и знаний: методы и средства: сборник статей Всероссийской научно-практической конференции с международным участием, Новосибирск, 14–17 октября 2017 г. – Новосибирск: Изд-во НГТУ, 2017. – C. 306–310.



11. Трошина Г.В., Воевода А.А. Параметрическая идентификация многоканального объекта на основе итерационного метода наименьших квадратов // 21 Международная конференция по мягким вычислениям и измерениям (SCM-2018): сборник докладов, Санкт-Петербург, 23–25 мая 2018 г.: в 2 т. – СПб.: СПбГЭТУ ЛЭТИ, 2018. – Т. 1. – С. 595–598.



12. Troshina G.V., Voevoda A.A. The iterative procedure modeling for the dynamic parameters estimation at the active identification task // Siberian symposium on data science and engineering (2017 SSDSE): proceedings, Akademgorodok, Novosibirsk, 12–13 April 2017. – Novosibirsk: IEEE, 2017. – P. 80–83.



13. Воевода А.А., Романников Д.О. Синтез нейронной сети на основе сети Петри для задач движения и стабилизации строя группы беспилотных летательных аппаратов // Вестник Астраханского государственного технического университета. Серия: Управление, вычислительная техника и информатика. – 2018. – № 2. – С. 26–33.



14. Goodfellow I., Bengio Y., Courville A. Deep learning. – Cambridge, MA: MIT Press, 2016.



15. Воевода А.А., Романников Д.О. Асинхронный алгоритм сортировки массива чисел с использованием ингибиторных сетей Петри // Труды СПИИРАН. – 2016. – Вып. 48. – C. 198–213.



16. Воевода А.А., Шоба Е.В. О разрешимости задачи автономизации многоканальной системы // Сборник научных трудов НГТУ. – 2010. – № 2 (60). – С. 9–16.



17. Воевода А.А., Марков А.В., Романников Д.О. Разработка программного обеспечения: проектирование с использованием UML диаграмм и сетей Петри на примере АСУ ТП водонапорной станции // Труды СПИИРАН. – 2014. – Вып. 3 (34). – С. 218–231.



18. Марков А.В., Воевода А.А. Развитие системы «Перемещение манипулятора в пространстве с препятствиями» при помощи рекурсивных функций // Автоматика и программная инженерия. – 2013. – № 2 (4). – С. 35–41.



19. Воевода А.А., Шоба Е.В. Управление перевернутым маятником // Сборник научных трудов НГТУ. – 2012. – № 2 (68). – С. 3–14.

Для цитирования:

Романников Д.О., Ибраева Д.М. Рассуждения о проблемах синтеза нейронных
сетей // Сборник научных трудов НГТУ. – 2018. – № 2 (92). – С. 117–124. – doi: 10.17212/2307-6879-2018-2-117-124.

 

 

For citation:

Romannikov D.O., Ibraeva D.M. Rassuzhdeniya o problemakh sinteza neironnykh setei [Discussions on the problems of synthesis of neural networks]. Sbornik nauchnykh trudov Novosibirskogo gosudarstvennogo tekhnicheskogo universitetaTransaction of scientific papers of the Novosibirsk state technical university, 2018, no. 2 (92), pp. 117–124. doi: 10.17212/2307-6879-2018-2-117-124.

Просмотров: 1806