<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE article PUBLIC "-//NLM//DTD JATS (Z39.96) Journal Publishing DTD v1.3 20210610//EN" "JATS-journalpublishing1-3.dtd">
<article article-type="research-article" dtd-version="1.3" xmlns:mml="http://www.w3.org/1998/Math/MathML" xmlns:xlink="http://www.w3.org/1999/xlink" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xml:lang="ru"><front><journal-meta><journal-id journal-id-type="publisher-id">caht</journal-id><journal-title-group><journal-title xml:lang="ru">Научный вестник МГТУ ГА</journal-title><trans-title-group xml:lang="en"><trans-title>Civil Aviation High Technologies</trans-title></trans-title-group></journal-title-group><issn pub-type="ppub">2079-0619</issn><issn pub-type="epub">2542-0119</issn><publisher><publisher-name>Moscow State Technical University of Civil Aviation (MSTU CA)</publisher-name></publisher></journal-meta><article-meta><article-id pub-id-type="doi">10.26467/2079-0619-2024-27-2-8-24</article-id><article-id custom-type="elpub" pub-id-type="custom">caht-2333</article-id><article-categories><subj-group subj-group-type="heading"><subject>Research Article</subject></subj-group><subj-group subj-group-type="section-heading" xml:lang="ru"><subject>ТРАНСПОРТНЫЕ СИСТЕМЫ</subject></subj-group><subj-group subj-group-type="section-heading" xml:lang="en"><subject>TRANSPORTATION SYSTEMS</subject></subj-group></article-categories><title-group><article-title>Применение предварительно обученных нейронных сетей для решения задачи обратного поиска рентгеновских изображений запрещенных предметов и веществ</article-title><trans-title-group xml:lang="en"><trans-title>The use of pretrained neural networks for solving the problem of reverse searching of X-ray images of prohibited items and substances</trans-title></trans-title-group></title-group><contrib-group><contrib contrib-type="author" corresp="yes"><name-alternatives><name name-style="eastern" xml:lang="ru"><surname>Волков</surname><given-names>А. К.</given-names></name><name name-style="western" xml:lang="en"><surname>Volkov</surname><given-names>A. K.</given-names></name></name-alternatives><bio xml:lang="ru"><p>Волков Александр Константинович, кандидат технических наук, доцент, доцент кафедры обеспечения авиационной безопасности</p><p>г. Ульяновск</p></bio><bio xml:lang="en"><p>Alexander K. Volkov, Candidate of Technical Sciences, Associate Professor, Associate Professor at the Chair of Aviation Security</p><p>Ulyanovsk</p></bio><email xlink:type="simple">volkovalex8@rambler.ru</email><xref ref-type="aff" rid="aff-1"/></contrib><contrib contrib-type="author" corresp="yes"><name-alternatives><name name-style="eastern" xml:lang="ru"><surname>Миронова</surname><given-names>Л. В.</given-names></name><name name-style="western" xml:lang="en"><surname>Mironova</surname><given-names>L. V.</given-names></name></name-alternatives><bio xml:lang="ru"><p>Миронова Лидия Владимировна, соискатель кафедры обеспечения авиационной безопасности</p><p>г. Ульяновск</p></bio><bio xml:lang="en"><p>Lidiya V. Mironova, Applicant at the Chair of Aviation Security</p><p>Ulyanovsk</p></bio><email xlink:type="simple">lida737@yandex.ru</email><xref ref-type="aff" rid="aff-1"/></contrib><contrib contrib-type="author" corresp="yes"><name-alternatives><name name-style="eastern" xml:lang="ru"><surname>Потапова</surname><given-names>С. Е.</given-names></name><name name-style="western" xml:lang="en"><surname>Potapova</surname><given-names>S. E.</given-names></name></name-alternatives><bio xml:lang="ru"><p>Потапова Светлана Евгеньевна, старший преподаватель кафедры обеспечения авиационной безопасности</p><p>г. Ульяновск</p></bio><bio xml:lang="en"><p>Svetlana E. Potapova, Senior Lecturer at the Chair of Aviation Security</p><p>Ulyanovsk</p></bio><email xlink:type="simple">potapovase@yandex.ru</email><xref ref-type="aff" rid="aff-1"/></contrib></contrib-group><aff-alternatives id="aff-1"><aff xml:lang="ru"><institution>ФГБОУ ВО «Ульяновский институт гражданской авиации имени Главного маршала авиации Б.П. Бугаева»</institution><country>Россия</country></aff><aff xml:lang="en"><institution>Ulyanovsk Civil Aviation Institute Named After Air Chief Marshal B.P. Bugaev</institution><country>Russian Federation</country></aff></aff-alternatives><pub-date pub-type="collection"><year>2024</year></pub-date><pub-date pub-type="epub"><day>06</day><month>05</month><year>2024</year></pub-date><volume>27</volume><issue>2</issue><fpage>8</fpage><lpage>24</lpage><permissions><copyright-statement>Copyright &amp;#x00A9; Волков А.К., Миронова Л.В., Потапова С.Е., 2024</copyright-statement><copyright-year>2024</copyright-year><copyright-holder xml:lang="ru">Волков А.К., Миронова Л.В., Потапова С.Е.</copyright-holder><copyright-holder xml:lang="en">Volkov A.K., Mironova L.V., Potapova S.E.</copyright-holder><license xml:lang="ru" license-type="creative-commons-attribution" xlink:href="https://creativecommons.org/licenses/by/4.0/" xlink:type="simple"><license-p>Данная работа распространяется под лицензией Creative Commons Attribution 4.0.</license-p></license><license xml:lang="en" license-type="creative-commons-attribution" xlink:href="https://creativecommons.org/licenses/by/4.0/" xlink:type="simple"><license-p>This work is licensed under a Creative Commons Attribution 4.0 License.</license-p></license></permissions><self-uri xlink:href="https://avia.mstuca.ru/jour/article/view/2333">https://avia.mstuca.ru/jour/article/view/2333</self-uri><abstract><p>В работе рассматриваются вопросы применения предварительно обученных нейронных сетей для решения задачи обратного поиска рентгеновских изображений запрещенных предметов и веществ. Целью работы является проведение анализа и обоснование путей повышения эффективности систем распознавания рентгеновских изображений багажа и ручной клади пассажиров. Представлен анализ существующих отечественных и зарубежных работ в области распознавания рентгеновских изображений багажа и ручной клади пассажиров. Выявлено, что, несмотря на достигнутые результаты по разработке алгоритмов распознавания запрещенных предметов и веществ, они не в полной мере справляются с таким фактором сложности, как наложение предметов. Для решения данной проблемы в работе предлагается дополнительно анализировать те рентгеновские изображения, на которых уверенность в распознавании объектов невысокая. Данный этап включает в себя следующие шаги: сегментация изображений, извлечение признаков сегментированных элементов изображений; поиск схожих изображений по базе данных; принятие решения о классе сегментированных элементов изображений. В данной статье рассматриваются три последних шага. Проанализированы варианты реализации подходов к извлечению признаков из изображений, в частности основанные на применение сверточных автоэнкодеров и предварительно обученных нейронных сетей. Выбран подход, основанный на применении предварительно обученных нейронных сетей. В работе применяется нейронная сеть архитектуры ResNet-50, предварительно обученная на коллекции ImageNet. Для применения данной модели для извлечения векторов признаков изображений, был предварительно удален последний слой классификации. Все предыдущие слои модели кодируют изображение в вектор. ResNet-50 генерирует 2048-мерный вектор признаков изображений. Для понижения размерности векторов признаков изображений используется метод главных компонент. Решение о том, является ли сегментированный элемент изображения запрещенным предметом или веществом, рассматривается как задача обратного поиска с применением алгоритма K‑ближайших соседей. Класс элемента рентгеновского изображения в данном случае – это класс, наиболее часто встречающийся среди k ближайших соседей. В целях апробации предложенного подхода был сформирован обучающий набор данных, включающий 4 635 изображений отдельных предметов и веществ, которые могут встречаться в багаже и ручной клади пассажиров. Представлен сравнительный анализ времени индексации и поиска изображений при различных алгоритмах и количестве признаков. Представлен сравнительный анализ точности модели. Сделан вывод, что наиболее приемлемым является алгоритм Brute force в сочетании с методом главных компонент.</p></abstract><trans-abstract xml:lang="en"><p>The paper considers the application of pretrained neural networks to solve the problem of reverse searching of X-ray images of prohibited items and substances. The purpose of the work is to conduct an analysis and substantiate ways to improve the efficiency of baggage and passenger hand luggage X-ray image recognition systems. An analysis of existing domestic and foreign works in the field of baggage and passenger hand luggage X-ray image recognition is presented. It has been revealed that, despite the achieved results in the development of algorithms for recognizing prohibited items and substances, they do not fully cope with such a complexity factor as the overlay of objects. To solve this problem, the paper proposes to additionally analyze X-ray images with low confidence in object recognition. This stage includes the following steps: image segmentation, extraction of features of segmented image elements; search for similar images in the database; decision-making on the class of segmented image elements. This article discusses the last three steps. Variants of approaches to feature extraction from images are analyzed, particularly those based on the application of convolutional autoencoders and pretrained neural networks. The approach based on the application of pretrained neural networks is chosen. The ResNet-50 architecture neural network, pretrained on the ImageNet collection, is used during the work. In order to apply this model to extract image feature vectors, the last classification layer was preliminarily removed. All the previous layers of the model encode the image into a vector. ResNet-50 generates a 2048-dimensional feature vector of images. The principal component analysis is used to reduce the dimensionality of the image feature vectors. The decision of whether the segmented image element is a prohibited item or substance is considered as a reverse search problem using the k-nearest neighbor algorithm. In this case, the class of the X-ray image element is the class most frequently encountered among the K nearest neighbors. In order to test the proposed approach, a training dataset, including 4,635 images of individual items and substances that may be encountered in baggage and passenger hand luggage, was generated. A comparative analysis of image indexing and image search under different algorithms and feature number is presented. A comparative analysis of the model accuracy is provided. It is concluded that the most acceptable is the “Brute force” algorithm in combination with the principal component analysis.</p></trans-abstract><kwd-group xml:lang="ru"><kwd>досмотр</kwd><kwd>рентгеновское изображение</kwd><kwd>нейронная сеть</kwd><kwd>задача обратного поиска</kwd><kwd>эмбеддинг</kwd><kwd>кластеризация</kwd><kwd>метод главных компонент</kwd><kwd>алгоритм t-распределенного стохастического эмбеддинга соседей</kwd></kwd-group><kwd-group xml:lang="en"><kwd>screening</kwd><kwd>X-ray image</kwd><kwd>neural network</kwd><kwd>reverse search problem</kwd><kwd>embedding</kwd><kwd>clustering</kwd><kwd>principal component analysis</kwd><kwd>t-distributed stochastic neighbor embedding algorithm</kwd></kwd-group></article-meta></front><back><ref-list><title>References</title><ref id="cit1"><label>1</label><citation-alternatives><mixed-citation xml:lang="ru">Bozinovski S., Ante F. The influence of pattern similarity and transfer learning upon training of a base perceptron B2 // Proceedings of Symposium Informatica. 1976. № 3. Pp. 121–126.</mixed-citation><mixed-citation xml:lang="en">Bozinovski, S., Ante, F. (1976). The influence of pattern similarity and transfer learning upon training of a base perceptron B2. In: Proceedings of Symposium Informatica, no. 3, pp. 121–126.</mixed-citation></citation-alternatives></ref><ref id="cit2"><label>2</label><citation-alternatives><mixed-citation xml:lang="ru">Girshick R. Fast R-CNN // 2015 IEEE International Conference on Computer Vision (ICCV). Santiago, Chile, 2015. Pp. 1440–1448. DOI: 10.1109/ICCV.2015.169</mixed-citation><mixed-citation xml:lang="en">Girshick, R. (2015). Fast R-CNN. In: 2015 IEEE International Conference on Computer Vision (ICCV). Santiago, Chile, pp. 1440–1448. DOI: 10.1109/ICCV.2015.169</mixed-citation></citation-alternatives></ref><ref id="cit3"><label>3</label><citation-alternatives><mixed-citation xml:lang="ru">Krizhevsky A., Sutskever I., Hinton G.E. ImageNet classification with deep convolutional neural networks // Communications of the ACM. 2017. Vol. 60, iss. 6. Pp. 84–90. DOI: 10.1145/3065386</mixed-citation><mixed-citation xml:lang="en">Krizhevsky, A., Sutskever, I., Hinton, G.E. (2017). ImageNet classification with deep convolutional neural networks. Communications of the ACM, vol. 60, issue 6, pp. 84–90. DOI: 10.1145/3065386</mixed-citation></citation-alternatives></ref><ref id="cit4"><label>4</label><citation-alternatives><mixed-citation xml:lang="ru">Girshick R. Rich feature hierarchies for accurate object detection and semantic segmentation / R. Girshick, J. Donahue, T. Darrell, J. Malik // 2014 IEEE Conference on Computer Vision and Pattern Recognition, USA, Columbus, 2014. Pp. 580–587. DOI: 10.1109/CVPR.2014.81</mixed-citation><mixed-citation xml:lang="en">Girshick, R., Donahue, J., Darrell, T., Malik, J. (2014). Rich feature hierarchies for accurate object detection and semantic segmentation. In: 2014 IEEE Conference on Computer Vision and Pattern Recognition, Columbus, USA, pp. 580–587. DOI: 10.1109/CVPR.2014.81</mixed-citation></citation-alternatives></ref><ref id="cit5"><label>5</label><citation-alternatives><mixed-citation xml:lang="ru">Ren S. Faster R-CNN: Towards realtime object detection with region proposal networks / S. Ren, K. He, R. Girshick, J. Sun // Proceedings of the 28th International Conference on Neural Information Processing Systems (NIPS'15). 2015. Vol. 1. Pp. 91–99.</mixed-citation><mixed-citation xml:lang="en">Ren, S., He, K., Girshick, R., Sun, J. (2015). Faster R-CNN: Towards real-time object detection with region proposal networks. In: Proceedings of the 28th International Conference on Neural Information Processing Systems (NIPS'15), vol. 1, pp. 91–99.</mixed-citation></citation-alternatives></ref><ref id="cit6"><label>6</label><citation-alternatives><mixed-citation xml:lang="ru">Liu J., Leng X., Liu Y. Deep convolutional neural network based object detector for x-ray baggage security imagery // 2019 IEEE 31st International Conference on Tools with Artificial Intelligence (ICTAI). USA, Portland, 2019. Pp. 1757–1761. DOI: 10.1109/ICTAI.2019.00262</mixed-citation><mixed-citation xml:lang="en">Liu, J., Leng, X., Liu, Y. (2019). Deep convolutional neural network based object detector for x-ray baggage security imagery. In: 2019 IEEE 31st International Conference on Tools with Artificial Intelligence (ICTAI). USA, Portland, pp. 1757–1761. DOI: 10.1109/ICTAI.2019.00262</mixed-citation></citation-alternatives></ref><ref id="cit7"><label>7</label><citation-alternatives><mixed-citation xml:lang="ru">Redmon J., Farhadi A. YOLOv3: An incremental improvement [Электронный ресурс] // Computer Vision and Pattern Recognition. 2018. DOI: 10.48550/arXiv.1804.02767 (дата обращения: 19.11.2023).</mixed-citation><mixed-citation xml:lang="en">Redmon, J., Farhadi, A. (2018). YOLOv3: An incremental improvement. Computer Vision and Pattern Recognition. DOI: 10.48550/arXiv.1804.02767 (accessed: 19.11.2023).</mixed-citation></citation-alternatives></ref><ref id="cit8"><label>8</label><citation-alternatives><mixed-citation xml:lang="ru">Liu W., Anguelov D., Erhan D. et al. SSD: Single shot multibox detector // Proceedings 14th European Conference: Computer Vision – ECCV 2016. The Netherlands, Amsterdam, October 11–14, 2016. Part 1. Pp. 1–17. DOI: 10.1007/978-3-319-46448-0_2</mixed-citation><mixed-citation xml:lang="en">Liu, W., Anguelov, D., Erhan, D. et al. (2016) SSD: Single shot multibox detector. In: Proceedings 14th European Conference: Computer Vision – ECCV 2016. The Netherlands, Amsterdam, October 11–14, part 1, pp. 1–17. DOI: 10.1007/978-3-319-46448-0_2</mixed-citation></citation-alternatives></ref><ref id="cit9"><label>9</label><citation-alternatives><mixed-citation xml:lang="ru">He K. Mask R-CNN / K. He, G. Gkioxari, P. Dollár, R. Girshick [Электронный ресурс] // Computer Vision and Pattern Recognition. 2017. DOI: 10.48550/arXiv.1703.06870 (дата обращения: 19.11.2023).</mixed-citation><mixed-citation xml:lang="en">He, K., Gkioxari, G., Dollár, P., Girshick, R. (2017). Mask R-CNN. Computer Vision and Pattern Recognition. DOI: 10.48550/arXiv.1703.06870 (accessed: 19.11.2023).</mixed-citation></citation-alternatives></ref><ref id="cit10"><label>10</label><citation-alternatives><mixed-citation xml:lang="ru">Андриянов Н.А., Дементьев В.Е., Ташлинский А.Г. Обнаружение объектов на изображении: от критериев Байеса и Неймана-Пирсона к детекторам на базе нейронных сетей EfficientDet // Компьютерная оптика. 2022. Т. 46, № 1. С. 139–159. DOI: 10.18287/2412-6179-CO-922</mixed-citation><mixed-citation xml:lang="en">Andriyanov, N.A., Dementiev, V.E., Tashlinskiy, A.G. (2022). Detection of objects in the images: from likelihood relationships towards scalable and efficient neural networks. Computer Optics, vol. 46, no 1, pp. 139–159. DOI: 10.18287/2412-6179-CO-922 (in Russian)</mixed-citation></citation-alternatives></ref><ref id="cit11"><label>11</label><citation-alternatives><mixed-citation xml:lang="ru">Jaccard N. Automated detection of smuggled high-risk security threats using deep learning / N. Jaccard, T. Rogers, E. Morton, L. Griffin [Электронный ресурс] // Computer Vision and Pattern Recognition. 2016. 7 p. DOI: 10.48550/arXiv.1609.02805 (дата обращения: 19.11.2023).</mixed-citation><mixed-citation xml:lang="en">Jaccardm, N., Rogers, T., Morton, E., Griffin, L. (2016). Automated detection of smuggled high-risk security threats using deep learning. Computer Vision and Pattern Recognition, 7 p. DOI: 10.48550/arXiv.1609.02805 (accessed: 19.11.2023).</mixed-citation></citation-alternatives></ref><ref id="cit12"><label>12</label><citation-alternatives><mixed-citation xml:lang="ru">Liang K.J., Sigman J.B., Spell G.P. et al. Toward automatic threat recognition for airport x-ray baggage screening with deep convolutional object detection [Электронный ресурс] // Computer Vision and Pattern Recognition. 2019. 11 p. DOI: 10.48550/arXiv.1912.06329 (дата обращения: 19.11.2023).</mixed-citation><mixed-citation xml:lang="en">Liang, K.J., Sigman, J.B., Spell, G.P., (2019). Toward automatic threat recognition for airport x-ray baggage screening with deep convolutional object detection. Computer Vision and Pattern Recognition, 11 p. DOI: 10.48550/arXiv.1912.06329 (accessed: 19.11.2023).</mixed-citation></citation-alternatives></ref><ref id="cit13"><label>13</label><citation-alternatives><mixed-citation xml:lang="ru">Kolte S., Bhowmik N., Dhiraj. Threat Object-based anomaly detection in X-ray images using GAN-based ensembles [Электронный ресурс] // Neural Computing and Applications. 2023. Vol. 35. Pp. 23025–23040. DOI: 10.1007/s00521-022-08029-z (дата обращения: 19.11.2023).</mixed-citation><mixed-citation xml:lang="en">Kolte, S., Bhowmik, N., Dhiraj. (2023). Threat Object-based anomaly detection in X-ray images using GAN-based ensembles. Neural Computing and Applications, vol. 35, pp. 23025–23040. DOI: 10.1007/s00521-022-08029-z (accessed 19.11.2023).</mixed-citation></citation-alternatives></ref><ref id="cit14"><label>14</label><citation-alternatives><mixed-citation xml:lang="ru">Michel S. Increasing X-ray image interpretation competency of cargo security screeners / S. Michel, M. Mendes, J.C. de Ruiter, C.M. GerKoomen, A. Schwaninger // International Journal of Industrial Ergonomics. 2014. Vol. 44, iss. 4. Pp. 551–560. DOI: 10.1016/j.ergon.2014.03.007</mixed-citation><mixed-citation xml:lang="en">Michel, S., Mendes, M., de Ruiter, J.C., GerKoomen, C.M., Schwaninger, A. (2014). Increasing X-ray image interpretation competency of cargo security screeners. International Journal of Industrial Ergonomics, vol. 44, issue 4, pp. 551–560. DOI: 10.1016/j.ergon.2014.03.007</mixed-citation></citation-alternatives></ref><ref id="cit15"><label>15</label><citation-alternatives><mixed-citation xml:lang="ru">Коул А., Ганджу С., Казам М. Искусственный интеллект и компьютерное зрение. Реальные проекты на Python, Keras и TensorFlow. СПб.: Питер, 2023. 608 с.</mixed-citation><mixed-citation xml:lang="en">Koul, A., Gandzhu, S., Kazam, M. (2023). Artificial intelligence and computer vision. Real projects in Python, Keras and Tensor-Flow. St. Petersburg: Piter, 608 p. (in Russian)</mixed-citation></citation-alternatives></ref><ref id="cit16"><label>16</label><citation-alternatives><mixed-citation xml:lang="ru">Шолле Ф. Глубокое обучение на Python. СПб.: Питер, 2018. 400 с.</mixed-citation><mixed-citation xml:lang="en">Sholle, F. (2018). Deep learning in Python. St. Petersburg: Piter, 400 p. (in Russian)</mixed-citation></citation-alternatives></ref><ref id="cit17"><label>17</label><citation-alternatives><mixed-citation xml:lang="ru">Айвазян С.А. Прикладная статистика. Классификация и снижение размерности / С.А. Айвазян, В.М. Бухштабер, И.С. Енюков, Л.Д. Мешалкин. М.: Финансы и статистика, 1989. 607 с.</mixed-citation><mixed-citation xml:lang="en">Ayvazyan, S.A., Buxshtaber, V.M., Enyukov, I.S., Meshalkin, L.D. (1989). Applied statistics. Classification and dimensionality reduction. Moscow: Finansy i statistika, 607 p. (in Russian)</mixed-citation></citation-alternatives></ref><ref id="cit18"><label>18</label><citation-alternatives><mixed-citation xml:lang="ru">He K. Deep residual learning for image recognition / K. He, X. Zhang, S. Ren, J. Sun // 2016 IEEE Conference on Computer Vision and Pattern Recognition (CVPR). USA, Las Vegas, 2016. Pp. 770–778. DOI: 10.1109/CVPR.2016.90</mixed-citation><mixed-citation xml:lang="en">He, K., Zhang, X., Ren, S., Sun, J. (2016). Deep residual learning for image recognition. In: 2016 IEEE Conference on Computer Vision and Pattern Recognition (CVPR). USA, Las Vegas, pp. 770–778. DOI: 10.1109/CVPR.2016.90</mixed-citation></citation-alternatives></ref><ref id="cit19"><label>19</label><citation-alternatives><mixed-citation xml:lang="ru">Van der Maaten L.J.P., Hinton G.E. Visualizing high-dimensional data using t-SNE // Journal of Machine Learning Research. 2008. Vol. 9. Pp. 2579–2605.</mixed-citation><mixed-citation xml:lang="en">Van der Maaten, L.J.P., Hinton, G.E. (2008). Visualizing high-dimensional data using t-SNE. Journal of Machine Learning Research, vol. 9, pp. 2579–2605.</mixed-citation></citation-alternatives></ref></ref-list><fn-group><fn fn-type="conflict"><p>The authors declare that there are no conflicts of interest present.</p></fn></fn-group></back></article>
