ARTIFICIAL INTELLIGENCE AND DECISION MAKINGARTIFICIAL INTELLIGENCE AND DECISION MAKINGИскусственный интеллект и принятие решений2071-859426974310.14357/20718594230405QHNFRUComputational IntelligenceВычислительный интеллектResearch ArticleModified Nonparametric Algorithm for Automatic Classification of Large-Volume Statistical Data and its ApplicationМодифицированный непараметрический алгоритм автоматической классификации статистических данных большого объема и его применениеTuboltsevVitaly P.ТубольцевВиталий Павлович
Russian Federation

Graduate Student

аспирант

vitalya.98@mail.ruLapkoAlexander V.ЛапкоАлександр Васильевич
Russian Federation

Doctor of Technical Sciences, Professor, Chief Researcher

доктор технических наук, профессор, главный научный сотрудник

lapko@icm.krasn.ruLapkoVasily A.ЛапкоВасилий Александрович
Russian Federation

Doctor of Technical Sciences, Professor, Leading Researcher

доктор технических наук, профессор, ведущий научный сотрудник

valapko@yandex.ruReshetnev Siberian State University of Science and TechnologyСибирский государственный университет науки и технологий им. акад. М. Ф. РешетневаInstitute of Computational Modelling of the Siberian Branch of the Russian Academy of SciencesИнститут вычислительного моделирования СО РАН15122023449571211202412112024Copyright ©; 2023, ФИЦ ИУ РАНCopyright ©; 2023,2023ФИЦ ИУ РАНhttps://journals.rcsi.science/2071-8594/article/view/269743

A modified nonparametric algorithm for automatic classification of large-volume statistical data is proposed. Its application makes it possible to detect classes corresponding to unimodal fragments of the probability density of a multidimensional random variable. The compression of the initial information is carried out on the basis of the decomposition of the multidimensional space of features into a data array composed of the centers of the sampling intervals and the corresponding frequencies of belonging to the values of the random variable. Based on these data, a regression estimate of the probability density is synthesized. The information obtained is the basis for the algorithmization of the automatic classification procedure. A class is a compact group of observations of a random variable corresponding to a single-modal fragment of probability density. The computational efficiency of the modified nonparametric algorithm for automatic classification of large-volume statistical data is provided by the compression procedure of the source data, improvement and algorithmization of the traditional nonparametric method of class detection. The computational efficiency of the modified non-parametric algorithm for automatic classification of large volume statistical data is provided by the initial data compression procedure, improvement and algorithmization of the traditional nonparametric method for detecting compact groups of observations of a random variable. The effectiveness of the developed method of automatic classification is confirmed by the results of its application in the analysis of remote sensing data of forests damaged by the Siberian silkworm.

Предлагается модифицированный непараметрический алгоритм автоматической классификации статистических данных большого объема. По этим данным осуществляется синтез регрессионной оценки плотности вероятности. Полученная информация является основой алгоритмизации процедуры автоматической классификации. Вычислительная эффективность модифицированного непараметрического алгоритма автоматической классификации статистических данных большого объема обеспечивается процедурой сжатия исходных данных, совершенствованием и алгоритмизацией традиционной непараметрической методики обнаружения классов. Эффективность разработанной методики автоматической классификации подтверждается результатами ее применения при анализе данных дистанционного зондирования лесных массивов, поврежденных сибирским шелкопрядом.

nonparametric algorithm for automatic classificationregression estimation of probability densitydiscretization of the range of random variableswoodlandsremote sensing dataнепараметрический алгоритм автоматической классификациирегрессионная оценка плотности вероятностидискретизация области значений случайных величинлесные массивыданные дистанционного зондированияDorofeyuk А.А. Algoritmy avtomaticheskoy klassifikatsii (obzor) [Algorithms of automatic classification (review)] // Avtomatika i telemekhanika [Automation and Remote Control]. 1971. No 12. P. 78-113.Дорофеюк А.А. Алгоритмы автоматической классификации (обзор) // Автоматика и телемеханика. 1971. №Dorofeyuk А.А. Metodologiya ekspertno-klassifikatsionnogo analiza v zadachakh upravleniya i obrabotki slozhnoorganizovannykh dannykh (istoriya i perspektivy razvitiya) [Methodology of expert classification analysis in the management and processing of complex data (history and prospects of development)] // Problemy upravleniya [Control sciences]. 2009. No 3.1. P. 19-28.12. С. 78-113.TSypkin Ya.Z. Osnovy teorii obuchayushchikhsya sistem [Fundamentals of the theory of learning systems]. Moscow: Nauka, 1970.Дорофеюк А.А. Методология экспертно-классификационного анализа в задачах управления и обработки сложноорганизованных данных (история и перспективы развития) // Проблемы управления. 2009. № 3.1. С. 19-28.Vasil'ev V.I., EHsh S.N. Osobennosti algoritmov samoobucheniya i klasterizatsii [Features of self-learning algorithms and clustering] // Upravlyayushchiye sistemy i mashiny [Control systems and machines]. 2011. No 3. P. 3-9.Цыпкин Я.З. Основы теории обучающихся систем. М.: Наука, 1970.Parzen E. On estimation of a probability density function and mode // Annals of Mathematical Statistics. 1962. V. 33. No 3. P. 1065-1076.Васильев В.И., Эш С.Н. Особенности алгоритмов самообучения и кластеризации // Управляющие системы и машины. 2011. № 3. С. 3-9.Epanechnikov V.A. Neparametricheskaya ocenka mnogomernoj plotnosti veroyatnosti [Non-parametric estimation of a multivariate probability density]. // Teoriya veroyatnosti i ee primeneniya [Theory of Probability & Its Applications]. 1969. V. 14. No 1. P. 156-161.Parzen E. On estimation of a probability density function and mode // Annals of Mathematical Statistics. 1962. V. 33. No 3. P. 1065-1076.Lapko A.V., Lapko V.A. Neparametricheskiy algoritm avtomaticheskoy klassifikatsii v usloviyakh statisticheskikh dannykh bol'shogo ob"yema [Nonparametric algorithm of automatic classification under conditions of large-scale statistical data] // Informatika i sistemy upravleniya [Informatics and control systems]. 2018. V. 57. No 3. P. 59-70.Епанечников В.А. Непараметрическая оценка многомерной плотности вероятности // Теория вероятности и ее применения. 1969. Т. 14. № 1. С. 156-161.Zenkov I.V., Lapko A.V., Lapko V.A., Im S.T., Tuboltsev V.P., Avdeenok V.L. A nonparametric algorithm for automatic classification of large multivariate statistical data sets and its application // Computer Optics. 2021. V. 45. No 2. P. 253–260.Лапко А.В., Лапко В.А. Непараметрический алгоритм автоматической классификации в условиях статистических данных большого объема // Информатика и системы управления. 2018. Т. 57. № 3. С. 59-70.Vasilyeva I.K., Popov A.V. Metod avtomaticheskoj klasterizacii dannyh distancionnogo zondirovaniya [Method for automatic clustering of remote sensing data]// Aviacionnokosmicheskaya tekhnika i tekhnologiya [Aerospace Technic and Technology]. 2019. V. 155. No 3. P. 64-75.Зеньков И.В., Лапко А.В., Лапко В.А., Им С.Т., Тубольцев В.П., Авдеенок В.Л. Непараметрический алгоритм автоматической классификации многомерных статистических данных большого объёма и его применение // Компьютерная оптика. 2021. Т. 45. № 2. С. 253-260.Lapko A.V., Lapko V.A. Regressionnaya ocenka mnogomernoj plotnosti veroyatnosti i eyo svojstva [Regression estimate of the multidimensional probability density and its properties] // Avtometriya [Optoelectronics, Instrumentation and Data Processing]. 2014. V. 50. No 2. P.148–153.Васильева И.К., Попов А.В. Метод автоматической кластеризации данных дистанционного зондирования // Авиационно-космическая техника и технология. 2019. Т. 155. № 3. С. 64-75. 10. Лапко А.В., Лапко В.А. Регрессионная оценка многомерной плотности вероятности и её свойства // Автометрия. 2014. Т. 50. № 2. С. 50-56.Lapko A.V., Lapko V.A. Yadernyye otsenki plotnosti veroyatnosti i ikh primeneniye [Kernel probability density estimates and their application]. Krasnoyarsk: Reshetnev University. 2021.Лапко А.В., Лапко В.А. Ядерные оценки плотности вероятности и их применение. Красноярск: СибГУ им. М.Ф. Решетнёва. 2021.Rudemo M. Empirical choice of histogram and kernel density estimators // Scandinavian Journal of Statistics. 1982. V. 9. No 2. P. 65-78.Hall P. Large-sample optimality of least squares cross-validation in density estimation // Annals of Statistics. 1983. V. 11. No 4. P. 1156-1174.Bowman A.W. An alternative method of cross-validation for the smoothing of density estimates // Biometrika. 1984. V. 71. No 2. P. 353-360.Heinhold I., Gaede K.W. Ingeniur statistic. München: Wien, Springler Verlag Publs, 1964.Heinhold I., Gaede K.W. Ingeniur statistic. München: Wien, Springler Verlag, 1964.Chavez P.S. Image-based atmospheric correction revisited and improved // Photogrammetric Engineering and Remote Sensing. 1996. V. 62. No 9. P. 1025-1036.Lapko A.V., Lapko V.A., Im S.T., Tuboltsev V.P., Avdeenok V.L. Programma avtomaticheskoy klassifikatsii dannykh distantsionnogo zondirovaniya Zemli na osnove neparametricheskikh algoritmov prinyatiya resheniy (NAC v. 2.0) [The program for automatic classification of Earth remote sensing data based on nonparametric decision-making algorithms (NAC v. 2.0)] // Certificate of state registration of the computer program RF No. 2022619023, 2022.Лапко А.В., Лапко В.А., Им С.Т., Тубольцев В.П., Авдеенок В.Л. Программа автоматической классификации данных дистанционного зондирования Земли на основе непараметрических алгоритмов принятия решений (NAC v. 2.0) // Свидетельство о государственной регистрации программы для ЭВМ № 2022619023 от 18.05.2022. Федеральная служба по интеллектуальной собственности, 2022.Lemenkova P. ISO Cluster classifier by ArcGIS for unsupervised classification of the Landsat TM image of Reykjavík. University thought // Bulletin of Natural Sciences Research. 2021. V. 11. No 1. P. 29-37.