Про скінченну збіжність процесу навчання NN класифікації на помилках
DOI:
https://doi.org/10.15407/dopovidi2022.01.034Ключові слова:
класифікаційне навчання, кінцева збіжність, метод найближчого сусіда, навчання на помилкахАнотація
Встановлено аналог відомої теореми Новікова про скінченну збіжність алгоритму навчання персептро- на у випадку лінійно розділених класів. Ми отримуємо аналогічний результат щодо алгоритму класифі- кації за принципом найближчого сусіда у випадку компактних класів у загальному метричному просторі для класів, що не перетинаються. Процес навчання полягає у поступовій модифікації алгоритму у випадках помилкової класифікації. Процес вивчається в детермінованій постановці. Класи розуміються як компакти в повному метричному просторі. Розділення класів взначається як неперетин компактів. Кількість кроків навчання обмежена числом елементів в деякій ε-сітці для розглянутих класів.
Завантаження
Посилання
Rosenblatt, F. (1962). Principles of Neurodynamics: Perceptron and Theory of Brain Mechanisms. Washington: Spartan Books. 616 p.
Glushkov, V. M. (1963). The theory of instruction for a class of discrete perceptrons. USSR. Comput. Math. and Math. Phys., 2, Iss. 2, pp. 338-355. https: //doi. org/10. 1016/0041-5553(63)90410-5
Novikoff, A. B. J. (1962). On convergence proofs on perceptrons. Proceedings of the Symposium on the Mathematical Theory of Automata, 12, pp. 615-622. New York: Polytechnic Institute of Brooklyn.
Kozinets, V. N. (1973). Recurrent algorithm for separating convex hulls of two sets. Pattern recognition learning algorithms. Moscow: Sovetskoe Radio, pp. 43-50 (in Russian).
Aizerman, M. A., Braverman, E. M., Rozonoer, L. I. (1970). Method of Potential Functions in the Theory of Pattern Recognition. Moscow: Nauka (in Russian).
Schlesinger, M. I. & Hlavác, V. (2002). Ten lectures on statistical and structural pattern recognition. Dordrecht: Kluwer. https: //doi. org/10. 1007/978-94-017-3217-8
Vapnik, V. N. (1998). Statistical learning theory. New York: Wiley.
Cover, T. M. & Hart, P. E. (1967). Nearest neighbor pattern classification. IEEE Transactions on Information Theory. 13, Iss. 1, pp. 21-27. https://doi. org/10.1109/tit.1967.1053964
Devroye, L., Gyorfi, L. & Lugosi, G. (1996). A Probabilistic Theory of Pattern Recognition. New York: Springer.
Vorontsov, K. V. (2010). Metric classification algorithms. Access. http://machinelearning.ru/wiki/images/8/8f/Voron-ML-Metric1.pdf
##submission.downloads##
Опубліковано
Як цитувати
Номер
Розділ
Ліцензія
Авторське право (c) 2022 Доповіді Національної академії наук України
Ця робота ліцензується відповідно до Creative Commons Attribution-NonCommercial 4.0 International License.
