Obrabotka Metallov / Metal Working and Material ScienceObrabotka Metallov / Metal Working and Material ScienceОбработка металлов (технология • оборудование • инструменты)1994-63092541-819XНовосибирский государственный технический университет39224610.17212/1994-6309-2026-28.1-64-80TECHNOLOGYТЕХНОЛОГИЯResearch ArticleMinimum sample size requirements for reliable correlation-regression modeling of surface roughness in millingОпределение минимального объема выборки для построения корреляционно-регрессионных моделей параметров шероховатости при фрезерованииhttps://orcid.org/0000-0001-6685-519X572248988188922-3483GimadeevM. R.ГимадеевМихаил Радикович
Russian Federation

Ph.D. (Engineering)

канд. техн. наук

009063@togudv.ruhttps://togudv.ru/rasp/teacher/29581/https://orcid.org/0000-0003-2763-195657224894220GWR-3515-20222721-4844StelmakovV. A.СтельмаковВадим Александрович
Russian Federation

Ph.D. (Engineering)

канд. техн. наук

009062@togudv.ruhttps://togudv.ru/rasp/teacher/29580/https://orcid.org/0009-0001-9858-423X592491725001815-1726UliskovM. V.УлисковМаксим Витальевич
Russian Federation

MSc (Engineering)

Магистр

2016104779@togudv.ruPacific National UniversityТихоокеанский государственный университет15032026281VOL 28, NO1 (2026)ТОМ 28, №1 (2026)648007032026Copyright ©; 2026, Gimadeev M.R., Stelmakov V.A., Uliskov M.V.Copyright ©; 2026, Гимадеев М.Р., Стельмаков В.А., Улисков М.В.2026Gimadeev M.R., Stelmakov V.A., Uliskov M.V.Гимадеев М.Р., Стельмаков В.А., Улисков М.В.https://creativecommons.org/licenses/by/4.0https://journals.rcsi.science/1994-6309/article/view/392246

Introduction. Investigating the statistical relationships between milling parameters and surface roughness requires a correct selection of the sample size, as amplitude parameters and form parameters respond differently to data limitations. The reliability of correlation-regression analysis depends on meeting the assumptions of normality and the stability of the estimates, making the determination of the minimum number of observations essential for constructing reliable surface roughness models. The purpose of this work is to develop a methodology for estimating the minimum sample size required to build statistically significant correlation-regression models that describe the relationship between the technological parameters of the milling process and surface roughness characteristics, ensuring statistical reliability of the results and enabling accurate prediction of machined surface quality. Methodology. The normality of the surface roughness parameter distributions after milling was assessed using the Shapiro–Wilk, Anderson–Darling, and Pearson's chi-squared tests. Multicollinearity among the technological factors was analyzed using the variance inflation factor (VIF), while the adequacy of the regression models was verified using the mean absolute error (MAE) and root mean square error (RMSE) metrics. The minimum required sample size was determined by considering statistical test power and Fisher's z-transformation. Results and discussions. The analysis of pairwise correlation coefficients revealed that amplitude roughness parameters exhibit stable relationships even at n = 16, while profile shape parameters (Rsk, Rku) are characterized by weak or negative correlations and require a substantially larger sample size. The constructed matrix of the minimum number of observations confirms that for a number of relationships, especially those involving Rsk, hundreds of measurements are necessary, which justifies the selection of the most informative parameter combinations. Increasing the sample size to n = 128 reduces estimation bias, stabilizes the correlations for amplitude parameters, and reveals a weakening of the relationships for Rsk and Rku. Rank correlation analysis confirmed a monotonic dependence between Rz and Rt and the independence of Rsk from amplitude characteristics. The verification of the normality of the distributions and the absence of multicollinearity among the factors ensured the validity of the constructed regression models, which demonstrated high accuracy and consistent error behavior.

Введение. Исследование статистических взаимосвязей между параметрами фрезерования и шероховатости требует корректного выбора объема выборки, поскольку амплитудные параметры и параметры формы по-разному реагируют на ограниченность данных. Надежность корреляционно-регрессионного анализа зависит от соблюдения предпосылок нормальности и устойчивости оценок, что делает задачу определения минимального числа наблюдений ключевой для построения достоверных моделей шероховатости поверхности. Цель настоящей работы заключается в разработке подхода к оценке минимального объема выборки, необходимого для построения статистически значимых корреляционно-регрессионных моделей, описывающих взаимосвязь технологических параметров процесса фрезерования и характеристик шероховатости поверхности, а также обеспечивающих статистическую надежность результатов и возможность адекватного прогнозирования качества обработанной поверхности. Метод и методология. Нормальность распределений параметров шероховатости после фрезерования оценивалась критериями Шапиро – Уилка, Андерсона – Дарлинга и Пирсона. Мультиколлинеарность технологических факторов контролировалась через VIF, а адекватность регрессионных моделей проверялась по MAE и RMSE. Минимальный объем выборки рассчитывался с учетом мощности теста и преобразования Фишера. Результаты и обсуждения. Анализ парных коэффициентов корреляции показал, что амплитудные параметры шероховатости демонстрируют устойчивые взаимосвязи уже при n = 16, тогда как параметры формы профиля (Rsk, Rku) характеризуются слабой или отрицательной корреляцией и требуют существенно большего объема выборки. Построенная матрица минимального числа наблюдений подтверждает, что для ряда связей, особенно с участием Rsk, необходимы сотни измерений, что делает оправданным выбор наиболее информативных пар параметров. Увеличение выборки до n = 128 снижает смещенность оценок, стабилизирует амплитудные корреляции и выявляет ослабление связей для Rsk и Rku. Ранговый анализ подтверждает монотонную зависимость между Rz и Rt и независимость Rsk от амплитудных характеристик. Проверка нормальности распределений и отсутствие мультиколлинеарности факторов обеспечили корректность построенных регрессионных моделей, отличающихся высокой точностью и согласованностью ошибок.

Sample sizeSurface roughnessCorrelationRegression modelMilling, Root mean square errorРазмер выборкиШероховатостьКорреляцияРегрессионная модельФрезерованиеСреднеквадратичная ошибкаThis work has funded by the Ministry of science and higher education of Russian Federation (project № FEME–2024–0010).Работа выполнена при поддержке Министерства науки и высшего образования Российской Федерации (проект № FEME–2024–0010 «Экспериментальная лаборатория мехатронных систем ЧПУ»).

Funding

This work has funded by the Ministry of science and higher education of Russian Federation (project № FEME–2024–0010).

Финансирование

Работа выполнена при поддержке Министерства науки и высшего образования Российской Федерации (проект № FEME–2024–0010 «Экспериментальная лаборатория мехатронных систем ЧПУ»).

Система автоматизированного технологического управления износостойкостью деталей машин при обработке резанием / А.Г. Суслов, Д.М. Медведев, Д.И. Петрешин, О.Н. Федонин // Наукоемкие технологии в машиностроении. – 2018. – № 5 (83). – С. 40–44. – DOI: 10.30987/article_5ad8d291cddcd8.06334386.Wen Y., Zhou W., Tang J. Research on the correlation between roughness parameters and contact stress on tooth surfaces and its dominant characteristics // Measurement. – 2024. – Vol. 238. – P. 115399. – DOI: 10.1016/j.measurement.2024.115399.Podulka P. Selection of methods of surface texture characterisation for reduction of the frequency-based errors in the measurement and data analysis processes // Sensors. – 2022. – Vol. 22 (3). – P. 791. – DOI: 10.3390/s22030791.A correlational study of areal surface texture parameters on some typical machined surfaces / Q. Qi, T. Li, P.J. Scott, X. Jiang // Procedia CIRP. – 2025. – Vol. 27. – P. 149–154. – DOI: 10.1016/j.procir.2015.04.058.Study on contact performance of ultrasonic-assisted grinding surface / Y. Wen, J. Tang, W. Zhou, C. Zhu // Ultrasonics. – 2019. – Vol. 91. – P. 193–200. – DOI: 10.1016/j.ultras.2018.08.009.Sedlacek M., Podgornik B., Vizintin J. Correlation between standard roughness parameters skewness and kurtosis and tribological behaviour of contact surfaces // Tribology International. – 2012. – Vol. 48. – P. 102–112. – DOI: 10.1016/j.triboint.2011.11.008.Формирование параметров шероховатости на основе корреляционных связей при чистовом фрезеровании пространственно-сложных поверхностей / М.Р. Гимадеев, В.М. Давыдов, А.В. Никитенко, А.В. Сарыгин // Упрочняющие технологии и покрытия. – 2019. – Т. 15, № 6 (174). – С. 243–248.Correlation between surface roughness parameters and contact stress of gear / D. Yang, J. Tang, W. Zhou, Y. Wen // Proceedings of the institution of mechanical engineers, Part J: Journal of Engineering Tribology. – 2020. – Vol. 235 (3). – P. 551–563. – DOI: 10.1177/1350650120928661.Li T., Huang X., Luo M. Analysis on the correlation between plunge milling parameters and plunge milling force and force coefficient // 2018 IEEE 3rd Advanced Information Technology, Electronic and Automation Control Conference (IAEAC). – IEEE, 2018. – P. 927–936. – DOI: 10.1109/IAEAC.2018.8577706.A surface quality prediction model considering the machine-tool-material interactions / M. Guo, W. Xia, C. Wu, C. Luo, Z. Lin // The International Journal of Advanced Manufacturing Technology. – 2024. – Vol. 131 (7–8). – P. 1–19. – DOI: 10.1007/s00170-024-13072-2.Paturi U.M.R., Devarasetti H., Narala S.K.R. Application of regression and artificial neural network analysis in modelling of surface roughness in hard turning of AISI 52100 steel // Materials Today: Proceedings. – 2018. – Vol. 5 (2). – P. 4766–4777. – DOI: 10.1016/j.matpr.2017.12.050.Zakharova O.V., Suleimanova F.D. Linear regression equations for determining the roughness of machined surfaces. Part 1. Turning, face milling, surface grinding, and polishing // Russian Engineering Research. – 2024. – Vol. 44 (6). – P. 800–806. – DOI: 10.3103/S1068798X24701259.3D curved surface milling modeling for the topography simulation and surface roughness prediction / C. Chen, C. Wu, T. Zhang, S.Y. Liang // Journal of Manufacturing Processes. – 2025. – Vol. 137. – P. 150–165. – DOI: 10.1016/j.jmapro.2025.02.003.Wibowo A., Desa M.I. Kernel based regression and genetic algorithms for estimating cutting conditions of surface roughness in end milling machining process // Expert Systems with Applications. – 2012. – Vol. 39 (14). – P. 11634–11641. – DOI: 10.1016/j.eswa.2012.04.004.Oktem H., Erzurumlu T., Erzincanli F. Prediction of minimum surface roughness in end milling mold parts using neural network and genetic algorithm // Materials & Design. – 2006. – Vol. 27 (9). – P. 735–744. – DOI: 10.1016/j.matdes.2005.01.010.Bujang M.A., Baharum B. Sample size guideline for correlation analysis // World Journal of Social Science Research. – 2016. – Vol. 3. – P. 37–46. – DOI: 10.22158/wjssr.v3n1p37.Statistical power analyses using G*Power 3.1: Tests for correlation and regression analyses / F. Faul, E. Erdfelder, A. Buchner, A.-G. Lang // Behavior Research Methods. – 2009. – Vol. 41. – P. 1149–1160. – DOI: 10.3758/BRM.41.4.1149.Пономарев Б.Б., Нгуен Ш.Х. Оценка шероховатости при пятикоординатном чистовом фрезеровании поверхностей сфероцилиндрической фрезой // Известия высших учебных заведений. Машиностроение. – 2020. – № 5 (722). – С. 21–31. – DOI: 10.18698/0536-1044-2020-5-21-31.Экспериментальное исследование динамики процесса механообработки концевыми сфероцилиндрическими фрезами / М.Р. Гимадеев, А.А. Ли, В.О. Беркун, В.А. Стельмаков // Обработка металлов (технология, оборудование, инструменты). – 2023. – Т. 25, № 1. – С. 44–56. – DOI: 10.17212/1994-6309-2023-25.1-44-56.Гимадеев М.Р., Ли А.А. Анализ систем автоматизированного обеспечения параметров шероховатости поверхности на основе динамического мониторинга // Advanced Engineering Research. – 2022. – Т. 22 (2). – С. 116–129. – DOI: 10.23947/2687-1653-2022-22-2-116-129.Chen C.H., Jeng S.Y., Lin C.J. Prediction and analysis of the surface roughness in CNC end milling using neural networks // Application Science. – 2022. – Vol. 12 (1). – P. 393. – DOI: 10.3390/app12010393.Manjunath K., Tewary S., Khatri N. Surface roughness prediction in milling using long-short term memory modelling // Materials Today: Proceedings. – 2022. – Vol. 64 (3). – P. 1300–1304. – DOI: 10.1016/j.matpr.2022.04.126.Chai T., Draxler R.R. Root mean square error (RMSE) or mean absolute error (MAE) arguments against avoiding RMSE in the literature // Geoscientific Model Development. – 2014. – Vol. 7 (3). – P. 1247–1250. – DOI: 10.5194/gmd-7-1247-2014.