Використання фрактального аналізу в алгоритмах оптимізації нейромереж у медичній діагностиці
Анотація
Актуальність. Розвиток методів оптимізації нейромереж для медичних задач обмежується шумністю та дисбалансом даних, що ускладнює застосування класичних алгоритмів. Використання фрактального аналізу дозволяє створити нові підходи до підвищення стійкості, стабільності та точності моделей.
Мета. Покращити збіжність та стабільність навчання глибоких нейронних мереж у медичній діагностиці шляхом створення нового алгоритму оптимізації, заснованого на фрактальній самоподібності. .
Методи. Запропонований алгоритм розширює Adam впроваджуючи фрактальну самоподібність моментів градієнта за допомогою багатомасштабного усереднення. Алгоритм використовує два часові моменти: короткострокову компоненту, що відображає локальні тенденції градієнта, та довгострокову компоненту, яка накопичує фрактально-згладжену інформацію на множині масштабів. Правило оновлення включає фрактальний коефіцієнт, що контролює баланс між локальною адаптивністю та глобальною стійкістю. Така конструкція дозволяє оптимізатору виконувати корекції градієнта самоподібним чином, аналогічно до динаміки дробового порядку.
Результати. Експериментальні результати показали, що оптимізатор FractalMomentAdam досягає вищої продуктивності за декількома ключовими метриками. Алгоритм досяг валідаційної точності 96,44%, перевищивши базовий Adam на 2,5%, а також продемонстрував більш плавну збіжність та зменшену амплітуду коливань функції втрат між епохами. Багатомасштабне фрактальне згладжування сприяло кращій стійкості до шуму та стабільнішій динаміці навчання в умовах несбалансованості даних. Комбінація адаптивної оцінки моментів та фрактальної модуляції ефективно покращила як швидкість збіжності, так і фінальну якість моделі.
Висновки. Дослідження підтверджує, що фрактальний підхід до оптимізації є надійною та ефективною альтернативою традиційним методам. Впровадження самоподібних структур в оцінку моментів дозволяє FractalMomentAdam підвищити стабільність, надійність та адаптивність навчання нейронних мереж для медичних завдань. Ці результати відкривають перспективи для подальших досліджень у галузі адаптивних фрактальних оптимізаторів, включаючи динамічне налаштування параметрів, гібридизацію з метаевристичними стратегіями та застосування для більшої кількості класів медичних датасетів.
Завантаження
Посилання
/Посилання
Philip Ward, MRI artifacts still require significant care and attention. 2023. URL: https://www.auntminnieeurope.com/clinical-news/article/15657705/mri-artifacts-still-require-significant-care-and-attention (date of access: 18.06.2025).
Bodner B. 10 PyTorch Optimizers Everyone Is Using. 2024. URL: https://medium.com/@benjybo7/10-pytorch-optimizers-you-must-know-c99cf3390899 (date of access: 21.05.2025).
Diederik P. Kingma, Jimmy Lei Ba, ADAM: A METHOD FOR STOCHASTIC OPTIMIZATION. 2015. URL: https://arxiv.org/pdf/1412.6980 (date of access: 10.06.2025).
Robin M. Schmidt, Schneider F., Hennig P. Descending through a Crowded Valley — Benchmarking Deep Learning Optimizers. 2021. URL: https://arxiv.org/pdf/2007.01547 (date of access: 21.05.2025).
GfG, Optimization Algorithms in Machine Learning. 2025. URL: https://www.geeksforgeeks.org/machine-learning/optimization-algorithms-in-machine-learning/ (date of access: 25.05.2025).
Reyad M., Amany M. Sarhan, Arafa M. A modified Adam algorithm for deep neural network optimization. 2023. URL: https://link.springer.com/article/10.1007/s00521-023-08568-z (date of access: 28.05.2025).
G. E. Hinton, N. Srivastava, A. Krizhevsky, I. Sutskever and R. R. Salakhutdinov Improving neural networks by preventing co-adaptation of feature detectors. 2012. URL: https://arxiv.org/pdf/1207.0580 (date of access: 21.05.2025).
Salmi M., Atif D., Oliva D., Abraham A., Ventura S. Handling imbalanced medical datasets: review of a decade of research. 2024. URL: https://link.springer.com/article/10.1007/s10462-024-10884-2 (date of access: 18.06.2025).
Barnsley, Michael F.; Rising Hawley; Fractals Everywhere. Boston: Academic Press Professional, 1993. ISBN 0-12-079061-0
Jiancheng Yang, Rui Shi, Donglai Wei, Zequan Liu, Lin Zhao, Bilian Ke, Hanspeter Pfister & Bingbing Ni. MedMNIST v2 - A large-scale lightweight benchmark for 2D and 3D biomedical image classification. 2023. URL: https://www.nature.com/articles/s41597-022-01721-8 (date of access: 18.06.2025).
Jakob Nikolas Kather. Predicting survival from colorectal cancer histology slides using deep learning: A retrospective multicenter study. 2019. URL: https://journals.plos.org/plosmedicine/article?id=10.1371/journal.pmed.1002730 (date of access: 18.06.2025).
Convolutional Neural Network (CNN) TensorFlow Guide for CIFAR. 2025. URL: https://www.tensorflow.org/tutorials/images/cnn (date of access: 25.06.2025).
Philip Ward, MRI artifacts still require significant care and attention. 2023. URL: https://www.auntminnieeurope.com/clinical-news/article/15657705/mri-artifacts-still-require-significant-care-and-attention (date of access: 18.06.2025).
Bodner B. 10 PyTorch Optimizers Everyone Is Using. 2024. URL: https://medium.com/@benjybo7/10-pytorch-optimizers-you-must-know-c99cf3390899 (date of access: 21.05.2025).
Diederik P. Kingma, Jimmy Lei Ba, ADAM: A METHOD FOR STOCHASTIC OPTIMIZATION. 2015. URL: https://arxiv.org/pdf/1412.6980 (date of access: 10.06.2025).
Robin M. Schmidt, Schneider F., Hennig P. Descending through a Crowded Valley — Benchmarking Deep Learning Optimizers. 2021. URL: https://arxiv.org/pdf/2007.01547 (date of access: 21.05.2025).
GfG, Optimization Algorithms in Machine Learning. 2025. URL: https://www.geeksforgeeks.org/machine-learning/optimization-algorithms-in-machine-learning/ (date of access: 25.05.2025).
Reyad M., Amany M. Sarhan, Arafa M. A modified Adam algorithm for deep neural network optimization. 2023. URL: https://link.springer.com/article/10.1007/s00521-023-08568-z (date of access: 28.05.2025).
G. E. Hinton, N. Srivastava, A. Krizhevsky, I. Sutskever and R. R. Salakhutdinov Improving neural networks by preventing co-adaptation of feature detectors. 2012. URL: https://arxiv.org/pdf/1207.0580 (date of access: 21.05.2025).
Salmi M., Atif D., Oliva D., Abraham A., Ventura S. Handling imbalanced medical datasets: review of a decade of research. 2024. URL: https://link.springer.com/article/10.1007/s10462-024-10884-2 (date of access: 18.06.2025).
Barnsley, Michael F.; Rising Hawley; Fractals Everywhere. Boston: Academic Press Professional, 1993. ISBN 0-12-079061-0
Jiancheng Yang, Rui Shi, Donglai Wei, Zequan Liu, Lin Zhao, Bilian Ke, Hanspeter Pfister & Bingbing Ni. MedMNIST v2 - A large-scale lightweight benchmark for 2D and 3D biomedical image classification. 2023. URL: https://www.nature.com/articles/s41597-022-01721-8 (date of access: 18.06.2025).
Jakob Nikolas Kather. Predicting survival from colorectal cancer histology slides using deep learning: A retrospective multicenter study. 2019. URL: https://journals.plos.org/plosmedicine/article?id=10.1371/journal.pmed.1002730 (date of access: 18.06.2025).
Convolutional Neural Network (CNN) TensorFlow Guide for CIFAR. 2025. URL: https://www.tensorflow.org/tutorials/images/cnn (date of access: 25.06.2025).
