Помощь студентам в учебе
МНОГОМЕТОЧНАЯ КЛАССИФИКАЦИЯ ФЕНОМЕНОВ НА РЕНТГЕНОВСКИХ СНИМКАХ С ПОМОЩЬЮ СВЁРТОЧНЫХ НЕЙРОННЫХ СЕТЕЙ
|
ВВЕДЕНИЕ 3
1 Предметная область 4
1.1 Методы исследования органов дыхания 4
1.2 Формат DICOM 5
1.3 Рентгенологические феномены поражений легких 5
2 Основные понятия нейронных сетей 8
2.1 Нейрон 8
2.2 Функция активации 8
2.3 Нейронная сеть 11
2.4 Функция потерь 12
2.5 Оптимизатор нейронной сети 14
2.6 Обратное распространение ошибки 15
2.7 Обобщающая способность 15
3 Свёрточные нейронные сети 17
3.1 Свёрточный слой 17
3.2 Слой субдискретизации 18
3.3 Архитектуры свёрточных нейронных сетей 19
3.4 Передача обучения 22
4 Данные для исследования 23
4.1 Основные сведения 23
4.2 Классы 24
4.3 Разметка данных 25
4.4 Переход от патологий к феноменам 26
4.5 Расширение набора данных 27
5 Метрики классификации 28
6 Исследование 32
6.1 Тип задачи 32
6.2 Инструменты реализации 32
6.3 Предобработка данных 33
6.4 Архитектура модели 34
6.5 Параметры обучения 36
6.6 Результаты 36
ЗАКЛЮЧЕНИЕ 38
ЛИТЕРАТУРА 39
1 Предметная область 4
1.1 Методы исследования органов дыхания 4
1.2 Формат DICOM 5
1.3 Рентгенологические феномены поражений легких 5
2 Основные понятия нейронных сетей 8
2.1 Нейрон 8
2.2 Функция активации 8
2.3 Нейронная сеть 11
2.4 Функция потерь 12
2.5 Оптимизатор нейронной сети 14
2.6 Обратное распространение ошибки 15
2.7 Обобщающая способность 15
3 Свёрточные нейронные сети 17
3.1 Свёрточный слой 17
3.2 Слой субдискретизации 18
3.3 Архитектуры свёрточных нейронных сетей 19
3.4 Передача обучения 22
4 Данные для исследования 23
4.1 Основные сведения 23
4.2 Классы 24
4.3 Разметка данных 25
4.4 Переход от патологий к феноменам 26
4.5 Расширение набора данных 27
5 Метрики классификации 28
6 Исследование 32
6.1 Тип задачи 32
6.2 Инструменты реализации 32
6.3 Предобработка данных 33
6.4 Архитектура модели 34
6.5 Параметры обучения 36
6.6 Результаты 36
ЗАКЛЮЧЕНИЕ 38
ЛИТЕРАТУРА 39
Медицинская визуализация играет важную роль в современной диагностике и лечении заболеваний. Одним из наиболее популярных и доступных методов визуализации является рентгенография. Рентгеновские снимки широко применяются для выявления различных феноменов и на основе их сочетаний специалисты могут ставить точные диагнозы. Однако анализ рентгеновских изображений требует значительного опыта и времени, что может быть особенно проблематично в условиях высокой нагрузки на медицинский персонал. Автоматизация этого процесса с использованием современных технологий имеет потенциал существенно облегчить работу рентгенологов, повысить скорость диагностики и улучшить её точность.
В последние годы глубокие нейронные сети, в частности свёрточные нейронные сети (Convolutional Neural Networks, CNN), продемонстрировали выдающиеся результаты в задачах анализа медицинских изображений [1]. CNN способны автоматически извлекать сложные признаки из изображений, что делает их особенно эффективными для распознавания локальных паттернов и пространственных зависимостей.
Однако подавляющее большинство существующих исследований в этой области сосредоточено на бинарной классификации отдельных патологий [2]. В реальной клинической практике на одном рентгеновском снимке могут одновременно присутствовать несколько феноменов. Это порождает задачу многометочной (multi-label) классификации, в которой модель должна прогнозировать сразу несколько независимых классов.
Целью данной работы является исследование подхода к многометочной классификации феноменов на рентгеновских снимках грудной клетки с помощью свёрточных нейронных сетей.
Для достижения этой цели были поставлены следующие задачи:
1. Изучить предметную область - медицинские снимки и их особенности;
2. Изучить архитектуру свёрточных нейронных сетей;
3. Найти и подготовить подходящий набор данных;
4. Выбрать и адаптировать архитектуру модели;
5. Обучить модель и оценить её качество;
6. Проанализировать результаты и сделать выводы.
В последние годы глубокие нейронные сети, в частности свёрточные нейронные сети (Convolutional Neural Networks, CNN), продемонстрировали выдающиеся результаты в задачах анализа медицинских изображений [1]. CNN способны автоматически извлекать сложные признаки из изображений, что делает их особенно эффективными для распознавания локальных паттернов и пространственных зависимостей.
Однако подавляющее большинство существующих исследований в этой области сосредоточено на бинарной классификации отдельных патологий [2]. В реальной клинической практике на одном рентгеновском снимке могут одновременно присутствовать несколько феноменов. Это порождает задачу многометочной (multi-label) классификации, в которой модель должна прогнозировать сразу несколько независимых классов.
Целью данной работы является исследование подхода к многометочной классификации феноменов на рентгеновских снимках грудной клетки с помощью свёрточных нейронных сетей.
Для достижения этой цели были поставлены следующие задачи:
1. Изучить предметную область - медицинские снимки и их особенности;
2. Изучить архитектуру свёрточных нейронных сетей;
3. Найти и подготовить подходящий набор данных;
4. Выбрать и адаптировать архитектуру модели;
5. Обучить модель и оценить её качество;
6. Проанализировать результаты и сделать выводы.
Возникли сложности?
Нужна помощь преподавателя?
Помощь в написании работ!
В данной работе была исследована методика многометочной классификации феноменов на рентгеновских снимках грудной клетки с использованием модифицированной архитектуры свёрточной нейронной сети DenseNet.
В ходе работы была подробно изучена специфика медицинских изображений, выполнена агрегация противоречивых аннотаций рентгенологов и осуществлён переход от прогнозирования конкретных патологий к выделению трёх ключевых феноменов: «Сердечно-сосудистые аномалии», «Затемнение лёгочного поля» и «Просветление лёгочного поля».
Полученные результаты подтверждают, что предложенный подход способен надёжно выявлять сразу несколько клинически значимых феноменов на одном рентгеновском снимке.
В ходе работы была подробно изучена специфика медицинских изображений, выполнена агрегация противоречивых аннотаций рентгенологов и осуществлён переход от прогнозирования конкретных патологий к выделению трёх ключевых феноменов: «Сердечно-сосудистые аномалии», «Затемнение лёгочного поля» и «Просветление лёгочного поля».
Полученные результаты подтверждают, что предложенный подход способен надёжно выявлять сразу несколько клинически значимых феноменов на одном рентгеновском снимке.
1. Mienye I.D., Swart T.G., Obaido G., Jordan M., Ilono P. Deep Convolutional Neural Networks in Medical Image Analysis: A Review / I.D. Mienye и др. // MDPI Open Access Journals. - 2025. - №195. - URL: https://www.mdpi.com/2078-2489/16/3Z195 (дата обращения: 03.06.2025).
2. Zhong Z., Zheng M., Mai H., Zhao J., Liu X. Cancer image classification based on DenseNet model / Z. Zhong и др. // arXiv.org e-Print archive. - 2020. - URL: https://arxiv.org/abs/2011.11186 (дата обращения: 03.06.2025).
3. Магнитно-резонансная томография // Википедия: Свободная энциклопедия. - URL:
https://ru.wikipedia.org/wiki/Магнитно-резонансная_томография (дата обращения:
03.06.2025).
4. Флюорография // Википедия: Свободная энциклопедия. - URL:
https://ru.wikipedia.org/wiki/Флюорография (дата обращения: 03.06.2025).
5. Chest radiograph // Wikipedia. - URL: https://en.wikipedia.org/wiki/Chest_radiograph (дата обращения: 03.06.2025).
6. DICOM // Википедия: Свободная энциклопедия. - URL:
https://ru.wikipedia.org/wiki/DICOM (дата обращения: 03.06.2025).
7. PACS // Википедия: Свободная энциклопедия. - URL: https://ru.wikipedia.org/wiki/PACS(дата обращения: 03.06.2025).
8. Тимофеева Л.А., Алешина Т.Н., Быкова А.В. Основные рентгенологические синдромы патологии легочной ткани. / Л.А. Тимофеева, Т.Н. Алешина, А.В. Быкова. - Чебоксары, 2013. - 104 с.
9. Демещенко М. В., Марковец Р. С., Сугако Т. А., Владымцев В. Д. Функции активации = Activation functions / М. В. Демещенко, Р. С. Марковец, Т. А. Сугако, В. Д. Владымцев // Компьютерные системы и сети : сборник статей 59-й научной конференции аспирантов, магистрантов и студентов, Минск, 17-21 апреля 2023 г. / Белорусский государственный университет информатики и радиоэлектроники. - Минск, 2023. - С. 333-340. - URL: https://libeldoc.bsuir.by/handle/123456789/52657 (дата обращения: 03.06.2025).
10. Siarshai. Методы оптимизации нейронных сетей / Siarshai // Хабр. - 2017. - URL: https://habr.com/ru/articles/318970/ (дата обращения: 03.06.2025).
11. Оптимизация в ML // Яндекс.Учебник. - URL:
https://education.yandex.ru/handbook/ml/article/optimizaciya-v-ml (дата обращения:
03.06.2025).
12. Метод обратного распространения ошибки // Википедия: Свободная энциклопедия. - URL:https://ru.wikipedia.org/wiki/Метод_обратного_распространения_ошибки (дата обращения: 03.06.2025).
13. Wunder_editor. Dropout - метод решения проблемы переобучения в нейронных сетях /
Wunder_editor // Хабр. - 2017 - URL:
https://habr.com/ru/companies/wunderfund/articles/330814/ (дата обращения: 03.06.2025).
14. Свёрточная нейронная сеть // Википедия: Свободная энциклопедия. - URL: https://ru.wikipedia.org/wiki/Свёрточная_нейронная_сеть (дата обращения: 03.06.2025).
15. ImageNet // ImageNet. - URL: http://www.image-net.org/ (дата обращения: 03.06.2025).
16. AlexNet // Wikipedia: The Free Encyclopedia. - URL: https://en.wikipedia.org/wiki/AlexNet(дата обращения: 03.06.2025).
17. VGGNet // Wikipedia: The Free Encyclopedia. - URL: https://en.wikipedia.org/wiki/VGGNet(дата обращения: 03.06.2025).
18. GoogLeNet // DeepMachineLearning.ru. - URL: https://deepmachinelearning.ru/docs/Neural-networks/Convolutional-architectures/GoogLeNet (дата обращения: 03.06.2025).
19. ResNet // DeepMachineLearning.ru. - URL: https://deepmachinelearning.ru/docs/Neural-networks/Convolutional-architectures/ResNet (дата обращения: 03.06.2025).
20. Huang G., Liu Z., van der Maaten L., Weinberger K.Q. Densely Connected Convolutional Networks / G. Huang и др. // arXiv.org e-Print archive. - 2016. - URL: https://arxiv.org/abs/1608.06993 (дата обращения: 03.06.2025).
21. Nguyen H. Q., Lam K., Le L. T. и др. VinDr-CXR: An open dataset of chest X-rays with radiologist's annotations / H. Q. Nguyen и др. // arXiv.org e-Print archive. - 2020. - URL: https://arxiv.org/abs/2012.15029 (дата обращения: 03.06.2025).
22. Aortic_aneurysm // Wikipedia: The Free Encyclopedia. - URL:
https://en.wikipedia.org/wiki/Aortic_aneurysm (дата обращения: 03.06.2025).
23. Cardiomegaly // Wikipedia: The Free Encyclopedia - URL:
https://en.wikipedia.org/wiki/Cardiomegaly (дата обращения: 03.06.2025).
24. Pleural thickening // Wikipedia: The Free Encyclopedia. - URL:
https://en.wikipedia.org/wiki/Pleural_thickening (дата обращения: 03.06.2025).
25. Pulmonary_fibrosis // Wikipedia: The Free Encyclopedia. - URL:
https://en.wikipedia.org/wiki/Pulmonary_fibrosis (дата обращения: 03.06.2025).
26. Ground-glass opacity // Wikipedia: The Free Encyclopedia. - URL:
https://en.wikipedia.org/wiki/Ground-glass_opacity (дата обращения: 03.06.2025).
27. Pleural_effusion // Wikipedia: The Free Encyclopedia. - URL:
https://en.wikipedia.org/wiki/Pleural_effusion (дата обращения: 03.06.2025).
28. Nodules and Masses // RadiologyKey. - URL: https://radiologykey.com/nodules-and-masses/(дата обращения: 03.06.2025).
29. Pulmonary_infiltrate // Wikipedia: The Free Encyclopedia. - URL:
https://en.wikipedia.org/wiki/Pulmonary_infiltrate (дата обращения: 03.06.2025).
30. Weerakkody Y., Niknejad M., Bell D. и др. Pulmonary calcification / Y. Weerakkody и др. //
Radiopaedia.org. - 2022. - URL: https://radiopaedia.org/articles/pulmonary-
calcification?lang=us (дата обращения: 03.06.2025).
31. Interstitial_lung_disease // Wikipedia: The Free Encyclopedia. - URL:
https://en.wikipedia.org/wiki/Interstitial_lung_disease (дата обращения: 03.06.2025).
32. Pulmonary_consolidation // Wikipedia. - URL:
https://en.wikipedia.org/wiki/Pulmonary_consolidation (дата обращения: 03.06.2025).
33. Atelectasis // Wikipedia: The Free Encyclopedia. - URL:
https://en.wikipedia.org/wiki/Atelectasis (дата обращения: 03.06.2025).
34. Pneumothorax // Wikipedia The Free Encyclopedia. - URL:
https://en.wikipedia.org/wiki/Pneumothorax (дата обращения: 03.06.2025).
35. Линденбратен Л.Д., Наумов Л.Б. Медицинская рентгенология. / Л.Д. Линденбратен, Л.Б. Наумов. - 2-е изд. - М.: Медицина, 1984. - 384 с.
36. SIIM-ACR Pneumothorax Segmentation // Kaggle Competitions. - 2019. - URL: https://www.kaggle.com/competitions/siim-acr-pneumothorax-segmentation/overview (дата обращения: 03.06.2025).
37. Haque M. I., Dubey A. K., Danciu I., Justice A. C., Ovchinnikova O. S., Hinkle J. D. Effect of
image resolution on automated classification of chest X-rays / M. I. Haque и др. // Journal of Medical Imaging. - 2023. №4. - URL:
https://pmc.ncbi.nlm.nih.gov/articles/PMC10403240/ (дата обращения: 03.06.2025).
38. Wollek A., Hyska S., Sabel B., Ingrisch M., Lasser T. Higher Chest X-ray Resolution Improves Classification Performance / A. Wollek и др. // arXiv.org e-Print archive. - 2023. - URL: https://arxiv.org/abs/2306.06051 (дата обращения: 03.06.2025).
39. Wen X., Tu H., Zhao B., Zhou W., Yang Z., Li L. Identification of benign and malignant breast
nodules on ultrasound: comparison of multiple deep learning models and model interpretation / X.Wen и др. // Frontiers in Oncology. - 2025. - URL:
https://www.frontiersin.org/journals/oncology/articles/10.3389/fonc.2025.1517278/full (дата обращения: 03.06.2025).
40. Selvaraju R.R., Cogswell M., Das A. и др. Grad-CAM: Visual Explanations from Deep Networks via Gradient-based Localization / R.R. Selvaraju и др. // arXiv.org e-Print archive. - 2016. - URL: https://arxiv.org/abs/1610.02391 (дата обращения: 03.06.2025).
2. Zhong Z., Zheng M., Mai H., Zhao J., Liu X. Cancer image classification based on DenseNet model / Z. Zhong и др. // arXiv.org e-Print archive. - 2020. - URL: https://arxiv.org/abs/2011.11186 (дата обращения: 03.06.2025).
3. Магнитно-резонансная томография // Википедия: Свободная энциклопедия. - URL:
https://ru.wikipedia.org/wiki/Магнитно-резонансная_томография (дата обращения:
03.06.2025).
4. Флюорография // Википедия: Свободная энциклопедия. - URL:
https://ru.wikipedia.org/wiki/Флюорография (дата обращения: 03.06.2025).
5. Chest radiograph // Wikipedia. - URL: https://en.wikipedia.org/wiki/Chest_radiograph (дата обращения: 03.06.2025).
6. DICOM // Википедия: Свободная энциклопедия. - URL:
https://ru.wikipedia.org/wiki/DICOM (дата обращения: 03.06.2025).
7. PACS // Википедия: Свободная энциклопедия. - URL: https://ru.wikipedia.org/wiki/PACS(дата обращения: 03.06.2025).
8. Тимофеева Л.А., Алешина Т.Н., Быкова А.В. Основные рентгенологические синдромы патологии легочной ткани. / Л.А. Тимофеева, Т.Н. Алешина, А.В. Быкова. - Чебоксары, 2013. - 104 с.
9. Демещенко М. В., Марковец Р. С., Сугако Т. А., Владымцев В. Д. Функции активации = Activation functions / М. В. Демещенко, Р. С. Марковец, Т. А. Сугако, В. Д. Владымцев // Компьютерные системы и сети : сборник статей 59-й научной конференции аспирантов, магистрантов и студентов, Минск, 17-21 апреля 2023 г. / Белорусский государственный университет информатики и радиоэлектроники. - Минск, 2023. - С. 333-340. - URL: https://libeldoc.bsuir.by/handle/123456789/52657 (дата обращения: 03.06.2025).
10. Siarshai. Методы оптимизации нейронных сетей / Siarshai // Хабр. - 2017. - URL: https://habr.com/ru/articles/318970/ (дата обращения: 03.06.2025).
11. Оптимизация в ML // Яндекс.Учебник. - URL:
https://education.yandex.ru/handbook/ml/article/optimizaciya-v-ml (дата обращения:
03.06.2025).
12. Метод обратного распространения ошибки // Википедия: Свободная энциклопедия. - URL:https://ru.wikipedia.org/wiki/Метод_обратного_распространения_ошибки (дата обращения: 03.06.2025).
13. Wunder_editor. Dropout - метод решения проблемы переобучения в нейронных сетях /
Wunder_editor // Хабр. - 2017 - URL:
https://habr.com/ru/companies/wunderfund/articles/330814/ (дата обращения: 03.06.2025).
14. Свёрточная нейронная сеть // Википедия: Свободная энциклопедия. - URL: https://ru.wikipedia.org/wiki/Свёрточная_нейронная_сеть (дата обращения: 03.06.2025).
15. ImageNet // ImageNet. - URL: http://www.image-net.org/ (дата обращения: 03.06.2025).
16. AlexNet // Wikipedia: The Free Encyclopedia. - URL: https://en.wikipedia.org/wiki/AlexNet(дата обращения: 03.06.2025).
17. VGGNet // Wikipedia: The Free Encyclopedia. - URL: https://en.wikipedia.org/wiki/VGGNet(дата обращения: 03.06.2025).
18. GoogLeNet // DeepMachineLearning.ru. - URL: https://deepmachinelearning.ru/docs/Neural-networks/Convolutional-architectures/GoogLeNet (дата обращения: 03.06.2025).
19. ResNet // DeepMachineLearning.ru. - URL: https://deepmachinelearning.ru/docs/Neural-networks/Convolutional-architectures/ResNet (дата обращения: 03.06.2025).
20. Huang G., Liu Z., van der Maaten L., Weinberger K.Q. Densely Connected Convolutional Networks / G. Huang и др. // arXiv.org e-Print archive. - 2016. - URL: https://arxiv.org/abs/1608.06993 (дата обращения: 03.06.2025).
21. Nguyen H. Q., Lam K., Le L. T. и др. VinDr-CXR: An open dataset of chest X-rays with radiologist's annotations / H. Q. Nguyen и др. // arXiv.org e-Print archive. - 2020. - URL: https://arxiv.org/abs/2012.15029 (дата обращения: 03.06.2025).
22. Aortic_aneurysm // Wikipedia: The Free Encyclopedia. - URL:
https://en.wikipedia.org/wiki/Aortic_aneurysm (дата обращения: 03.06.2025).
23. Cardiomegaly // Wikipedia: The Free Encyclopedia - URL:
https://en.wikipedia.org/wiki/Cardiomegaly (дата обращения: 03.06.2025).
24. Pleural thickening // Wikipedia: The Free Encyclopedia. - URL:
https://en.wikipedia.org/wiki/Pleural_thickening (дата обращения: 03.06.2025).
25. Pulmonary_fibrosis // Wikipedia: The Free Encyclopedia. - URL:
https://en.wikipedia.org/wiki/Pulmonary_fibrosis (дата обращения: 03.06.2025).
26. Ground-glass opacity // Wikipedia: The Free Encyclopedia. - URL:
https://en.wikipedia.org/wiki/Ground-glass_opacity (дата обращения: 03.06.2025).
27. Pleural_effusion // Wikipedia: The Free Encyclopedia. - URL:
https://en.wikipedia.org/wiki/Pleural_effusion (дата обращения: 03.06.2025).
28. Nodules and Masses // RadiologyKey. - URL: https://radiologykey.com/nodules-and-masses/(дата обращения: 03.06.2025).
29. Pulmonary_infiltrate // Wikipedia: The Free Encyclopedia. - URL:
https://en.wikipedia.org/wiki/Pulmonary_infiltrate (дата обращения: 03.06.2025).
30. Weerakkody Y., Niknejad M., Bell D. и др. Pulmonary calcification / Y. Weerakkody и др. //
Radiopaedia.org. - 2022. - URL: https://radiopaedia.org/articles/pulmonary-
calcification?lang=us (дата обращения: 03.06.2025).
31. Interstitial_lung_disease // Wikipedia: The Free Encyclopedia. - URL:
https://en.wikipedia.org/wiki/Interstitial_lung_disease (дата обращения: 03.06.2025).
32. Pulmonary_consolidation // Wikipedia. - URL:
https://en.wikipedia.org/wiki/Pulmonary_consolidation (дата обращения: 03.06.2025).
33. Atelectasis // Wikipedia: The Free Encyclopedia. - URL:
https://en.wikipedia.org/wiki/Atelectasis (дата обращения: 03.06.2025).
34. Pneumothorax // Wikipedia The Free Encyclopedia. - URL:
https://en.wikipedia.org/wiki/Pneumothorax (дата обращения: 03.06.2025).
35. Линденбратен Л.Д., Наумов Л.Б. Медицинская рентгенология. / Л.Д. Линденбратен, Л.Б. Наумов. - 2-е изд. - М.: Медицина, 1984. - 384 с.
36. SIIM-ACR Pneumothorax Segmentation // Kaggle Competitions. - 2019. - URL: https://www.kaggle.com/competitions/siim-acr-pneumothorax-segmentation/overview (дата обращения: 03.06.2025).
37. Haque M. I., Dubey A. K., Danciu I., Justice A. C., Ovchinnikova O. S., Hinkle J. D. Effect of
image resolution on automated classification of chest X-rays / M. I. Haque и др. // Journal of Medical Imaging. - 2023. №4. - URL:
https://pmc.ncbi.nlm.nih.gov/articles/PMC10403240/ (дата обращения: 03.06.2025).
38. Wollek A., Hyska S., Sabel B., Ingrisch M., Lasser T. Higher Chest X-ray Resolution Improves Classification Performance / A. Wollek и др. // arXiv.org e-Print archive. - 2023. - URL: https://arxiv.org/abs/2306.06051 (дата обращения: 03.06.2025).
39. Wen X., Tu H., Zhao B., Zhou W., Yang Z., Li L. Identification of benign and malignant breast
nodules on ultrasound: comparison of multiple deep learning models and model interpretation / X.Wen и др. // Frontiers in Oncology. - 2025. - URL:
https://www.frontiersin.org/journals/oncology/articles/10.3389/fonc.2025.1517278/full (дата обращения: 03.06.2025).
40. Selvaraju R.R., Cogswell M., Das A. и др. Grad-CAM: Visual Explanations from Deep Networks via Gradient-based Localization / R.R. Selvaraju и др. // arXiv.org e-Print archive. - 2016. - URL: https://arxiv.org/abs/1610.02391 (дата обращения: 03.06.2025).
Работу высылаем на протяжении 30 минут после оплаты.