Введение 4
1. Постановка задач 6
2. Обзор существующих решений и технологий 7
2.1. Методы совмещения 7
2.2. Технологии визуализации 9
2.3. Существующие системы дополненной реальности для операционных 10
2.4. Используемые технологии 12
3. Архитектура фреймворка 13
3.1. Выработка требований и сценарии использования 13
3.2. Компоненты системы 14
4. Реализация 17
4.1. Совмещение 3И-моделей 17
4.2. Загрузка и визуализация КТ-слоёв на пациенте 18
4.3. Проведение интраоперационных измерений 19
4.3.1. Получение 3И-модели сцены 19
4.3.2. Функции интраоперационных измерений 20
Заключение 23
Список литературы 24
Технологии дополненной реальности - совмещения виртуальных объектов с объектами реального мира - находят применение в медицине. При планировании медицинских процедур и операций врачи часто руководствуются проведёнными заранее исследованиями пациента, такими как КТ-сканирование. Такие данные позволяют, в частности, определить местоположение, строение и структуру различных тканей, спланировать расположение медицинских инструментов. При этом для достижения лучшего результата требуется точно и наглядно представить эти данные врачу во время операции. Использование технологий дополненной реальности позволяет наложить предварительно сделанную поверхностную или КТ-модель на получаемое в реальном времени изображение пациента. К задачам, решаемым в ходе разработки систем дополненной реальности, относятся отслеживание положения пациента, наложение на пациента заранее подготовленных ЭИ-моделей, визуализация отдельных органов, КТ-снимков и дополнительной информации, а также проведение интраоперационных измерений.
Для реконструкции сцены и отслеживания в ней положения пациента могут применяться различные устройства. До недавнего времени для этой цели использовались в основном камеры и трёхмерные сенсоры, такие как Microsoft Kinect и Intel RealSense. Они оставались неподвижными в ходе операции и позволяли выводить изображение построенной сцены на экран монитора. С появлением очков дополненной реальности, таких как Microsoft HoloLens, стало возможным создание более удобных приложений, которые строят сцену вокруг перемещающегося пользователя, отправляют изображения на экран перед глазами пользователя и предоставляют возможность управления с помощью жестов. При этом возможности очков дополненной реальности также ограничены точностью сканирования. Эти устройства ориентированы на построение модели всего помещения, в котором они находятся, и эта модель может быть недостаточно подробной для задач точного измерения расстояний и объёмов. К тому же очки, реализующие трекинг и позиционирование объектов с высокой точностью, всё ещё не ориентированы на широкий круг пользователей. Поэтому использование камер и трёхмерных сенсоров, как в сочетании с очками, так и без них, остаётся актуальным.
Дополненная реальность может быть использована при проведении различных процедур. Методы отслеживания пациента и визуализации виртуальных объектов также зависят от используемого аппаратного обеспечения. При этом такие приложения различными методами решают общие задачи. Таким образом, представляет интерес задача разработки фреймворка для применения дополненной реальности в медицинских процедурах.
В рамках работы реализован фреймворк для разработки приложений дополненной реальности, работающих на платформе Windows Mixed Reality, а также использующих камеры и трёхмерные сенсоры.
Достигнуты следующие результаты:
• проведён обзор существующих систем дополненной реальности, используемых в них технологий и методов совмещения виртуальных данных с пациентом;
• разработана архитектура фреймворка: выделены сценарии использования систем дополненной реальности и компоненты фреймворка;
• реализована функциональность фреймворка:
• выполнено совмещение трёхмерных моделей с пациентом в реальном времени методами детектирования маркеров и особых точек на лице;
• реализованы функции загрузки КТ-изображений, а также управления их визуализацией;
• реализованы функции получения модели и интраоперационных измерений на ней.
[1] J. Polvi, T. Taketomi, G. Yamamoto et al. SlidAR: A 3D positioning method for SLAM-based handheld augmented reality. — Computers and Graphics, 2017. — Vol. 55. — P. 33 - 43.
[2] M. Garon, PO. Boulet, JP. Doironz et al. Real-time high resolution 3D data on the HoloLens. — Proc. of the IEEE International Symposium on Mixed and Augmented Reality (ISMAR-Adjunct), 2016.— P. 189 - 191.
[3] Microsoft. Kinect for Windows SDK 2.0.— URL: https://www. microsoft.com/en-us/download/details.aspx?id=44561 (дата обращения: 22.04.2018).
[4] S. Bernhardt, S.A. Nicolau, L. Soler et al. The status of augmented reality in laparoscopic surgery as of 2016. — Medical Image Analysis 37, 2017. —P. 66 - 90.
[5] Szeliski R. Computer Vision: Algorithms and Applications. — Springer, 2010. —P. 31 - 41.
[6] T. Itamiya, T. Iwai, T. Kaneko. The Holographic Human for surgical navigation using Microsoft HoloLens. — EPiC Series in Engineering, 2018. —Vol. 1. — P. 26 - 30.