Объединение различных методов классификации изображений для повышения качества распознавания

1 Введение 4
2 Постановка задачи 7
3 Предложенная SVM-MRF модель 7
3.1 Введённые обозначения 7
3.2 Модель SVM 8
3.3 Контекстная классификация изображений на основе MRF 9
3.4 MRF-ядро для модели SVM 11
4 Реализация предложенного классификатора 12
4.1 Поиск оптимального параметра 3 для MRF-ядра 12
4.2 Схемы соседей 13
4.3 Мультиклассовая стратегия классификации 15
5 Полученные результаты 15
6 Заключение 16
7 Список литературы 17
8 Приложение 20
8.1 Код 20
8.2 Поведение константы 3 27
Купить

Классификация с учителем играет центральную роль в анализе данных дистанционного зондирования, например, для составления карт землепользо­вания или земного покрова, инвентаризации лесов или мониторинга город­ских территорий [4]. Классификаторы, основанные на методе опорных век­торов (SVM, Support Vector Machine), в последнее время привлекают значи­тельное внимание как из-за их способности к обобщению даже с входными данными большой размерности, так и из-за их точных результатов во мно­гих приложениях [5, 6]. Однако теория SVM была разработана с акцентом на независимые и одинаково распределенные выборки и метки классов. С точки зрения классификации изображений этот фокус приводит к изначаль­но неконтекстному подходу, то есть каждый пиксель классифицируется как таковой, независимо от соседних пикселей [4]. Этот подход не учитывает ин­формацию, связанную с корреляциями между отдельными пикселями изоб­ражения, и представляет собой сильное ограничение на использование клас­сификаторов на основе SVM для анализа изображений.
В этой работе я воспользовался интегрированной структурой, предложен­ной в статье "Combining Support Vector Machines and Markov Random Fields in an Integrated Framework for Contextual Image Classification" [1], которая объ­единяет подходы SVM и марковского случайного поля (MRF, Markov Random Field) [7] к классификации и, следовательно, позволяет ввести строгое кон­текстуальное обобщение SVM. MRF — это очень общее семейство вероятност­ных моделей, которые позволяют включать пространственную информацию в байесовские схемы анализа изображений с точки зрения минимизации под­ходящих "энергетических функций" [7, 8]. Соответственно, комбинирование байесовских схем обработки с моделями MRF довольно просто, но SVM — это небайесовские методы классификации, что делает проблему интеграции подходов SVM и MRF нетривиальной.
Эта проблема может быть выражена в общих рамках обработки изоб­ражений и распознавания образов, но играет особенно важную роль в ди­станционном зондировании, особенно в отношении проблемы размерности и специфических характеристик пространственного контекста в изображениях Земли. Классификация таких изображений часто требует работы с данными большой размерности. Типичными примерами являются задачи классифика­ции, которые включают гиперспектральные изображения и/или извлечение нескольких дополнительных признаков (например, текстового описания). И, напротив, работа с многомерными данными обычно не требуется в других областях обработки изображений (например, биомедицинская визуализация или компьютерное зрение). Проблема размерности данных критически влия­ет на точность контролируемых классификаторов из-за "проклятия размер­ности". Это явление вызывает серьезную потерю точности, когда количество обучающих выборок недостаточно для вычисления надежных оценок пара­метров классификатора в многомерном пространстве признаков. Чтобы из­бежать таких проблем, при дистанционном зондировании часто применяется сокращение признаков перед классификацией. Однако этот предварительный шаг нетривиален и, возможно, требует много времени. Методы опорных век­торов не требуют предварительного сокращения признаков, поскольку они доказали свою устойчивость к "проклятию размерности" (если размер обу­чающей выборки не очень мал). Поэтому в настоящее время они признаны мощными инструментами в решении проблем размерности и вызвали боль­шой интерес к классификации изображений дистанционного зондирования.
Точно так же контекстную информацию на изображениях дистанционно­го зондирования трудно смоделировать с точки зрения формы объекта (в отличие от других приложений распознавания изображений) из-за наличия естественного покрова и большого разнообразия форм и размеров искусствен­ного покрова на Земле [9]. Напротив, модели MRF, которые характеризуют локальную и глобальную пространственную статистику изображений на попиксельной основе, обычно достаточно гибки, чтобы захватывать контекст­ную информацию, связанную с изображениями дистанционного зондирова­ния. Эти свойства объясняют успех моделей MRF во многих задачах класси­фикации, в том числе связанных с мультисенсорными [10], мультитемпоральными [11, 12, 13] или крупномастштабными спутниковыми изображениями [14].
Вышеупомянутые соображения мотивируют полезность интеграции SVM и MRF в уникальную структуру для совместного использования как спек­тральной, так и пространственной информации, связанной с подлежащим классификации изображением дистанционного зондирования. Предложенная структура [1] разработана путем определения аналитической взаимосвязи меж­ду марковским правилом принятия решений с минимальной энергией и при­менением SVM в соответствующем преобразованном пространстве, индуци­рованном определенным ядром (которое будет называться "марковским яд­ром"). Предыдущие методы были разработаны для включения пространствен­ной информации в функции ядра для классификации изображений дистанци­онного зондирования (см., например, [16] или [17]). Однако, в отличие от этих методов, предлагаемая стратегия направлена на полную интеграцию подхо­дов SVM и MRF в уникальную структуру. Эта формулировка представляет собой строгий и гибкий инструмент для включения контекстной информа­ции, моделируемой MRF, в классификацию опорных векторов и охватывает как ядра, индуцирующие конечномерные собственные пространства (напри­мер, линейные или полиномиальные ядра), так и ядра, индуцирующие беско­нечномерные собственные пространства (например, гауссово ядро). В послед­нем случае интеграция SVM-MRF достигается путем формализации задачи классификации в терминах подходящих случайных процессов с непрерывным и дискретным временем и путем расширения методологических аргументов, которые изначально были введены в цифровых коммуникациях для разра­ботки оптимальных приемников для связи по каналам с аддитивным белым гауссовским шумом.
В этой работе будут рассмотрены разные модификации марковского ядра. Будут представлены экспериментальные результаты работы новых моделей и сравнение с классическими.
Купить