Тестирование эффективности алгоритмов
нелинейной классификации в задаче распознавания
типа медицинского вмешательства для рефератов
статей из коллекции MEDLINE
Введение 5
Глава 1. Задача 6
Глава 2. Оценка качества классификатора 7
Глава 3. Представления документов 9
3.1. Векторная модель (Vector Space Model) 9
3.2. Term Frequency 9
3.3. Term Frequency - Inverse Document Frequency 10
3.4. Latent Semantic Indexing 10
3.5. Probabilistic Latent Semantic Indexing 11
Глава 4. Алгоритмы классификации 13
4.1. Логистическая регрессия 13
4.2. Машины опорных векторов 14
4.3. Ансамбли деревьев решений 16
4.3.1. Random Forest 16
4.3.2. Gradient Boosting 17
Глава 5. Обобщение бинарного классификатора на мультикласси¬фикатор 18
Глава 6. Несбалансированность данных 19
Глава 7. Эксперименты и результаты 20
7.1. Эксперименты с представлением pLSA 20
7.2. Выбор наилучшего представления данных для каждого
алгоритма 21
7.2.1. SVM с линейным ядром 22
7.2.2. SVM c ядром RBF 22
7.2.3. Логистическая регрессия 23
7.2.4. Gradient Boosting 24
7.2.5. Random Forest 24
Глава 8. Балансировка данных 26
Глава 9. Выводы 28
Глава 10.Заключение 29
Список литературы
На протяжении почти всей истории медицина была крайне эмпирической областью. Врачи принимали решения, полагаясь либо на свой
опыт, либо на опыт своих коллег, современников или нет. Врачебные
практики разрабатывались в какой-то мере стихийно и передавались
от целителя к целителю. Отсюда появились известные всем сомнительные практики пускания крови или даже чего-либо более мрачного —
лоботомии психически больных пациентов. И даже после открытия научного метода в медицине еще долгое время преобладал опыт, а не
свидетельства. В последние 20 лет, однако, все большую поддержку
набирает доказательная медицина — подход, при котором врач принимает решения, основываясь исключительно на данных, полученных из
подтвержденно надежных медицинских исследований, а не на опыте.
Разумеется, чтобы врачу принимать решения, основываясь на исследованиям, ему нужно иметь доступ к этим исследованиям. В этом сценарии трудно переоценить полезность какой-либо поисковой системы,
которая позволила бы врачу находить нужные ему исследования без
каких-либо затруднений. Конечно, исследование исследованию рознь,
и то, как именно проводилось исследование, имеет большое значение.
Хирургу вряд ли понадобится опыт врача-диетолога, и наоборот. Таким
образом, мы приходим к основной задаче этой работы.
Основная цель — научиться автоматически различать медицинские
рефераты, описывающие некий врачебный опыт, по типу медицинского вмешательства. Для этого имеется набор документов, уже размеченных по типу вмешательства, и стоит задача применить методы
машинного обучения для того, чтобы обобщить этот опыт на произвольные документы.
Таким образом, была рассмотрена задача классификации медицинских рефератов по типу вмешательства. Были рассмотренью различные классификаторы и представления данных и определены оптимальные их сочетания для этой конкретной задачи. Была проведена попытка сбалансировать данные с помощью техники oversampling, обернувшаяся неудачей на реальных данных.
