Тема: Применение вектора Шепли для интерпретации моделей машинного обучения

Машинное обучение все чаще применяется в самых разных сферах жизни для решения задач прогнозирования, классификации и разработки рекомендательных систем. Одним из основных препятствий для широкого распространения машинного обучения является компромисс между интерпретируемостью и сложностью алгоритма. Чем сложнее внутренняя структура модели, тем более глубокие взаимосвязи между переменными она может находить, но и тем труднее она становится для понимания людьми.
Понимание того, какие переменные и каким образом влияют на работу модели, может помочь идентифицировать потенциальные проблемы в ней и дать информацию о том, какие еще переменные можно туда добавить, чтобы улучшить качество предсказания, а какие стоит из нее исключить, чтобы оптимизировать использование ресурсов.
Необходимость интерпретировать предсказания моделей возникла в силу многих причин.
Широкое использование моделей машинного обучения в таких отраслях, как медицина, финансы и политика породило требования к безопасности модели, обоснованию доверия ей, а также привело к существованию различных правил, регламентирующих работу автоматизированных систем принятия решений. Так с 2018 года в Европейском союзе начал действовать новый регламент о защите данных — General Data Protection Regulation (GDPR), одна из статей которого гласит, что каждый субъект данных имеет право на получение информации о том, почему автоматизированная система приняла то или иное решение.
Также интерпретация моделей тесно связана с классом задач состязательных атак, целью которых является построение такого входа для алгоритма машинного обучения, на котором алгоритм бы сделал ошибку.
Глобальные методы интерпретации призваны показать, какие факторы в целом оказывают наибольшее влияние на структуру модели и на ее предсказания.
Локальные методы пытаются объяснить то, как было сделано данное конкретное предсказание (например, отказ в выдаче кредита клиенту). Зачастую локальные методы могут быть использованы как основа для более глобальной интерпретации, например, путем усреднения или визуализации.
Целью данной работы является рассмотрение локальных и глобальных методов интерпретации моделей машинного обучения, основанных на построении игровой модели, программная реализация выявленных подходов и иллюстрация применения на конкретной модели машинного обучения
Купить

В рамках данной работы были рассмотрены локальные и глобальные методы интерпретации моделей машинного обучения, универсальность которых заключается в том, что они не зависят от выбора модели.
Для класса методов с аддитивными значимостями признаков была формализована кооперативная игра и выведены значимости признаков как компоненты вектора Шепли.
Была произведена программная реализация выявленных подходов, основывающихся как на разложении локальных прогнозов модели, так и на разложении общей точности предсказания модели. Было проиллюстрировано на конкретной модели машинного обучения применение двух методов глобальной интерпретации, первый из которых основан на суммировании абсолютных значений локальных значимостей (описан в Главе 3), а второй основан на разложении с использованием зоноидов Лоренца (описан в Главе 4).

Купить