Аннотация
Перечень условных обозначений, символов, сокращений, терминов 4
Введение 6
1 Анализ задачи извлечения ключевых навыков из текстового описания
вакансии 8
1.1 Формальная постановка задачи 9
1.2 Состав данных 10
2 Существующие подходы к решению задачи 14
2.1 Подходы основанные на таксономии или фолксономии 14
2.2 Подходы основанные на машинном обучении 15
2.2.1 Подходы в рамках маркировки последовательности 17
2.2.2 Подходы в рамках multi-label классификации 18
3 Реализация 20
3.1 Предобработка данных 20
3.2 Используемые инструменты 20
3.3 Разделение на обучающую и тестовые выборки 21
3.4 Метрики и оценка точности 22
3.5 Подход на основе поиска с учетом форм слова 24
3.6 Подход на основе BERT-XMLC 24
3.7 Подход на основе архитектуры T5 29
3.8 Подход на основе на анализе семантической близости предложений и
ключевых навыков 33
3.8.1 Выделение предложений содержащих ключевые навыки 33
3.8.2 Подбор упомянутого в предложении ключевого навыка 35
3.9 Результаты 36
Заключение 39
Список литературы 40
Навыки играют центральную роль на рынке труда и во многих процессах управления персоналом. В современном онлайн-рынке труда кандидаты хотели бы видеть видеть свои реальные возможности на основе набора навыков. Аналогично, предприятия все больше нуждаются в использовании подобные данные о навыках, чтобы гарантировать, что навыки их рабочей силы останутся актуальными в будущем. Однако структурированная информация о навыках часто отсутствует, а самостоятельная оценка навыков работодателями или кандидатами может быть неполной или неточной.
Задача извлечения ключевых навыков заключается в автоматизации процесса идентификации наиболее важных навыков, требуемых для конкретной должности. Для этого используются методы технологии обработки естественного языка и машинного обучения. Извлечение навыков является очень сложной задачей из-за огромного количество возможных навыков, которые могут быть упомянуты в тексте вакансии как явно так и неявно
Результатом выполнения задачи по извлечению ключевых навыков является список профессиональных навыков, упомянутых в тексте вакансии.
Сложность решения данной задачи на английском языке тесно связана с небольшим количеством размеченных датасетов и их постоянным устареванием в связи с постоянным появлением новых технологий и соответствующих профессиональных навыков. А также с определением методологии разметки [3].
Для русского же языка и вовсе отсутствуют открытые, вручную размеченные датасеты. Поэтому для решения данной задачи на русском языке было принято использовать открытые данные текстов вакансий и проставленных работодателями ключевых навыков с hh.ru [1].
В рамках решения извлечения текстовых навыков из текстового описания вакансии были поставлены следующие задачи:
Задачи работы:
1. Проанализировать существующие подходы к решению задачи извлечению ключевых навыков;
2. Провести предварительный анализ данных и определить параметры выборки подходящей для обучения и тестирования;
3. Подготовить датасет, сформировать обучающую и тестовые выборки;
4. Реализовать подходы, решающие данную задачу;
5. Подобрать подходящие метрики оценки точности алгоритмов на тестовой выборке;
6. Выбрать лучший подход на основе сравнительного анализа подходов на тестовой выборке.
В ходе работы были реализованы 4 различие подхода к задачи извлечения ключевых навыков из текстового описания вакансий на русском языке:
• Наивный подход поиска ключевых навыков с учетом форм слова
• Существующий подход BERT-XMLC, адаптированный для русского языка
• Подход на основе архитектуры T5, ранее не использованный в задаче извлечения ключевых навыков
• Подход на основе выделения в тексте предложений, содержащих информацию о ключевых навыков и приведение их к ключевым навыкам посредстовм анализа семантический близости с ними, который также ранее не был использован в этой задаче в таком виде.
На данный момент нейросеть полученная в рамках реализации подхода основанного на архитектуре T5 была принята заказчиком и находится на стадии внедрения в проект по агрегации и визуальному представлению вакансий России.
