ВВЕДЕНИЕ 2
ГЛАВА 1. НЕЙРОННЫЕ СЕТИ 5
1.1. Что такое нейронная сеть? 5
1.2. Модель искусственного нейрона 6
Математическая модель нейрона строится следующим образом (исходя из рисунка 2) 6
1.3. Многослойные нейронные сети 7
1.4. Функции активации в нейронных сетях 10
1.5. Рекуррентные нейронные сети 13
1.6. LSTM сети 17
ГЛАВА 2. TENSORFLOW 25
2.0 Библиотека машинного обучения от Google. 25
2.1 Keras: библиотека глубокого обучения для TensorFlow 26
ГЛАВА 3. ПОСТАНОВКА ЗАДАЧИ И РЕАЛИЗАЦИЯ 30
3.0 Постановка задачи 30
ГЛАВА 4. ЗАКЛЮЧЕНИЕ 42
СПИСОК ИСПОЛЬЗОВАННЫХ ИСТОЧНИКОВ 43
ПРИЛОЖЕНИЯ 44
В наши дни очень популярно направление развития связанное с нейронными сетями. Как ни странно, прототипом создания искусственных нейронных сетей являются биологические нейронные сети.
Для многих ученых создание искусственной нейронной сети стало смыслом жизни, так как это ключ к созданию искусственного интеллекта, интеллекта, который сможет сам в зависимости от ситуации находить решения и принимать их без помощи человека.
При создании искусственных нейронных сетей встал вопрос о создании математической модели нейронной сети и в связи с этим был создан обширный инструментарий искусственных нейронных сетей, широко используемый в прикладной математике и информатике.
На данный момент искусственные нейронные сети состоят из элементов, функциональные возможности которых аналогичны большинству элементарных функций биологического нейрона. Эти элементы затем организуются по способу, который может соответствовать (или не соответствовать) анатомии мозга. Несмотря на такое поверхностное сходство, искусственные нейронные сети демонстрируют удивительное число свойств присущих мозгу. Например, они обучаются на основе опыта, обобщают предыдущие прецеденты на новые случаи и извлекают существенные свойства из поступающей информации, содержащей излишние данные.
Все искусственные нейронные сети являются мощным инструментом обнаружения скрытых связей. В таком качестве они могут использоваться не только для построения прогностической функции — поиска конкретной меры влияния независимых переменных на зависимую, — но и для отбора адекватных независимых переменных. Такая задача актуальна для разного рода поисковых исследований, когда имеют довольно смутное представление о тех факторах, которые реально влияют на интересующую нас переменную. Решаемые нейронными сетями задачи весьма разнообразны. Неудивительно, что этот метод нашел применение в таких сферах, как медицина, финансовый менеджмент и политическая наука.
В результате проделанной работы был разработана программа на python на основе библиотек Keras и Tensorflow для генерация слов и словосочетаний.
Библиотеку Keras можно признать очень удобной для обучения более- менее простых моделей, однако возникали проблемы при обучении, которые не было возможности разрешить ручными методами.
Проведены многочисленные опыты с тремя разными языками - татарским, русским, английским. С разным объемом данных - от двух тысяч символов для слов и пяти тысяч слов для словосочетаний до десяти тысяч символов для слов и двадцати двух тысяч слов для словосочетаний соответственно. Также разным количеством слоев в нейронной сети от одного слоя до трех.
После получения сгенерированных данных отдельно была написала программа на C# для анализа данных, выявления и подсчета сгенерированных слов, а также словосочетаний.
После сбора всех данных и сравнения были построены графики для наглядного отображения получившихся слов.
Можно сделать вывод, что среди анализируемых языков татарский можно считать самым тяжелым для обучения и словообразования, после него идёт русский язык, и с большим разрывом идёт английский язык.
