Відкрийте для себе основи та передові застосування обробки природної мови за допомогою глибокого навчання. Курс «Обробка природної мови за допомогою глибокого навчання» ознайомить вас із сучасними методами, такими як вбудовування слів, рекурентні нейронні мережі та генеративні моделі, надаючи вам практичні навички класифікації та аналізу тексту.
Цей курс призначений для інженерів машинного навчання.
У цьому курсі студенти дізнаються про найпопулярніші архітектури, включаючи рекурентні природні мережі та приховані моделі Маркова.
Щоб взяти участь у цьому курсі, студенти повинні пройти базовий модуль машинного навчання в Tensorflow/Keras.
Учасникам корисно мати такі знання:
Базове глибоке навчання
● Нейрони
● Типи шарів
● Мережі
● Функції втрат
● Оптимізатори
● Переобладнання
● Tensorflow
Основна обробка нейронної мови
● Токенізація
● Сумка слів
● tf-idf
● Стемінування
● Лематизація
● Мовні моделі
● Аналіз настроїв
Модуль 1: Застосування НЛП
Модуль 2: Вектори слова
- Що таке вектори?
- Аналогії слів
- TF-IDF і t-SNE
- НЛТК
- Рукавичка
- word2vec
- Класифікація тексту за допомогою векторів слів
Практична лабораторія: Виконання базової класифікації тексту за допомогою моделей із кількома векторами слів. Покращуйте його, використовуючи базову обробку тексту та мовні моделі, щоб підготувати дані для машинного навчання.
Модуль 3: Мовне моделювання
- Біграми
- Мовні моделі
- Біграмна модель нейронної мережі
Практична лабораторія: Виконання класифікації тексту за допомогою нейронних мереж на основі мовних моделей. Зрозумійте імовірнісне моделювання мовної моделі, як покращити контекст слова та як можна генерувати синоніми та як базові нейронні мережі створюють потужні мовні моделі.
Модуль 4: Вбудовування слів
- CBOW
- Скіп-Грам
- Негативні проби
Практична лабораторія: Зрозумійте передові методи мовного моделювання, як-от Skip-Gram і Negative Sampling, запровадивши їх, і навчіться передбачати наступне найбільш імовірне слово в розмові.
Модуль 5: Техніки НЛП
- Що таке POS тегування?
- POS Tagging Повторювана нейронна мережа
- POS Tagging Hidden Markov Model (HMM)
- Розпізнавання іменованих об’єктів (NER)
- POS проти НІ
Практична лабораторія: Використовуйте NLTK і SCIPY, щоб покращити вашу класифікацію за допомогою правил граматики та POS, потім використовуйте NER, щоб виділити найцінніший вміст фрази, а потім запровадити підсумовування.
Модуль 6: Повторювані нейронні мережі
- LSTM
- ГРУ
- Генерація тексту
Практична лабораторія: реалізуйте в Keras базову архітектуру RNN для передбачення слів, використовуючи вже вивчені вбудовування слів. Порівняйте продуктивність LSTM з GRU та BiLSTM.
Модуль 7: Генеративні нейронні мережі
Практична лабораторія: запровадьте в Keras свою власну генеративну модель, яка генерує тексти, схожі на тексти Шекспіра. Навчіться робити переклад навчання на текст.
Обробка природної мови за допомогою глибокого навчання
