Открийте основите и разширените приложения на обработката на естествен език чрез дълбоко обучение. Курсът „Обработка на естествен език чрез дълбоко обучение“ ви запознава със съвременни техники като вграждане на думи, рекурентни невронни мрежи и генеративни модели, давайки ви практически умения за класификация и анализ на текст.
Този курс е насочен към инженери по машинно обучение.
В този курс студентите ще научат за най-популярните архитектури, включително повтарящи се естествени мрежи и скрити модели на Марков.
За да участват в този курс, студентите трябва да са завършили модула Basic Machine Learning в Tensorflow/Keras.
Полезно е участниците да имат следните знания:
Основно дълбоко обучение
● Неврони
● Видове слоеве
● Мрежи
● Функции за загуба
● Оптимизатори
● Прекомерно оборудване
● Tensorflow
Основна невронна езикова обработка
● Токенизация
● Торба с думи
● tf-idf
● Произвеждане
● Лематизация
● Езикови модели
● Анализ на настроението
Модул 1: НЛП приложения
Модул 2: Словни вектори
- Какво представляват векторите?
- Аналогии на думите
- TF-IDF и t-SNE
- NLTK
- Ръкавица
- word2vec
- Текстова класификация с помощта на вектори на думи
Практическа лаборатория: Извършване на основна текстова класификация с помощта на модели с множество векторни думи. Подобрете го, като използвате основна обработка на текст и езикови модели, за да подготвите данните за машинно обучение.
Модул 3: Езиково моделиране
- биграми
- Езикови модели
- Биграм модел на невронна мрежа
Практическа лаборатория: Извършване на текстова класификация с помощта на невронни мрежи, базирани на езикови модели. Разберете вероятностното моделиране на езиковия модел, как да подобрите контекста на една дума и как могат да се генерират синоними и как основните невронни мрежи генерират мощни езикови модели.
Модул 4: Вграждане на думи
- CBOW
- Skip-Gram
- Отрицателна проба
Практическа лаборатория: Разберете усъвършенствани техники за езиково моделиране като Skip-Gram и Negative Sampling, като ги приложите и се научете да предвиждате следващата най-вероятна дума в разговор.
Модул 5: НЛП техники
- Какво е POS етикетиране?
- Повтаряща се невронна мрежа за маркиране на POS
- Скрит модел на Марков за POS етикетиране (HMM)
- Разпознаване на именуван обект (NER)
- POS срещу. НЕ
Практическа лаборатория: Използвайте NLTK и SCIPY, за да подобрите класификацията си с помощта на граматични правила и POS, след това използвайте NER, за да подчертаете най-ценното съдържание на фраза, след което приложете обобщение.
Модул 6: Повтарящи се невронни мрежи
- LSTM
- ГРУ
- Генериране на текст
Практическа лаборатория: Приложете в Keras основна RNN архитектура за предсказване на думи, като използвате вече проучените вграждания на думи. Сравнете представянето на LSTM в сравнение с GRU и BiLSTM.
Модул 7: Генеративни невронни мрежи
Практическа лаборатория: Внедрете в Keras свой собствен генеративен модел, който генерира текстове, подобни на тези от Шекспир. Научете се да правите Transfer Learning върху текст.
Обработка на естествен език с помощта на Deep Learning
