Odkryj podstawy i zaawansowane zastosowania przetwarzania języka naturalnego z wykorzystaniem głębokiego uczenia. Kurs „Przetwarzanie języka naturalnego z wykorzystaniem głębokiego uczenia” wprowadza Cię w nowoczesne techniki, takie jak osadzanie słów, rekurencyjne sieci neuronowe i modele generatywne, zapewniając praktyczne umiejętności w zakresie klasyfikacji i analizy tekstu.
Kurs przeznaczony jest dla inżynierów zajmujących się uczeniem maszynowym.
W tym kursie studenci poznają najpopularniejsze architektury, w tym rekurencyjne sieci naturalne i ukryte modele Markowa.
Aby wziąć udział w tym kursie, studenci muszą ukończyć moduł Podstawy uczenia maszynowego w Tensorflow/Keras.
Przydatna będzie dla uczestników następująca wiedza:
Podstawowe głębokie uczenie się
● Neurony
● Rodzaje warstw
● Sieci
● Funkcje strat
● Optymalizatory
● Nadmierne dopasowanie
● Tensorflow
Podstawowe przetwarzanie języka neuronowego
● Tokenizacja
● Worek słów
● tf-idf
● Stemming
● Lematyzacja
● Modele językowe
● Analiza sentymentu
Moduł 1: Zastosowania NLP
Moduł 2: Wektory słów
- Czym są wektory?
- Analogie słów
- TF-IDF i t-SNE
- NLTK
- Rękawica
- słowo2vec
- Klasyfikacja tekstu za pomocą wektorów słów
Praktyczne laboratorium:Przeprowadzenie podstawowej klasyfikacji tekstu z wykorzystaniem modeli wielowektorowych. Udoskonalenie jej poprzez zastosowanie podstawowego przetwarzania tekstu i modeli językowych w celu przygotowania danych do uczenia maszynowego.
Moduł 3: Modelowanie języka
- Biggramy
- Modele językowe
- Model Bigramu Sieci Neuronowej
Praktyczne laboratorium:Klasyfikacja tekstu za pomocą sieci neuronowych opartych na modelach językowych. Zrozumienie probabilistycznego modelowania języka, sposobów ulepszania kontekstu słowa, generowania synonimów oraz tego, jak podstawowe sieci neuronowe generują zaawansowane modele językowe.
Moduł 4: Osadzenia słów
- CŁUK
- Pomiń gram
- Próbkowanie negatywne
Praktyczne laboratorium: Poznaj zaawansowane techniki modelowania języka, takie jak Skip-Gram i Negative Sampling, poprzez ich wdrożenie i naucz się przewidywać kolejne najprawdopodobniejsze słowo w rozmowie.
Moduł 5: Techniki NLP
- Czym jest tagowanie POS?
- Rekurencyjna sieć neuronowa do tagowania POS
- Ukryty model Markowa (HMM) w tagowaniu POS
- Rozpoznawanie nazwanych jednostek (NER)
- POS kontra NER
Praktyczne laboratorium:Użyj NLTK i SCIPY, aby udoskonalić klasyfikację za pomocą reguł gramatycznych i POS, a następnie użyj NER, aby wyróżnić najcenniejszą treść frazy, po czym wprowadź podsumowanie.
Moduł 6: Rekurencyjne sieci neuronowe
- LSTM
- GRU
- Generowanie tekstu
Praktyczne laboratorium:Wdrożenie w Keras podstawowej architektury RNN do przewidywania słów, wykorzystując już zbadane osadzenia słów. Porównać wydajność LSTM z GRU i BiLSTM.
Moduł 7: Sieci neuronowe generatywne
Praktyczne laboratorium:Wdróż w Keras swój własny model generatywny, który generuje teksty podobne do Szekspira. Naucz się korzystać z transferu wiedzy na podstawie tekstu.
Przetwarzanie języka naturalnego z wykorzystaniem głębokiego uczenia się
