Descubra los fundamentos y las aplicaciones avanzadas del procesamiento del lenguaje natural mediante aprendizaje profundo. El curso de Procesamiento del Lenguaje Natural con Aprendizaje Profundo le presenta técnicas modernas como la incrustación de palabras, las redes neuronales recurrentes y los modelos generativos, brindándole habilidades prácticas para la clasificación y el análisis de textos.
Este curso está dirigido a ingenieros de aprendizaje automático.
En este curso, los estudiantes aprenderán sobre las arquitecturas más populares, incluidas las redes naturales recurrentes y los modelos ocultos de Markov.
Para participar en este curso, los estudiantes deben haber completado el módulo de Aprendizaje automático básico en Tensorflow/Keras.
Es útil que los participantes tengan los siguientes conocimientos:
Aprendizaje profundo básico
● Neuronas
● Tipos de capas
● redes
● Funciones de pérdida
● Optimizadores
● Sobreajuste
● Tensorflow
Procesamiento básico del lenguaje neuronal
● Tokenización
● Bolsa de palabras
● tf-idf
● Derivado
● Lematización
● Modelos de lenguaje
● Análisis de sentimiento
Módulo 1: Aplicaciones de PNL
Módulo 2: Vectores de palabras
- ¿Qué son los vectores?
- Analogías de palabras
- TF-IDF y t-SNE
- NLTK
- Guante
- palabra2vec
- Clasificación de texto mediante vectores de palabras.
Laboratorio práctico: Realizar una clasificación de texto básica utilizando múltiples modelos de vectores de palabras. Mejórelo mediante el uso de modelos de lenguaje y procesamiento de texto básicos para preparar los datos para el aprendizaje automático.
Módulo 3: Modelado del lenguaje
- bigramas
- Modelos de lenguaje
- Modelo de Bigram de red neuronal
Laboratorio práctico: Realizar clasificación de texto utilizando redes neuronales basadas en modelos de lenguaje. Comprender el modelado probabilístico del modelo del lenguaje, cómo mejorar el contexto de una palabra y cómo se pueden generar sinónimos y cómo las redes neuronales básicas generan potentes modelos del lenguaje.
Módulo 4: Incrustaciones de Word
- CBOW
- Saltar-Gramo
- Muestreo negativo
Laboratorio práctico: Comprenda técnicas avanzadas para el modelado del lenguaje como Skip-Gram y Negative Sampling implementándolas y aprenda a predecir la siguiente palabra más probable en una conversación.
Módulo 5: Técnicas de PNL
- ¿Qué es el etiquetado POS?
- POS etiquetado de red neuronal recurrente
- POS Etiquetado Modelo Oculto de Markov (HMM)
- Reconocimiento de entidad nombrada (NER)
- POS vs. NO
Laboratorio práctico: Use NLTK y SCIPY para mejorar su clasificación usando reglas gramaticales y POS, luego use NER para resaltar el contenido más valioso de una frase y luego implemente el resumen.
Módulo 6: Redes neuronales recurrentes
- LSTM
- GRU
- Generación de texto
Laboratorio práctico: Implementar en Keras una arquitectura RNN básica para la predicción de palabras, utilizando las incrustaciones de palabras ya estudiadas. Compare el rendimiento de LSTM con GRU y BiLSTM.
Módulo 7: Redes neuronales generativas
Laboratorio práctico: Implementa en Keras tu propio modelo generativo que genera letras similares a las de Shakespeare. Aprenda a realizar Transfer Learning en texto.
Procesamiento del lenguaje natural mediante aprendizaje profundo
