Acest curs acoperă ingineria Generative AI pe platforma Azure Databricks, utilizând Apache Spark pentru explorarea, fine-tuning-ul, evaluarea și integrarea modelelor lingvistice avansate. Participanții vor învăța să implementeze tehnici precum Retrieval-Augmented Generation (RAG) și multi-stage reasoning, să ajusteze modelele lingvistice pentru sarcini specifice și să le evalueze performanța. De asemenea, cursul pune accent pe principiile de Responsible AI și pe gestionarea modelelor în producție prin LLMOps (Large Language Model Operations) în Azure Databricks.
Cursul este recomandat pentru:
- Data Scientists care dezvoltă și evaluează aplicații de Generative AI.
- AI Engineers care implementează modele lingvistice la scară în Azure Databricks.
- Profesioniști în machine learning și inteligență artificială familiarizați cu concepte de bază AI și cu platforma Azure Databricks.
După finalizarea cursului, vei ști cum să:
- Explorezi și utilizezi Large Language Models (LLMs) în Azure Databricks.
- Implementezi tehnici de Retrieval-Augmented Generation (RAG) pentru rezultate mai precise și contextuale.
- Construiești sisteme de multi-stage reasoning pentru rezolvarea problemelor complexe.
- Realizezi fine-tuning pentru modele lingvistice și le specializezi pe sarcini specifice.
- Evaluezi performanța LLM-urilor utilizând metrici, tehnici și metode de tip LLM-as-a-judge.
Participanții ar trebui să aibă:
- Cunoștințe fundamentale de inteligență artificială și machine learning.
- Familiaritate cu conceptele de bază din Azure Databricks.
- Introducere în Large Language Models (LLMs) în Azure Databricks
- Noțiuni de bază despre LLMs și aplicațiile lor (text summarization, sentiment analysis, translation etc.)
- Crearea și utilizarea rapoartelor interactive cu LLMs
- Implementarea Retrieval-Augmented Generation (RAG)
- Integrarea mecanismelor de căutare cu modelele generative
- Crearea de output-uri mai precise și relevante contextual
- Implementarea multi-stage reasoning
- Abordarea problemelor complexe prin pași secvențiali
- Integrarea rezultatelor parțiale într-un proces complet de raționament
- Fine-tuning pentru Large Language Models
- Adaptarea LLM-urilor pentru sarcini specifice
- Reducerea costurilor și îmbunătățirea relevanței modelelor
- Evaluarea modelelor lingvistice
- Metrici și metode pentru evaluarea LLM-urilor
- Provocări și bune practici în evaluare
- Tehnici automate, inclusiv LLM-as-a-judge
- Responsible AI pentru modele lingvistice
- Principii de implementare responsabilă
- Considerații etice și reducerea riscurilor
- Utilizarea tool-urilor de securitate pentru LLMs
- Implementarea LLMOps în Azure Databricks
- Noțiuni de bază despre LLMOps
- Monitorizarea, gestionarea și menținerea LLM-urilor în producție
- Microsoft AI-3026: Develop AI Agents on Azure
- Microsoft DP-3011: Implementing a Data Analytics Solution with Azure Databricks
- Microsoft DP-500: Designing and Implementing Enterprise-Scale Analytics Solutions Using Microsoft Azure and Microsoft Power BI
Nu sunt programe de certificare în acest moment.
