LLM - Les bases

• Data Scientists, Data Engineers intéressés par l'utilisation des LLM pour la prédiction et le fine-tuning.
• Les développeurs de logiciels souhaitant acquérir une expérience pratique de base avec les frameworks NLP et les LLM.

En travaillant dans un environnement d'apprentissage pratique et guidés par un expert, les étudiants apprendront les bases des modèles de langage de grande taille (LLM) et comment les utiliser pour faire des prédictions afin de créer des applications alimentées par l'IA.

• Comprendre les bases du traitement du langage naturel (NLP)
• Mettre en œuvre des techniques de prétraitement et de tokenisation du texte en utilisant NLTK
• Expliquer les embeddings de mots et l'évolution des modèles de langage
• Utiliser les RNN et LSTM pour gérer les données séquentielles
• Décrire ce que sont les transformers et utiliser des modèles clés comme BERT et GPT
• Comprendre les risques et les limitations des LLM
• Utiliser des modèles pré-entraînés de Hugging Face pour mettre en œuvre des tâches de NLP
• Comprendre les bases des systèmes de génération augmentée par la récupération (RAG)

Introduction au NLP

• Qu'est-ce que le NLP ?
• Bases du NLP : Prétraitement et tokenisation du texte
• Bases du NLP : Embeddings de mots
• Introduction aux bibliothèques NLP traditionnelles
• Brève histoire de la modélisation du langage
• Introduction à PyTorch et HuggingFace pour le prétraitement du texte
• Réseaux neuronaux et données textuelles
• Construction de modèles de langage utilisant des RNN et des LSTM

Transformers et LLMs

• Introduction aux transformers
• Utilisation des transformers de Hugging Face pour la prédiction
• LLMs et IA générative
• Options actuelles de LLM
• Fine-tuning de GPT
• Alignement des LLMs avec les valeurs humaines
• Systèmes de génération augmentée par la récupération (RAG

Pour assister à cette formation, il est recommandé pour les candidats de:

• Maîtriser la programmation Python
• Maîtriser l’analyse de données à l’aide de Pandas

Afin de vous assurer que vous possédez toutes les connaissances requises pour participer à la formation, notre équipe commerciale vous proposera un QCM

Les participants réalisent un test d'évaluation des connaissances en amont et en aval de la formation pour valider les connaissances acquises pendant la formation.

Un support de cours électronique sera remis aux participants.

Pour profiter pleinement du support électronique dès le 1er jour, nous invitons les participants à se munir d'un PC ou d'une tablette, qu’ils pourront connecter en WiFi dans nos locaux de Rueil, Lyon ou nos agences en régions.