Formation Acculturation aux modèles génératifs

Durant cette journée, nous aborderons différents thèmes sous forme de modules.

Module 1 : Introduction NLP,  Deep Learning & Gen AI

• Introduction générale au NLP (Traitement automatique du langage naturel) et au Deep Learning.
• Comprendre les principes de l'IA générative.
• Exploration des cas d'utilisation de l'IA générative dans le monde réel. (Image, Son, Text, Video ..)
• Nouvelles compétences et acteurs de l’IA générative.

Module 2 : Algorithmes et outils

• Prompt Engineering: Comment concevoir des prompts efficaces pour interagir avec les LLMs.
• Tokenization: Comprendre la tokenisation, le processus de division du texte en unités (tokens) compréhensibles par le modèle.
• Attention: Exploration du mécanisme d'attention, un élément clé des LLMs.
• Embedding: Apprentissage sur la création d'embeddings, représentations numériques de mots et de phrases.
• Training: Comprendre le processus d'entraînement des LLMs et les données nécessaires.
• Finetuning: Comment adapter une IA générative par rapport aux contextes de son entreprise / Cas d’usage
• Packages Open Source

Module 3 : Stratégie de déploiement, Coût et passage à l’échelle

• Options de déploiement des LLMs, notamment SaaS (Software as a Service) et l'hébergement.
• To GPU or not to GPU ?
• Évaluation des coûts associés au déploiement d’une IA générative

Module 4 : Evaluation et risques

• Méthodes d'évaluation de la performance des modèles LLMs.
• Réglementation et enjeux éthiques de l’IA générative
• MLOps et nouveaux paradigmes de LLMOps

Module 5 : Cas pratique guidé

• Initiation à l’utilisation d’un LLM avec code Python, Création d’un classifieur de text
• Etude de cas d’architecture d’application à base d’IA générative: Retrieval Augmented Generation (RAG)

Module 6: Q&A