Session

02/10/2025 : 10h15 - 11h00 | Auditorium | Philippe Charrière

Lorsque vous mettez les pieds en Auvergne il est de bon ton de connaître ces deux spécialités emblématiques que sont l’Aligot et de la Truffade (c’est valable aussi si vous pensez partir habiter à Paris), de comprendre pourquoi elles déclenchent tant de passions et surtout de ne pas raconter n’importe quoi à propos de ces fleurons gastronomiques. Je me propose donc de vous expliquer comment créer Bob, un “engramme numerique avec une personnalité” (1) spécialiste de ces deux plats authentiques. Ce sera l’occasion :

• de démystifier complètement le concept d’IA générative,
• mais aussi d’apprendre à faire des applications d’IA génératives
• de le faire uniquement avec des LLM locaux (et pas des “gros”)

En sortant de cette présentation vous saurez ce que sont un prompt, un contexte, du rag, du function calling (ou tools), et MCP (Model Context Protocol), mais vous saurez aussi comment les mettre en oeuvre.

Pour cela, j’utiliserais la solution Docker Model Runner (2) pour les LLM, Redis pour le RAG, Docker MCP Toolkit pour la partie MCP (3), Golang pour le code, Docker Compose pour orchestrer tout cela.

Et vous aurez enfin la preuve que l’IA c’est utile mais que pour des besoins spécifiques vous n’avez pas besoin de ChatGPT, Claude.AI et les autres

(1) oui je me suis bien creusé la tête pour celui-là (2) c’est tout nouveau - une fonctionnalité de Docker pour simplifier le développement d’applications d’IA générative à base de conteneurs. (3) c’est encore plus nouveau que (2)

Conférence
Data & AI