Sarah Connor ?

J’aurais aussi pu choisir ceci comme titre « come with me if you want to live ».

Le pitch de cette session: Comment éviter le soulèvement des machines avec Ollama, des bébés LLM et un Raspberry PI et un peu de Go(*)!

Glossaire pour les néophytes:
– Un LLM (Large Language Model) est un programme sophistiqué capable de comprendre et de générer du langage humain
– Ollama est une application permettant d’exécuter un LLM en local
– un Raspberry PI est un mini ordinateur basique et abordable conçu pour l’apprentissage de l’informatique

Depuis décembre (2023), je travaille sur le sujet des applications « GenAI » (pour Generative AI) (pour mon vrai travail, pas pour un side project – rien de compliqué, mais j’ai besoin de comprendre de quoi il retourne).

Je découvre que beaucoup de monde pense qu’il faut de gros moyens pour utiliser des LLMs. Donc hors ChatGPT, Gemini, Copilot, … point de salut – Donc les GAFAM & co ont le pouvoir et la connaissance. Ou alors il faut des machines de compétition pour faire tourner tout ça correctement, et là encore le pouvoir est aux mains de Nvidia, Apple, …

😳 Skynet est déjà en marche ! … ou pas 😜

Je vous propose donc de me suivre si vous souhaitez reprendre le pouvoir. Je vous expliquerais par l’exemple comment maîtriser Ollama et les bébés LLM car c’est avec la connaissance que l’on reprend le pouvoir.

Nous aborderons ensemble les points suivants:
– Mais qui est Sarah Connor? C’est quoi Skynet?
– Ollama, principes de bases + LangChainGo & bébés LLM
– Setup
– Interroger un LLM
– Streamer la réponse
– Construire un prompt complexe (et l’art du prompting)
– Tenir une conversation (aide moi à coder en rust)
– Expliquer au LLM que Philippe Charrière est un personnage clé de Terminator
– Faire exécuter des plugins WebAssembly par le LLM 🤔 (buzzword bingo mode activates)

À la fin de cette session, vous aurez le bagage nécessaire pour vous préparer au soulèvement des machines.

Ah, j’oubliais, je suis joueur, donc je viendrais avec mon Raspberry Pi, et j’exécuterais les exemples dessus. Sinon ce n’est pas drôle.

> PS 1: il faut tout de même un Pi5 avec 8GB RAM

> PS 2: J’ai choisi le Go pour la lisibilité du code pour une présentation, mais je vous donnerais des pointeurs pour démarrer avec Python, JavaScript, Java et même Rust.