Plan

• Problème des LLM
• Principe du RAG
• Recherche bibliographique avec scispace
• Création de documents avec notebook

Problème des LLM

• Problématique de base
  • L’information qu’ils ont acquise est disséminée dans des milliards de paramètres
  • la part de texte pertinent par rapport à la question est minime
  • seule de l’information publique a été utilisée pour l’apprentissage
• Solution envisageable
  • ajouter au prompt les documents les plus pertinents pour la réponse
• Inconvénient
  • l’information pertinente peut n’être que peu significative dans le volume des documents ;
  • un LLM ne peut prendre en compte qu’une taille limitée de prompt

Principe du RAG

• On segmente les documents en “petits” (exemple : 500 caractères) morceaux (chunks) avec recouvrement
• On représente le sens de chacun de ces morceaux par un vecteur (embedding) et on stocke cela dans une base de données vectorielle
• On vectorise la question
• On cherche les morceaux dont le vecteur est le plus proche du vecteur représentant la question (on utilise le cosinus entre les 2 vecteurs pour ne pas prendre en compte leur norme)
• On rajoute ces morceaux à la question pour constituer le prompt envoyé au final au LLM.

Pour aller plus loin :

• RAG expliqué simplement : la technique derrière les IA qui marchent sur la chaîne Projets IA
• Comprendre le RAG, adapté l’IA à ses documents sur la chaîne Grafikart.fr (faute de grammaire d’origine)

Recherche bibliographique avec scispace

URL : https://scispace.com

• Analyse des thème
• Recherche de documents et rédaction d’une synthèse
• Interroger les documents récupérés

⚠ : Ne pas faire directement confiance aux analyses générées. Voir cela comme un travail préparatoire nécessitant ensuite de faire sa propre analyse

Création de documents avec notebook

URL : https://notebook.google.com/

• Poser des questions
• Créer des fiches de révision
• Créer une vidéo

⚠ : Toujours vérifier attentivement la correction des documents produits