HelloBible : hallucinations, réponses erronées... comment résoudre les problèmes inhérents à l'IA ?
HelloBible utilise une technologie de pointe pour parer aux problèmes inhérents à l'utilisation de l'IA, tels que les hallucinations, l'absence de sources, etc. On appelle cette technologie le RAG ce qui signifie "génération augmentée de récupération".
En raison de la façon dont est entraînée une IA, il y a plusieurs problèmes que l'on peut rencontrer :
-
L'absence de sources : une IA apprend mais n'est généralement pas capable de citer ses sources avec exactitude. C'est également un problème qu'il faut résoudre, surtout lorsque l'on veut pouvoir étayer les réponses avec des écrits des Pères et Saints de l'Église mais aussi avec toute autre source.
-
La modification des textes bibliques : un LLM a généralement appris les versions bibliques mais il ne les stocke pas en base de données. Il est donc possible qu'une IA se trompe en citant un verset, un peu comme un humain qui cite un verset de mémoire. Cela peut donc affecter l'intégrité des textes bibliques, ce qui est un vrai problème.
-
Les hallucinations : dans ce cas l'IA générative crée une réponse erronée. Elle le fait souvent avec beaucoup d'aplomb, ce qui pose un vrai problème en cas de fausse réponse. Il est donc important de pouvoir parer à toute hallucination.
-
Des réponses théologiquement erronées : certaines réponses peuvent ne pas être en adéquation avec la théologie protestante ou catholique (ou autre) en raison de la neutralité de l'IA. Sur certains points spécifiques, cela peut poser problème.
La façon de résoudre ces quatre problématiques est donc de fournir des sources et des textes bibliques que l'IA peut citer, des informations fiables que l'IA peut retrouver pour éviter les hallucinations, et des réponses déjà établies sur certaines questions sensibles. Il faut donc adosser à l'IA, une base de données contenant ces informations. C'est là qu'intervient la base de données vectorielle qui vient compléter le LLM. On appelle cet élément le RAG. Le RAG permet d'ajouter de l'information avec la question.
RAG signifie "retrieval augmented generation", soit en français la génération augmentée de réupération. Il s'agit d'une technique utilisée où le modèle génère des réponses en s'appuyant non seulement sur sa propre connaissance interne (apprise pendant la phase d'entraînement) mais aussi en retrouvant des informations à partir d'une base de données externe ou d'un ensemble de documents pour enrichir ses réponses.
Le principe derrière le Retrieval Augmented Generation est de combiner deux composantes principales : une composante de récupération (le "retrieval") qui recherche les informations pertinentes dans un grand corpus de textes, et une composante de génération qui utilise ces informations récupérées pour construire une réponse plus informée et contextuellement riche.
Cette approche permet de surmonter certaines limitations des modèles de langage purement génératifs, en leur permettant d'accéder à des informations spécifiques à un domaine. Le RAG peut être particulièrement utile pour les tâches nécessitant des réponses précises basées sur des faits ou des données, comme répondre à des questions spécifiques, résumer des articles, ou même générer des explications basées sur des données externes.
RAG est donc une méthode avancée qui augmente les capacités des modèles de langage en intégrant une phase de recherche d'informations à la génération de texte, permettant ainsi de produire des réponses plus précises et contextuellement adaptées. Même si nous n'en sommes qu'au début, nous utilisons et utiliserons de plus en plus le RAG pour HelloBible, ce qui augmente(ra) drastiquement les capacités de l'IA à offrir des réponses justes et sourcées.
Pour en savoir plus, nous vous invitons à découvrir notre entretien avec Eric Célérier ainsi que son passage dans le podcast de Sébastien Corn, La Messe Créative. Découvrez également les articles que nous avons précédemment publiés sur ce sujet :
- HelloBible : créer un pont entre la technologie et la Bible
- HelloBible : étude biblique et intelligence artificielle
- HelloBible : adresser les préoccupations sur l'usage de l'IA
- HelloBible : les questions éthiques posées par l'IA dans le cadre de l'étude biblique
- L'IA et la Bible : outil ou substitut à l'Esprit Saint ?
- HelloBible : responsabilité et engagement dans l'utilisation de l'IA avec la Bible
- HelloBible : une appli en conformité avec les réglementations et normes éthiques de l'IA
- La technologie utilisée pour HelloBible : comment ça marche ?
- HelloBible : comment créer un dialogue enrichissant et pertinent avec la Bible grâce à l'IA ?`
- Quelles sont les sources de HelloBible ?
