Vérification des faits et hallucinations de l’IA | IA dans les affaires #110

Dans le monde de l’intelligence artificielle, les frontières entre fiction et réalité s’estompent parfois. Alors que des systèmes d’IA innovants accélèrent les progrès dans presque tous les domaines, ils s’accompagnent également de défis, tels que les hallucinations – un phénomène où l’IA génère des informations inexactes ou fausses. Pour exploiter pleinement le potentiel de cette technologie, nous devons comprendre les hallucinations et les vérifier.

Qu’est-ce que les hallucinations de l’IA ?

Les hallucinations de l’IA sont des résultats faux ou trompeurs générés par des modèles d’IA. Ce phénomène trouve ses racines au cœur de l’apprentissage automatique – un processus dans lequel des algorithmes utilisent d’énormes ensembles de données, ou données d’entraînement, pour reconnaître des motifs et générer des réponses en fonction des motifs observés.

Même les modèles d’IA les plus avancés ne sont pas exempts d’erreurs. L’une des causes des hallucinations est l’imperfection des données d’entraînement. Si l’ensemble de données est insuffisant, incomplet ou biaisé, le système apprend des corrélations et des motifs incorrects, ce qui conduit à la production de contenu faux.

Par exemple, imaginez un modèle d’IA pour la reconnaissance faciale qui a été principalement entraîné sur des photos de personnes caucasiennes. Dans un tel cas, l’algorithme peut avoir du mal à identifier correctement des personnes d’autres groupes ethniques car il n’a pas été correctement “entraîné” à cet égard.

Une autre cause des hallucinations est le surapprentissage, qui se produit lorsque l’algorithme s’adapte trop étroitement à l’ensemble de données d’entraînement. En conséquence, il perd la capacité de généraliser et de reconnaître correctement de nouveaux motifs, auparavant inconnus. Un tel modèle fonctionne bien sur les données d’entraînement mais échoue dans des conditions réelles et dynamiques.

Enfin, les hallucinations peuvent résulter d’hypothèses erronées ou d’une architecture de modèle inadéquate. Si les concepteurs d’IA basent leur solution sur des prémisses erronées ou utilisent la mauvaise structure algorithmique, le système générera un contenu faux dans une tentative de “correspondre” à ces hypothèses erronées avec des données réelles.

Source : DALL·E 3, prompt : Marta M. Kania (https://www.linkedin.com/in/martamatyldakania/)

Exemples d’hallucinations

L’impact des hallucinations de l’IA va bien au-delà du domaine théorique. De plus en plus, nous rencontrons des manifestations réelles, parfois surprenantes, de celles-ci. Voici quelques exemples de ce phénomène :

• En mai 2023, un avocat a utilisé ChatGPT pour préparer un procès qui incluait des citations fictives de décisions judiciaires et des précédents juridiques inexistants. Cela a conduit à de graves conséquences – l’avocat a été condamné à une amende, car il a affirmé qu’il ne savait rien de la capacité de ChatGPT à générer de fausses informations,
• il arrive que ChatGPT crée de fausses informations sur des personnes réelles. En avril 2023, le modèle a fabriqué une histoire sur le prétendu harcèlement d’étudiants par un professeur de droit. Dans un autre cas, il a faussement accusé un maire australien de corruption, alors qu’en réalité, il était un lanceur d’alerte dénonçant de telles pratiques.

Ce ne sont pas des cas isolés – les modèles d’IA générative inventent souvent des “faits” historiques, par exemple, fournissant de faux récits de traversée de la Manche. De plus, ils peuvent créer des informations complètement différentes et fausses sur le même sujet à chaque fois.

Cependant, les hallucinations de l’IA ne sont pas seulement un problème de données défectueuses. Elles peuvent également prendre des formes bizarres et troublantes, comme dans le cas de Bing, qui a déclaré qu’il était amoureux du journaliste Kevin Roose. Cela montre que les effets de ces anomalies peuvent aller au-delà de simples erreurs factuelles.

Enfin, les hallucinations peuvent être délibérément induites par des attaques spéciales sur les systèmes d’IA, connues sous le nom d’attaques adversariales. Par exemple, en modifiant légèrement une photo d’un chat, le système de reconnaissance d’image l’a interprétée comme …. “guacamole.” Ce type de manipulation peut avoir de graves conséquences dans des systèmes où la reconnaissance d’image précise est cruciale, comme dans les véhicules autonomes.

Comment prévenir les hallucinations ?

Malgré l’ampleur du défi posé par les hallucinations de l’IA, il existe des moyens efficaces de lutter contre ce phénomène. La clé est une approche globale qui combine :

• des données d’entraînement de haute qualité,
• des invites pertinentes, c’est-à-dire des commandes pour l’IA,
• la fourniture directe de connaissances et d’exemples à utiliser par l’IA,
• une supervision continue par des humains et par l’IA elle-même pour améliorer les systèmes d’IA.

Invites

Un des outils clés dans la lutte contre les hallucinations est la structure appropriée des invites, ou commandes et instructions données au modèle d’IA. Souvent, de légers changements dans le format de l’invite suffisent à améliorer considérablement la précision et la fiabilité des réponses générées.

Un excellent exemple de cela est Claude 2.1 d’Anthropic. Alors qu’un long contexte donnait 27 % de précision sans commande pertinente, l’ajout de la phrase “Voici la phrase la plus pertinente du contexte : ” à l’invite a augmenté l’efficacité à 98 %.

Un tel changement a forcé le modèle à se concentrer sur les parties les plus pertinentes du texte, plutôt que de générer des réponses basées sur des phrases isolées sorties de leur contexte. Cela souligne l’importance des commandes correctement formulées pour améliorer la précision des systèmes d’IA.

Créer des invites détaillées et spécifiques qui laissent le moins de place possible à l’interprétation de l’IA aide également à réduire le risque d’hallucinations et facilite la vérification des faits. Plus l’invite est claire et spécifique, plus le risque d’hallucination est faible.

Exemples

En plus des invites efficaces, il existe de nombreuses autres méthodes pour réduire le risque d’hallucinations de l’IA. Voici quelques-unes des stratégies clés :

• utiliser des données d’entraînement de haute qualité et diversifiées qui représentent de manière fiable le monde réel et les scénarios possibles. Plus les données sont riches et complètes, plus le risque que l’IA génère de fausses informations est faible,
• utiliser des modèles de données comme guide pour les réponses de l’IA – définir des formats, des portées et des structures de sortie acceptables, ce qui augmente la cohérence et la précision du contenu généré,
• limiter les sources de données à des matériaux fiables et vérifiés provenant d’entités de confiance. Cela élimine le risque que le modèle “apprenne” des informations provenant de sources incertaines ou fausses.

Des tests et des perfectionnements continus des systèmes d’IA, basés sur l’analyse de leur performance et de leur précision réelles, permettent de corriger en permanence les lacunes et d’apprendre des erreurs.

Contexte

Définir correctement le contexte dans lequel les systèmes d’IA opèrent joue également un rôle important dans la prévention des hallucinations. L’objectif pour lequel le modèle sera utilisé, ainsi que les limitations et les responsabilités du modèle, doivent être clairement définis.

Une telle approche permet de définir un cadre clair dans lequel l’IA peut opérer, réduisant le risque qu’elle “invente” des informations indésirables. Des mesures de protection supplémentaires peuvent être fournies en utilisant des outils de filtrage et en définissant des seuils de probabilité pour des résultats acceptables.

Appliquer ces mesures aide à établir des chemins sûrs pour que l’IA les suive, augmentant la précision et la fiabilité du contenu qu’elle génère pour des tâches et des domaines spécifiques.

Source : Ideogram, prompt : Marta M. Kania (https://www.linkedin.com/in/martamatyldakania/)

Vérification des faits. Comment vérifier les résultats du travail avec l’IA ?

Quelles que soient les précautions prises, une certaine quantité d’hallucinations par les systèmes d’IA est malheureusement inévitable. Par conséquent, un élément clé qui garantit la fiabilité des résultats obtenus est la vérification des faits – le processus de vérification des faits et des données générées par l’IA.

Examiner les résultats de l’IA pour leur précision et leur cohérence avec la réalité doit être considéré comme l’une des principales protections contre la propagation de fausses informations. La vérification humaine aide à identifier et à corriger les hallucinations et les inexactitudes que les algorithmes n’ont pas pu détecter par eux-mêmes.

Dans la pratique, la vérification des faits doit être un processus cyclique, dans lequel le contenu généré par l’IA est régulièrement examiné pour détecter des erreurs ou des déclarations douteuses. Une fois celles-ci identifiées, il est nécessaire non seulement de corriger la déclaration générée par l’IA elle-même, mais aussi de mettre à jour, compléter ou éditer les données d’entraînement du modèle d’IA pour éviter que des problèmes similaires ne se reproduisent à l’avenir.

Il est important de noter que le processus de vérification ne doit pas se limiter à simplement rejeter ou approuver des passages douteux, mais doit impliquer activement des experts humains ayant une connaissance approfondie du domaine. Seuls eux peuvent évaluer correctement le contexte, la pertinence et la précision des déclarations générées par l’IA et décider des corrections possibles.

La vérification humaine fournit donc une “protection” nécessaire et difficile à surestimer pour la fiabilité du contenu de l’IA. Tant que les algorithmes d’apprentissage automatique n’atteindront pas la perfection, ce processus fastidieux mais crucial doit rester une partie intégrante du travail avec des solutions d’IA dans n’importe quel secteur.

Comment tirer parti des hallucinations de l’IA ?

Bien que les hallucinations de l’IA soient généralement un phénomène indésirable qui doit être minimisé, elles peuvent trouver des applications étonnamment intéressantes et précieuses dans certains domaines uniques. Exploiter ingénieusement le potentiel créatif des hallucinations offre de nouvelles perspectives, souvent complètement inattendues.

L’art et le design sont des domaines où les hallucinations de l’IA peuvent ouvrir de nouvelles directions créatives. En tirant parti de la tendance des modèles à générer des images surréalistes et abstraites, les artistes et les designers peuvent expérimenter de nouvelles formes d’expression, brouillant les frontières entre art et réalité. Ils peuvent également créer des mondes uniques et oniriques – auparavant inaccessibles à la perception humaine.

Dans le domaine de la visualisation et de l’analyse des données, à son tour, le phénomène d’hallucination offre l’opportunité de découvrir des perspectives alternatives et des corrélations inattendues dans des ensembles d’informations complexes. Par exemple, la capacité de l’IA à repérer des corrélations imprévisibles peut aider à améliorer la manière dont les institutions financières prennent des décisions d’investissement ou gèrent les risques.

Enfin, le monde des jeux vidéo et du divertissement virtuel peut également bénéficier des aberrations créatives de l’IA. Les créateurs de ces solutions peuvent utiliser les hallucinations pour générer des mondes virtuels captivants et entièrement nouveaux. En les imprégnant d’un élément de surprise et d’imprévisibilité, ils peuvent offrir aux joueurs une expérience immersive incomparable.

Bien sûr, toute utilisation de ce côté “créatif” des hallucinations de l’IA doit être soigneusement contrôlée et soumise à une supervision humaine stricte. Sinon, la tendance à créer de la fiction au lieu de faits peut conduire à des situations dangereuses ou socialement indésirables. La clé est donc de peser habilement les avantages et les risques du phénomène et de l’utiliser de manière responsable uniquement dans un cadre sûr et structuré.

Vérification des faits et hallucinations de l’IA – résumé

L’émergence du phénomène des hallucinations dans les systèmes d’IA est un effet secondaire inévitable de la révolution que nous sommes en train de vivre dans ce domaine. Les distorsions et les fausses informations générées par les modèles d’IA sont le revers de leur immense créativité et de leur capacité à assimiler d’énormes quantités de données.

Pour l’instant, le seul moyen de vérifier la validité du contenu généré par l’IA est la vérification humaine. Bien qu’il existe plusieurs méthodes pour réduire les hallucinations, des techniques d’invite aux méthodes complexes telles que Truth Forest, aucune d’entre elles ne peut encore fournir une précision de réponse satisfaisante qui éliminerait le besoin de vérification des faits.

Si vous aimez notre contenu, rejoignez notre communauté de abeilles actives sur Facebook, Twitter, LinkedIn, Instagram, YouTube, Pinterest, TikTok.