Google supprime de fausses informations médicales générées par son IA sur Chrome

Le service AI Overviews de Google Chrome permet aux utilisateurs de recevoir des réponses générées par l'IA Gemini lors d'une requête. Cette fonctionnalité, déjà disponible aux États-Unis et en Grande-Bretagne, n'est pas encore accessible en France. Les résultats générés par l'IA apparaissent avant les résultats de recherche classiques.

Récemment, des préoccupations ont été soulevées concernant la fiabilité des réponses fournies par AI Overviews, notamment dans le domaine de la santé. Certaines informations ont été identifiées comme incorrectes et potentiellement dangereuses, notamment des conseils médicaux inappropriés pour des patients atteints de maladies graves.

En conséquence, Google a retiré ces réponses inexactes de son moteur de recherche, soulignant l'importance d'améliorations continues de la fonctionnalité. Cet incident met en lumière les défis de l'utilisation de l'IA dans des domaines critiques tels que la santé publique.

AI Overviews a diffusé des informations médicales incorrectes. Google a supprimé les réponses inexactes de Chrome. L'incident souligne les risques associés à l'utilisation de l'IA dans le secteur médical.

D’après Presse-citron.