Google tomó la decisión de eliminar ciertos resúmenes generados por su inteligencia artificial en temas de salud después de que investigaciones periodísticas y expertos alertaran sobre información errónea que podría poner en peligro a los usuarios, especialmente en búsquedas relacionadas con análisis y recomendaciones médicas.
La medida se centró en los llamados AI Overviews —resúmenes automatizados que aparecían al inicio de los resultados de búsqueda— para consultas específicas como los rangos normales de pruebas hepáticas, los cuales no consideraban variables clave como edad, sexo o etnia, lo que pudo inducir a interpretaciones equivocadas sobre la salud de las personas.
La decisión de retirar estas respuestas se produjo tras una investigación del periódico The Guardian que encontró que algunos resúmenes ofrecían datos engañosos o peligrosos, como recomendaciones dietéticas incorrectas para pacientes con cáncer de páncreas.
Google afirmó que no comenta sobre eliminaciones individuales, pero aseguró que trabaja constantemente en mejorar sus herramientas de inteligencia artificial, incluso con equipos clínicos internos que revisan la calidad de la información presentada. Sin embargo, los resúmenes todavía pueden aparecer con ligeras variaciones en las preguntas, lo que ha generado opiniones divididas entre expertos.
Organizaciones de salud y especialistas han visto con buenos ojos la eliminación de estos resultados erróneos, aunque advirtieron que sigue siendo necesario mayor supervisión de los sistemas de IA en temas sensibles como la asistencia médica.
Este episodio subraya la creciente discusión global sobre los límites y responsabilidades del uso de inteligencia artificial en información de salud, en un momento en que muchas personas recurren a herramientas digitales para resolver dudas médicas básicas.