Alerta en la web: Google desactiva su IA por dar consejos médicos peligrosos

La función de AI Overviews de Google, diseñada para ofrecer resúmenes generados por inteligencia artificial, ha sido desactivada parcialmente después de que se descubrió que proporcionaba consejos médicos engañosos y potencialmente peligrosos.

La IA de Google y sus riesgos para la salud

Investigaciones recientes han revelado que la IA de Google ofrecía respuestas inexactas a consultas médicas, incluyendo recomendaciones sobre dietas para pacientes con cáncer de páncreas y resultados de pruebas de función hepática. Estos consejos no solo eran incorrectos, sino que también podrían haber puesto en riesgo la salud de los usuarios que confiaban en esta herramienta.

Desactivación parcial y limitaciones

Aunque Google ha comenzado a desactivar silenciosamente los resultados para algunas consultas médicas, la función de AI Overviews sigue siendo accesible para ciertas preguntas, lo que plantea preocupaciones sobre su precisión y confiabilidad. Expertos advierten que, incluso con la desactivación parcial, es crucial evitar utilizar esta herramienta para consultas relacionadas con la salud y, en su lugar, buscar asesoramiento de profesionales de la salud.

La compañía ha afirmado que invierte constantemente en mejorar la calidad de sus descripciones generadas por IA, especialmente en temas relacionados con la salud. Sin embargo, el descubrimiento de estos errores y la desactivación parcial de la función de AI Overviews han generado un debate sobre la responsabilidad de las empresas tecnológicas en la verificación de la precisión de la información de salud que proporcionan.

Explora más noticias en nuestra sección: Tecnología