La inteligencia artificial de Google siempre recomienda verificar las respuestas de Gemini, ya que pueden contener errores. A pesar de esto, cerca del 70% de los ciudadanos en España ya recurren a sistemas similares para consultar aspectos relacionados con su salud. Globalmente, desde OpenAI se reporta que más de 40 millones de personas buscan asesoramiento médico a través de ChatGPT. No obstante, confiar ciegamente en estas herramientas es un error considerable.
Aunque pueda parecer que la IA de Google consulta informes médicos para proporcionar respuestas precisas, el hecho de que el sistema sugiera consultar a un experto ante cualquier dolencia ya debería ser un indicativo de la inexactitud de esa suposición. Un estudio reciente reveló que las respuestas de esta IA suelen basarse en plataformas como YouTube más que en fuentes médicas especializadas.
Origen de los consejos de salud de la IA de Google
Según un análisis realizado por SE Ranking en Alemania, solo un 34% de las respuestas de la IA provienen de fuentes médicas confiables, que incluyen desde entidades gubernamentales hasta estudios académicos. El 66% restante proviene de fuentes generales o de agentes no expertos. Entre estas, YouTube es la plataforma más consultada, representando un 4.43% de los casos.
Las citas de la plataforma de videos son tres veces más numerosas que las de sitios médicos alemanes como NetDoktor, y doblemente superiores a las de los Manuales MSD, que son una referencia para médicos y farmacéuticos. «Esto es significativo porque YouTube no es una editorial médica. Es una plataforma de video generalista», comentan respecto a la revisión de más de 50.000 respuestas analizadas.
«Cualquiera puede subir contenido en ella (por ejemplo, médicos certificados, canales de hospitales, pero también influencers de salud, coaches de vida y creadores sin ninguna formación médica). Para la IA, todo este contenido se considera de la misma manera».
Google responde que el estudio no toma en cuenta que muchos expertos y autoridades también publican en YouTube, y que la plataforma cuenta con numerosos profesionales de la medicina que generan contenido. Sin embargo, el estudio menciona que los videos analizados son solo una pequeña muestra de toda la información que la IA utiliza para formular respuestas.
Desde Google se afirma que el uso de fuentes expertas invalida las conclusiones del estudio. «La idea de que los Resúmenes de IA ofrecen información no fiable es contraria a los propios datos del informe, que indican que los dominios más citados en los Resúmenes de IA son de sitios de buena reputación. Además, hemos observado que los Resúmenes de IA frecuentemente incluyen contenido experto de YouTube proveniente de hospitales y clínicas», argumentan.
Imagen | Tomomix en Midjourney
Hola, soy María, parte del equipo de MuyMac. Me dedico a analizar las tendencias que marcan nuestro día a día, desde innovaciones tecnológicas hasta nuevas modas, para mantenerte siempre actualizado.
