Pegaste el resultado del laboratorio para que la IA te lo explicaran. Volvió ordenado, con causas posibles y un tono tranquilo. Esa fluidez alivia un momento. No prueba que el modelo haya visto tu medicación, el método del análisis ni por qué pidieron ese valor. En la visita ese texto sirve como borrador de preguntas. No cierra el caso.
Por qué suena seguro y puede fallar
Un modelo de lenguaje predice la palabra más probable. No abre tu ficha ni mide tu cuerpo. Si en los textos que leyó un valor suele ir con una enfermedad frecuente, completa esa historia aunque falten datos. Lee, Bubeck y Petro describieron ese límite en el New England Journal of Medicine: sirve para ordenar información y, a la vez, puede alucinar si no hay supervisión humana. De noche, la alerta de una causa grave retrasa el sueño. El valor en papel no cambió. Cambió el relato.
Tres cortes antes de creerle al párrafo
- Tres explicaciones, no una. Pide alternativas y la lista de lo que no puede saber sin examen. Si solo hay una causa, es un borrador.
- Fuente o no entra. Guía, artículo, año y DOI. Sin eso, la frase no decide un tratamiento.
- Bandera roja, fuera del chat. Dolor de pecho, falta de aire, sangrado, confusión o fiebre alta se atienden. No se siguen conversando.
Una explicación fluida no es un resultado leído en tu contexto. Ordena el término. No sustituye la historia ni el examen
Qué se lleva a la visita, no al chat
Anota valor, unidad, fecha y el síntoma de ese día. No pegues el membrete. Lleva la nota a RedSana o a tu médico, con la pregunta que el párrafo no pudo cerrar. La metacognición aquí es distinguir “me explicó un término” de “ya sé qué tengo”. La Medicina Integrativa encaja ese número con sueño, medicación y examen. Un texto generado no hace ese encaje.
Referencias científicas:
1. Lee P, Bubeck S, Petro J. Benefits, limits, and risks of GPT-4 as an AI chatbot for medicine. N Engl J Med. 2023;388(13):1233-1239. doi:10.1056/NEJMsr2214184. PMID: 36988602.
2. Thirunavukarasu AJ, Ting DSJ, Elangovan K, Gutierrez L, Tan TF, Ting DSW. Large language models in medicine. Nat Med. 2023;29(8):1930-1940. doi:10.1038/s41591-023-02448-8. PMID: 37460753.
3. Singhal K, Azizi S, Tu T, et al. Large language models encode clinical knowledge. Nature. 2023;620(7972):172-180. doi:10.1038/s41586-023-06291-2. PMID: 37438534.
4. Ji Z, Lee N, Frieske R, et al. Survey of hallucination in natural language generation. ACM Comput Surv. 2023;55(12):1-38. doi:10.1145/3571730.