Copiaste un informe y volvió un texto impecable, justo lo que preguntaste. Cuando buscas de dónde salió cada frase, no hay página. Un modelo puede sonar razonable sin que cada afirmación esté en un documento. En salud esa diferencia importa. No se trata de dejar de usarlo. Se trata de no pedirle que improvise: le das el material y respondes tú si la frase está ahí.
Menos espacio para inventar, más para comprobar
El modelo predice la frase probable con lo que tiene en ese momento. No guarda una verdad interna. Si le entregas el informe o el artículo y pides que use solo eso, el espacio para completar se achica. No desaparece el error. Sí puedes volver al párrafo original y tachar lo que no está. La OMS, en su guía de 2024 sobre estos modelos, pide transparencia y supervisión cuando el resultado puede tocar una decisión de salud. Sin fuente, no hay esa supervisión.
Tres marcas antes de quedarte con el texto
- Qué es cita y qué es inferencia. Pide que separe lo que está en el documento de lo que el modelo dedujo. Si no puede señalar la página, esa frase no decide.
- Qué falta. Que liste datos ausentes o contradictorios antes de concluir. Un campo vacío —medicación, fecha, sueño de esa semana— cambia el sentido del valor.
- Una comprobación tuya. Vuelve al original y anota tres cosas: horas de sueño, estrés de 0 a 10 y si el síntoma cambió al comer o al moverte. Eso entra a la visita. El párrafo suelto, no.
Una frase bien escrita no es una fuente. Si no puedes volver a la página, no entra en la decisión.
Ordenar el caso, no cerrarlo
Sirve para resumir un documento y armar preguntas. No sirve para convertir una probabilidad en diagnóstico. En mamografías, cuando la marca era un falso negativo, la sensibilidad de quien leía bajó del 71 % al 39 %: la sugerencia también puede tapar lo que había que ver. Por eso la supervisión humana no es un cierre amable. Es volver al papel. En RedSana ese contraste se lee con sueño, estrés y el examen. Eso es Medicina Integrativa: la herramienta ordena lo que tú puedes revisar, no sustituye el criterio.
Referencias científicas:
1. World Health Organization. Ethics and governance of artificial intelligence for health: guidance on large multi-modal models. Geneva: WHO; 2024. ISBN 978-92-4-008475-9.
2. Wang DY, et al. Artificial intelligence suppression as a strategy to mitigate artificial intelligence automation bias. J Am Med Inform Assoc. 2023;30(10):1684-1692. doi:10.1093/jamia/ocad118. PMID: 37561535.
3. Taib AG, Partridge GJW, Phillips P, et al. Automation bias in action: eye tracking of humans reading screening mammograms with and without AI prompts.
Radiology. 2026;320(1):e252590. doi:10.1148/radiol.252590.
4 . Goddard K, Roudsari A, Wyatt JC. Automation bias: a systematic review of frequency, effect mediators, and mitigators. J Am Med Inform Assoc. 2012;19(1):121-127. doi:10.1136/amiajnl-2011-000089. PMID: 21685142.
5. Lee P, Bubeck S, Petro J. Benefits, limits, and risks of GPT-4 as an AI chatbot for medicine. N Engl J Med. 2023;388(13):1233-1239. doi:10.1056/NEJMsr2214184. PMID: 36988602.