Escribes “¿esto es normal?” y vuelven los síntomas ordenados, con una causa y un tono seguro. Empiezas a leerlo como conclusión. Una frase clara no es una frase correcta. La habilidad no es el prompt perfecto. Es obligar al texto a separar lo que dijiste, lo que interpretó y lo que no puede saber. Si no muestra el límite, lo olvidas tú.
La fluidez tapa el hueco
El modelo continúa la conversación con la frase más probable. Por eso suena preciso aunque falte un dato, la inferencia esté mal o la cita no sostenga la frase. En salud eso se lee como diagnóstico. En mamografías, 27 radiólogos acertaban cerca del 80 % cuando la sugerencia era correcta. Cuando no lo era, los menos expertos bajaban al 19,8 %. Seguir una marca equivocada no es un fallo de novatos: también les pasó a los expertos, menos. El mismo sesgo cabe en un chat que no dice “no sé”.
Tres preguntas antes de quedarte con la primera
- Qué de lo que escribí es un hecho y qué estás interpretando.” Si no lo separa, no es una respuesta controlable.
- Qué falta para afirmarlo y qué otra hipótesis cabe.” Sin alternativa, es una sola historia.
- Tres números tuyos, no los de la frase: presión, pulso en reposo y horas de sueño, si el problema es físico. Esos entran a la visita. La interpretación del chat, no.
"La confianza no es un mecanismo de control. El control es que el texto diga qué lo haría incorrecto.
Mirar el proceso, no solo el párrafo
La metacognición aquí es concreta: qué le diste, qué supuso, qué omitió. Sirve para traducir un término y armar preguntas. No reduce a una persona a un algoritmo. En RedSana esa lista se lee con la evolución del síntoma, los antecedentes y el examen. La Medicina Integrativa usa la herramienta para pensar mejor, no para cerrar el caso en la primera explicación
Referencias científicas:
1. Dratsch T, Chen X, Rezazade Mehrizi M, et al. Automation bias in mammography: the impact of artificial intelligence BI-RADS suggestions on reader performance. Radiology. 2023;307(4):e222176. doi:10.1148/radiol.222176. PMID: 37129490.
2. Khera R, Simon MA, Ross JS. Automation bias and assistive AI: risk of harm from AI-driven clinical decision support. JAMA. 2023;330(23):2255-2257. doi:10.1001/jama.2023.22557. PMID: 38112824.
3. World Health Organization. Ethics and governance of artificial intelligence for health: guidance on large multi-modal models. Geneva: WHO; 2024. ISBN 978-92-4-008475-9.
4. Goddard K, Roudsari A, Wyatt JC. Automation bias: a systematic review of frequency, effect mediators, and mitigators. J Am Med Inform Assoc. 2012;19(1):121-127. doi:10.1136/amiajnl-2011-000089. PMID: 21685142.
5. Lee P, Bubeck S, Petro J. Benefits, limits, and risks of GPT-4 as an AI chatbot for medicine. N Engl J Med. 2023;388(13):1233-1239. doi:10.1056/NEJMsr2214184. PMID: 36988602.