Pegas la respuesta en un mensaje y piensas que era justo lo que necesitabas. Llegó rápida, ordenada y segura. El problema no es usar la herramienta. Es pasar de usarla para pensar mejor a dejar que piense por ti. Las piezas anteriores separaron el pensamiento, el error, la creencia y el estado. Esta aplica eso al chat: puede generar, ordenar o comparar. Evaluar sigue siendo tuyo.
Una frase fluida no es una frase correcta
El modelo continúa con la frase más probable a partir de lo que le diste. Resume y compara rápido. Eso no vuelve cada línea verdadera ni adecuada a tu caso. La OMS, en su guía de 2024, advierte que estos sistemas pueden producir información falsa, inexacta, sesgada o incompleta. Khera, Simon y Ross describieron el riesgo clínico del sesgo de automatización: aceptar la sugerencia y pasar por alto el error que habrías visto solo. En mamografías, cuando la marca estaba mal, el acierto de quien leía caía. El chat tiene el mismo hueco, sin examen.
Tres controles antes de quedarte con el texto
- Función. ¿Le pediste ideas, una explicación o una comparación? Si le pediste que decida, ya te saliste.
- Evidencia. Si la respuesta toca una decisión, pide fuente, año y qué no puede saber. Sin página, no entra.
- Lo que falta. Horas de sueño, y si los tienes, pulso en reposo o presión. El chat no los midió. Una conversación más larga no los reemplaza.
La utilidad no sube cuando le entregas el control. Sube cuando sabes qué parte puede hacer y cuál no
Ordenar el cansancio no es explicar el cansancio
Si llevas semanas durmiendo mal, puede listar posibilidades y ayudarte a armar preguntas. No tiene tu historia, no te examina y no distingue solo entre estrés, sueño u otra causa. En RedSana ese texto sirve de agenda, no de cierre. La Medicina Integrativa mantiene la evaluación en el contexto, el síntoma y la visita. La siguiente pieza es la más incómoda: cuando la respuesta parece correcta y el error no se ve.
Referencias científicas:
1. World Health Organization. Ethics and governance of artificial intelligence for health: guidance on large multi-modal models. Geneva: WHO; 2024. ISBN 978-92-4-008475-9.
2. Khera R, Simon MA, Ross JS. Automation bias and assistive AI: risk of harm from AI-driven clinical decision support. JAMA. 2023;330(23):2255-2257. doi:10.1001/jama.2023.22557. PMID: 38112824.
3. Dratsch T, Chen X, Rezazade Mehrizi M, et al. Automation bias in mammography: the impact of artificial intelligence BI-RADS suggestions on reader performance. Radiology. 2023;307(4):e222176. doi:10.1148/radiol.222176. PMID: 37129490.
4. Lee P, Bubeck S, Petro J. Benefits, limits, and risks of GPT-4 as an AI chatbot for medicine. N Engl J Med. 2023;388(13):1233-1239. doi:10.1056/NEJMsr2214184. PMID: 36988602.
5. Goddard K, Roudsari A, Wyatt JC. Automation bias: a systematic review of frequency, effect mediators, and mitigators. J Am Med Inform Assoc. 2012;19(1):121-127. doi:10.1136/amiajnl-2011-000089. PMID: 21685142.