Delimitar
¿Necesito IA para esto?Decidir qué automatizamos, qué amplificamos, qué supervisamos, qué reservamos a la persona y dónde no usamos IA.
Poder usar IA no significa tener que usarla.TALLER: AQUÍ NO ENTRA LA IA
Inteligencia Indócil: pensar con inteligencia artificial sin dejar que piense por nosotrosPOR ROB HERNÁNDEZ
¿y si terminamos pensando como ella?
Pensar con inteligencia artificial, sin dejar que piense por nosotros.
Las máquinas están aprendiendo a pensar como nosotros. El reto es que nosotros no terminemos pensando como las máquinas.
¿Cuándo fue la última vez que escribiste un correo importante sin ayuda de la IA?
A Rob le pasó al revés. Después de años enseñando el uso ético de la IA, dejó de escribir por su cuenta hasta los correos más sencillos. Un día, sin la herramienta, se sentó a redactar uno… y se quedó en blanco. Ahí cambió la pregunta:
de «¿qué puedo hacer con la IA?» a «¿qué está haciendo la IA conmigo?»
in·dó·cil
ADJ. · DEL LATÍN INDOCILIS
Que no se deja conducir con facilidad. Que no obedece de manera automática.
aquí: que no se deja predecir.
Pensar con inteligencia artificial, sin dejar que piense por nosotros.
Frente a máquinas diseñadas para predecir y plataformas que tienden a estandarizar comportamientos, la propuesta es cultivar una inteligencia humana difícil de predecir: capaz de desviarse, contradecir, mezclar disciplinas y buscar lo improbable. La IA no sustituye esa inteligencia: la provoca, la confronta y la amplifica.
Toca cada parte subrayada para desarmarla.
Inteligencia Indócil es un marco conceptual, ético y pedagógico de alfabetización crítica y creativa en inteligencia artificial orientado a preservar y ampliar la agencia humana mediante la comprensión de los sistemas algorítmicos, el pensamiento crítico, la introducción deliberada de fricción cognitiva, la exploración divergente, la supervisión humana significativa y la apropiación consciente de los resultados generados mediante IA.
No es una herramienta ni una técnica: es una manera de entender la relación con la IA (conceptual), con valores explícitos (ético) y con una forma de enseñarla y entrenarla (pedagógico).
Va más allá de saber usar la IA. Suma la capacidad de cuestionarla y la de usarla para imaginar lo que no es evidente.
Es el propósito de todo el marco: que la persona conserve el control significativo de sus acciones y decisiones. Delegar tareas sin delegar propósitos; automatizar procesos sin automatizar la responsabilidad.
VER «DECIDO» →Entender lo suficiente para usar la IA conscientemente: que trabaja con patrones derivados de datos y que una respuesta plausible no es necesariamente verdadera.
VER «COMPRENDO» →No confundir coherencia con verdad, probabilidad con certeza ni fluidez con evidencia.
VER «CUESTIONO» →Introducir pausas a propósito antes de aceptar un resultado. Es menos cómodo, pero recupera el pensamiento propio.
PROBAR LA DEMO DE FRICCIÓN →Salir de la respuesta más probable: mezclar disciplinas, cambiar de perspectiva y multiplicar opciones antes de elegir.
VER LAS 8 PRÁCTICAS →No basta con poner a alguien al final a dar clic en «aceptar». Human in the Loop requiere Human with Agency: poder detener, corregir y rechazar.
VER «INTERVENGO» →Reintroducir tu experiencia, contexto y criterio en lo que produjo la IA, y hacerte responsable del resultado. La IA genera; el humano significa.
VER «DESAUTOMATIZAR» →El marco no está en contra de automatizar: propone usar la IA para lo repetitivo y decidir qué hacemos, humanamente, con el tiempo y la capacidad que recuperamos.
La distinción fundamental no es humano contra máquina, sino delegación consciente contra delegación automática.
Tarea 1 de 8 · ¿Qué harías con la IA aquí?
Lo importante no es acertar: es haberlo decidido tú.
Así funciona la regla de la descarga cognitiva consciente: automatizar acciones, amplificar capacidades y no abdicar del criterio.
El marco se organiza como un ciclo. Cada paso es una capacidad humana que la IA puede provocar, confrontar y amplificar, pero no sustituir. Toca cada paso.
¿Qué necesito comprender de esta tecnología para usarla conscientemente?
Reconocer que los modelos trabajan con patrones derivados de datos, que pueden equivocarse y tener sesgos, y que el diseño y el contexto condicionan lo que producen.
¿Qué podría estar equivocado, ausente o asumido en esta respuesta?
No confundir coherencia con verdad, probabilidad con certeza ni fluidez con evidencia. Verificar, contrastar y formular argumentos alternativos.
¿Qué más podría existir?
Salir del resultado más probable: mezclar disciplinas, cambiar de perspectiva y ampliar el espacio de posibilidades antes de elegir.
¿Dónde puedo intervenir y qué puedo cambiar realmente?
Human in the Loop no es poner a alguien al final a dar clic en «aceptar». Requiere capacidad real de detener, corregir, contextualizar y rechazar. Human in the Loop requiere Human with Agency.
¿Estoy usando la IA para ampliar mi capacidad de actuar, o dejando que decida por mí?
Delegar tareas sin delegar propósitos. Automatizar procesos sin automatizar la responsabilidad. Pedir recomendaciones sin entregar la decisión.
Los modelos son muy buenos encontrando el patrón más probable. Estas prácticas te ayudan a salir de él. Toca cada carta para voltearla.
Decidir qué automatizamos, qué amplificamos, qué supervisamos, qué reservamos a la persona y dónde no usamos IA.
Poder usar IA no significa tener que usarla.TALLER: AQUÍ NO ENTRA LA IABuscar contraargumentos, evidencia contraria, errores, excepciones y explicaciones alternativas.
Úsala para encontrar razones para cuestionarte.TALLER: NO LE CREAS A LA IACruzar disciplinas, culturas, métodos, lenguajes y épocas para generar conexiones que un solo dominio no daría.
Las ideas nuevas aparecen entre territorios.TALLER: LABORATORIO BASTARDOInvertir objetivos, supuestos y restricciones para revelar lo que la formulación original ocultaba.
Cuando una pregunta deja de dar ideas, inviértela.TALLER: LA PREGUNTA EQUIVOCADAMover el punto de observación: otra persona, comunidad, disciplina o contexto. Simular una perspectiva no sustituye escuchar a las personas reales.
Cambiar de perspectiva cambia el problema.TALLER: LA SILLA QUE FALTAIntroducir cuestiones éticas, sociales y de poder que una discusión puramente técnica o de eficiencia puede omitir.
Hacen falta humanos que hagan preguntas incómodas.TALLER: LA PREGUNTA INCÓMODANo buscar demasiado pronto «la mejor respuesta». Primero ampliar el espacio de posibilidades; después, aplicar criterio.
Primero posibilidades. Después criterio.TALLER: PROHIBIDO ENCONTRAR LA MEJOR RESPUESTAReintroducir experiencia, contexto, lenguaje y responsabilidad propios en lo que se produjo con IA.
La IA genera. El humano significa.TALLER: LA HUELLA HUMANAEscribe una pregunta que normalmente le harías a la IA:
Inteligencia Indócil no persigue una experiencia de IA siempre más rápida y fluida. A veces, detenerse, contradecir o verificar es exactamente lo deseable. Pruébalo:
Escribe una cosa que podría estar equivocada, ausente o asumida en esta respuesta.
Acabas de vivir una cognitive forcing function: una pausa que obliga a pensar antes de aceptar una recomendación.
Buçinca, Malaya y Gajos (2021) mostraron que este tipo de intervenciones puede reducir la sobredependencia de las recomendaciones de la IA. Fíjate en lo marcado en rojo: una fuente que no se nombra, una promesa absoluta y una conclusión que no se sigue. Coherencia no es verdad, probabilidad no es certeza, fluidez no es evidencia.
Reconoce que la IA influye en el pensamiento y las decisiones humanas, establece la supervisión y decisión humanas como principio y pide que la educación en IA incluya pensamiento crítico y creativo, alfabetización mediática y formación ética.
Lo que toma el marco: no basta con sistemas más responsables; hacen falta personas capaces de comprenderlos, cuestionarlos y decidir cómo relacionarse con ellos.
Doce competencias en cuatro dimensiones (mentalidad centrada en el ser humano, ética, técnicas y aplicaciones, diseño de sistemas) con una progresión de comprender, aplicar y crear.
Lo que toma el marco: el juicio crítico sobre las soluciones de IA y la idea de formar usuarios y cocreadores responsables.
Definen la alfabetización en IA como las competencias para evaluar críticamente estas tecnologías, colaborar con ellas y usarlas en distintos contextos.
Lo que toma el marco: no necesitas ser especialista en aprendizaje automático, pero sí entender que los modelos trabajan con patrones, que una respuesta plausible no es necesariamente verdadera y que el diseño condiciona los resultados.
Usar recursos externos para reducir la carga mental de una tarea es algo que los humanos siempre hemos hecho, y no es negativo en sí mismo.
Lo que toma el marco: la pregunta clave es qué conviene descargar y qué capacidades necesitamos seguir ejercitando. Puedes delegar la transcripción sin delegar la escucha.
Las intervenciones que obligan a involucrarse analíticamente antes de aceptar una recomendación pueden reducir la sobredependencia de la IA.
Lo que toma el marco: introducir fricción a propósito es una estrategia para recuperar pensamiento humano, aunque la interacción sea menos cómoda.
Un marco voluntario para incorporar confiabilidad y gestión de riesgos en todo el ciclo de vida de los sistemas de IA.
Lo que toma el marco: llevar esa lógica al aula y a la vida diaria. Antes de automatizar, se delimita; antes de aceptar, se cuestiona; antes de decidir, se evalúan consecuencias.
Inteligencia Indócil no sustituye los marcos de ética de la IA: los traduce en comportamientos de las personas.
| Agencia y autonomía humana | La persona decide cuándo, cómo y para qué usar IA. |
| Supervisión humana | La persona puede intervenir, modificar y rechazar resultados. |
| Transparencia y explicabilidad | La persona comprende lo suficiente para cuestionar el sistema. |
| Responsabilidad | La decisión final no se atribuye a «la IA». |
| Equidad y no discriminación | Se buscan perspectivas, ausencias, sesgos e impactos diferenciados. |
| Privacidad | Se delimita qué información puede entregarse al sistema. |
| Alfabetización | Se comprenden funcionamiento, capacidades y limitaciones. |
| Seguridad | Se evalúan consecuencias y riesgos antes de automatizar. |
| Diversidad y pluralismo | Se buscan deliberadamente soluciones alternativas. |
| Bienestar humano | La eficiencia queda subordinada a finalidades humanas. |
Las ocho prácticas se combinan según el contexto y la capacidad que se quiera desarrollar. ¿Desde dónde llegas?
Para la vida cotidiana, la creatividad y las decisiones propias.
Identificar qué generó la IA y qué verificaste, quitaste, cambiaste, añadiste y decidiste tú.
Formatos: conferencia, taller presencial y taller en línea.
Empieza por el diagnósticoPara escuelas, universidades y formación docente.
Un ejercicio de verificación que convierte cada respuesta en un objeto de análisis.
Formatos: conferencia, taller presencial y taller en línea.
Empieza por el diagnósticoPara empresas, equipos e instituciones.
Un semáforo de IA para el equipo, con criterios de riesgo, privacidad e impacto.
Formatos: conferencia, taller presencial y taller en línea.
Empieza por el diagnósticoPara comunidades, políticas públicas y la construcción de futuros.
Una dinámica participativa para evaluar el impacto ético antes de decidir.
Formatos: conferencia, taller presencial y taller en línea.
Empieza por el diagnósticoDiez afirmaciones, dos minutos. Al final recibes tu perfil en las cinco áreas y la práctica que más te conviene trabajar.
El prompt engineering pregunta qué instrucciones dar para obtener el resultado que quieres. Inteligencia Indócil añade otras:
Rob Hernández
Especialista en ética de la inteligencia artificial, facilitador y consultor en Guadalajara. Fundador de EnterLab MX. Creador de Inteligencia Indócil, que comparte en conferencias, talleres y columnas de opinión.
Buçinca, Z., Malaya, M. B., y Gajos, K. Z. (2021). To trust or to think: Cognitive forcing functions can reduce overreliance on AI in AI-assisted decision-making. Proc. ACM HCI, 5(CSCW1), 188.
Costanza-Chock, S. (2020). Design justice. The MIT Press.
de Bono, E. (1970). Lateral thinking: Creativity step by step. Harper & Row.
Eberle, R. F. (1972). Developing imagination through SCAMPER. The Journal of Creative Behavior, 6(3), 199–203.
Long, D., y Magerko, B. (2020). What is AI literacy? Competencies and design considerations. CHI 2020, 1–16.
Miao, F., Shiohira, K., y Lao, N. (2024). AI competency framework for students. UNESCO.
Risko, E. F., y Gilbert, S. J. (2016). Cognitive offloading. Trends in Cognitive Sciences, 20(9), 676–688.
Tabassi, E. (2023). AI Risk Management Framework (AI RMF 1.0). NIST.
UNESCO. (2021). Recomendación sobre la ética de la inteligencia artificial.