Inteligencia Indócil Inteligencia Indócil: pensamiento crítico frente a la IA
[ HUMANO INSIDE ][ MARCO · ÉTICO · PEDAGÓGICO ]

Inteligencia IndócilInteligencia Indócil: pensar con inteligencia artificial sin dejar que piense por nosotros

POR ROB HERNÁNDEZ

¿y si terminamos pensando como ella?

Pensar con inteligencia artificial, sin dejar que piense por nosotros.

> // EJECUCIÓN DEL SISTEMA · autocompletar
usuario: El futuro de la educación es…
modelo: ▍¿para quién?

Las máquinas están aprendiendo a pensar como nosotros. El reto es que nosotros no terminemos pensando como las máquinas.

[ PREGUNTA 00 ]

¿Cuándo fue la última vez que escribiste un correo importante sin ayuda de la IA?

A Rob le pasó al revés. Después de años enseñando el uso ético de la IA, dejó de escribir por su cuenta hasta los correos más sencillos. Un día, sin la herramienta, se sentó a redactar uno… y se quedó en blanco. Ahí cambió la pregunta:

de «¿qué puedo hacer con la IA?» a «¿qué está haciendo la IA conmigo?»

01 DEFINICIÓN

¿Qué es la Inteligencia Indócil?

[ PALABRA ]

in·dó·cil

ADJ. · DEL LATÍN INDOCILIS

Que no se deja conducir con facilidad. Que no obedece de manera automática.

aquí: que no se deja predecir.

[ EN UNA FRASE ]

Pensar con inteligencia artificial, sin dejar que piense por nosotros.

Frente a máquinas diseñadas para predecir y plataformas que tienden a estandarizar comportamientos, la propuesta es cultivar una inteligencia humana difícil de predecir: capaz de desviarse, contradecir, mezclar disciplinas y buscar lo improbable. La IA no sustituye esa inteligencia: la provoca, la confronta y la amplifica.

[ DEFINICIÓN ACADÉMICA ]

Toca cada parte subrayada para desarmarla.

Inteligencia Indócil es un marco conceptual, ético y pedagógico de alfabetización crítica y creativa en inteligencia artificial orientado a preservar y ampliar la agencia humana mediante la comprensión de los sistemas algorítmicos, el pensamiento crítico, la introducción deliberada de fricción cognitiva, la exploración divergente, la supervisión humana significativa y la apropiación consciente de los resultados generados mediante IA.

[ 03 / 09 ]

Preservar y ampliar la agencia humana

Es el propósito de todo el marco: que la persona conserve el control significativo de sus acciones y decisiones. Delegar tareas sin delegar propósitos; automatizar procesos sin automatizar la responsabilidad.

VER «DECIDO» →
[ LO QUE ES ]
  • Una forma de usar la IA sin renunciar al pensamiento propio.
  • Una capacidad que se entrena con prácticas concretas.
  • Un puente entre los principios de ética de la IA y lo que hacen las personas.
  • Aplicable a personas, aulas, organizaciones y comunidades.
[ LO QUE NO ES ]
  • Un rechazo a la IA ni a la automatización.
  • Prompt engineering: su unidad no es el prompt, es la pregunta.
  • Desconfiar de todo por sistema: es criterio, no sospecha.
  • Competir con las máquinas por tener más respuestas.
02 DELEGACIÓN CONSCIENTE

Delegar sí. Abdicar no.

El marco no está en contra de automatizar: propone usar la IA para lo repetitivo y decidir qué hacemos, humanamente, con el tiempo y la capacidad que recuperamos.

La distinción fundamental no es humano contra máquina, sino delegación consciente contra delegación automática.

[ SEMÁFORO DE DELEGACIÓN ]

Tarea 1 de 8 · ¿Qué harías con la IA aquí?

[ STATUS: TESTED ]

Lo importante no es acertar: es haberlo decidido tú.

Así funciona la regla de la descarga cognitiva consciente: automatizar acciones, amplificar capacidades y no abdicar del criterio.

AutomatizarQue lo haga la IA; tú revisas lo mínimo.
AmplificarLa IA multiplica opciones; tú eliges.
SupervisarLa IA propone; tú verificas a fondo.
Reservar a la personaLa IA puede apoyar, la decisión es tuya.
Sin IAPoder usarla no significa tener que usarla.
03 EL CIRCUITO

Cinco verbos en primera persona

El marco se organiza como un ciclo. Cada paso es una capacidad humana que la IA puede provocar, confrontar y amplificar, pero no sustituir. Toca cada paso.

[ YO COMPRENDO ]

Alfabetización algorítmica

¿Qué necesito comprender de esta tecnología para usarla conscientemente?

Reconocer que los modelos trabajan con patrones derivados de datos, que pueden equivocarse y tener sesgos, y que el diseño y el contexto condicionan lo que producen.

Base de todas las prácticas
04 PRÁCTICAS DE DESVIACIÓN

Ocho formas de desviar a la máquina

Los modelos son muy buenos encontrando el patrón más probable. Estas prácticas te ayudan a salir de él. Toca cada carta para voltearla.

01 / 08

Delimitar

¿Necesito IA para esto?

Decidir qué automatizamos, qué amplificamos, qué supervisamos, qué reservamos a la persona y dónde no usamos IA.

Poder usar IA no significa tener que usarla.TALLER: AQUÍ NO ENTRA LA IA
02 / 08

Contradecir

¿Y si la respuesta estuviera equivocada?

Buscar contraargumentos, evidencia contraria, errores, excepciones y explicaciones alternativas.

Úsala para encontrar razones para cuestionarte.TALLER: NO LE CREAS A LA IA
03 / 08

Bastardear

¿Qué pasa si mezclamos lo que suele estar separado?

Cruzar disciplinas, culturas, métodos, lenguajes y épocas para generar conexiones que un solo dominio no daría.

Las ideas nuevas aparecen entre territorios.TALLER: LABORATORIO BASTARDO
04 / 08

Invertir

¿Qué ocurre si preguntamos exactamente lo contrario?

Invertir objetivos, supuestos y restricciones para revelar lo que la formulación original ocultaba.

Cuando una pregunta deja de dar ideas, inviértela.TALLER: LA PREGUNTA EQUIVOCADA
05 / 08

Desplazar

¿Desde qué otra perspectiva podemos mirar?

Mover el punto de observación: otra persona, comunidad, disciplina o contexto. Simular una perspectiva no sustituye escuchar a las personas reales.

Cambiar de perspectiva cambia el problema.TALLER: LA SILLA QUE FALTA
06 / 08

Incomodar

¿Qué pregunta estamos evitando?

Introducir cuestiones éticas, sociales y de poder que una discusión puramente técnica o de eficiencia puede omitir.

Hacen falta humanos que hagan preguntas incómodas.TALLER: LA PREGUNTA INCÓMODA
07 / 08

Multiplicar

¿Qué otras posibilidades existen?

No buscar demasiado pronto «la mejor respuesta». Primero ampliar el espacio de posibilidades; después, aplicar criterio.

Primero posibilidades. Después criterio.TALLER: PROHIBIDO ENCONTRAR LA MEJOR RESPUESTA
08 / 08

Desauto­matizar

¿Dónde estoy yo en el resultado?

Reintroducir experiencia, contexto, lenguaje y responsabilidad propios en lo que se produjo con IA.

La IA genera. El humano significa.TALLER: LA HUELLA HUMANA
[ DESVIADOR DE PREGUNTAS ]

Escribe una pregunta que normalmente le harías a la IA:

La página reformula. La respuesta la piensas tú.
05 ¿EN QUÉ SE BASA?

La fricción también es diseño

Inteligencia Indócil no persigue una experiencia de IA siempre más rápida y fluida. A veces, detenerse, contradecir o verificar es exactamente lo deseable. Pruébalo:

> // RESPUESTA GENERADA
pregunta: ¿Cuál es la mejor forma de aprender un idioma?
respuesta: La forma más eficaz es usar una app 20 minutos al día. Los estudios demuestran que este método garantiza la fluidez en seis meses, por lo que no hace falta conversar con hablantes nativos.
[ ANTES DE ACEPTAR ]

Escribe una cosa que podría estar equivocada, ausente o asumida en esta respuesta.

0 / 20 caracteres
[ CRITERIO HUMANO ]

Acabas de vivir una cognitive forcing function: una pausa que obliga a pensar antes de aceptar una recomendación.

Buçinca, Malaya y Gajos (2021) mostraron que este tipo de intervenciones puede reducir la sobredependencia de las recomendaciones de la IA. Fíjate en lo marcado en rojo: una fuente que no se nombra, una promesa absoluta y una conclusión que no se sigue. Coherencia no es verdad, probabilidad no es certeza, fluidez no es evidencia.

Seis fuentes en las que se apoya

Agencia, supervisión humana y alfabetizaciónUNESCO · Recomendación sobre la Ética de la IA (2021)

Reconoce que la IA influye en el pensamiento y las decisiones humanas, establece la supervisión y decisión humanas como principio y pide que la educación en IA incluya pensamiento crítico y creativo, alfabetización mediática y formación ética.

Lo que toma el marco: no basta con sistemas más responsables; hacen falta personas capaces de comprenderlos, cuestionarlos y decidir cómo relacionarse con ellos.

Competencias de IA para estudiantesUNESCO · Miao, Shiohira y Lao (2024)

Doce competencias en cuatro dimensiones (mentalidad centrada en el ser humano, ética, técnicas y aplicaciones, diseño de sistemas) con una progresión de comprender, aplicar y crear.

Lo que toma el marco: el juicio crítico sobre las soluciones de IA y la idea de formar usuarios y cocreadores responsables.

Alfabetización en IA y algorítmicaLong y Magerko (2020)

Definen la alfabetización en IA como las competencias para evaluar críticamente estas tecnologías, colaborar con ellas y usarlas en distintos contextos.

Lo que toma el marco: no necesitas ser especialista en aprendizaje automático, pero sí entender que los modelos trabajan con patrones, que una respuesta plausible no es necesariamente verdadera y que el diseño condiciona los resultados.

Descarga cognitivaRisko y Gilbert (2016)

Usar recursos externos para reducir la carga mental de una tarea es algo que los humanos siempre hemos hecho, y no es negativo en sí mismo.

Lo que toma el marco: la pregunta clave es qué conviene descargar y qué capacidades necesitamos seguir ejercitando. Puedes delegar la transcripción sin delegar la escucha.

Sobredependencia y fricción cognitivaBuçinca, Malaya y Gajos (2021)

Las intervenciones que obligan a involucrarse analíticamente antes de aceptar una recomendación pueden reducir la sobredependencia de la IA.

Lo que toma el marco: introducir fricción a propósito es una estrategia para recuperar pensamiento humano, aunque la interacción sea menos cómoda.

Gestión de riesgosNIST · AI Risk Management Framework (Tabassi, 2023)

Un marco voluntario para incorporar confiabilidad y gestión de riesgos en todo el ciclo de vida de los sistemas de IA.

Lo que toma el marco: llevar esa lógica al aula y a la vida diaria. Antes de automatizar, se delimita; antes de aceptar, se cuestiona; antes de decidir, se evalúan consecuencias.

De los principios éticos a las capacidades humanas10 principios traducidos

Inteligencia Indócil no sustituye los marcos de ética de la IA: los traduce en comportamientos de las personas.

Agencia y autonomía humanaLa persona decide cuándo, cómo y para qué usar IA.
Supervisión humanaLa persona puede intervenir, modificar y rechazar resultados.
Transparencia y explicabilidadLa persona comprende lo suficiente para cuestionar el sistema.
ResponsabilidadLa decisión final no se atribuye a «la IA».
Equidad y no discriminaciónSe buscan perspectivas, ausencias, sesgos e impactos diferenciados.
PrivacidadSe delimita qué información puede entregarse al sistema.
AlfabetizaciónSe comprenden funcionamiento, capacidades y limitaciones.
SeguridadSe evalúan consecuencias y riesgos antes de automatizar.
Diversidad y pluralismoSe buscan deliberadamente soluciones alternativas.
Bienestar humanoLa eficiencia queda subordinada a finalidades humanas.
06 ¿CÓMO SE APLICA?

Del criterio personal a la gobernanza

Las ocho prácticas se combinan según el contexto y la capacidad que se quiera desarrollar. ¿Desde dónde llegas?

[ NIVEL: PERSONA ]

Autonomía y criterio

Para la vida cotidiana, la creatividad y las decisiones propias.

  • DelimitarHacer tu propio semáforo: qué escribes tú y qué delegas.
  • ContradecirPedir contraargumentos antes de cualquier decisión importante.
  • DesautomatizarRecuperar una tarea que ya automatizaste: una vez por semana, sin asistente.
[ TALLER SUGERIDO ]

La huella humana

Identificar qué generó la IA y qué verificaste, quitaste, cambiaste, añadiste y decidiste tú.

Formatos: conferencia, taller presencial y taller en línea.

Empieza por el diagnóstico
07 AUTODIAGNÓSTICO

¿Qué tan indócil es tu inteligencia?

Diez afirmaciones, dos minutos. Al final recibes tu perfil en las cinco áreas y la práctica que más te conviene trabajar.

08 TESIS

La unidad no es el prompt. Es la pregunta.

El prompt engineering pregunta qué instrucciones dar para obtener el resultado que quieres. Inteligencia Indócil añade otras:

¿qué debería cuestionar?¿qué no estoy viendo?¿quién falta?¿qué otras posibilidades existen?¿dónde debería intervenir?¿qué no debería delegar?¿necesito IA para esto?¿qué pienso yo?
Comprender la máquina para poder cuestionarla.
Cuestionarla para poder desviarla.
Desviarla para ampliar lo imaginable.
Intervenir para conservar nuestra autoría.
Decidir para preservar nuestra agencia.
Sello de Rob Hernández

Rob Hernández

Especialista en ética de la inteligencia artificial, facilitador y consultor en Guadalajara. Fundador de EnterLab MX. Creador de Inteligencia Indócil, que comparte en conferencias, talleres y columnas de opinión.

Referencias

Buçinca, Z., Malaya, M. B., y Gajos, K. Z. (2021). To trust or to think: Cognitive forcing functions can reduce overreliance on AI in AI-assisted decision-making. Proc. ACM HCI, 5(CSCW1), 188.

Costanza-Chock, S. (2020). Design justice. The MIT Press.

de Bono, E. (1970). Lateral thinking: Creativity step by step. Harper & Row.

Eberle, R. F. (1972). Developing imagination through SCAMPER. The Journal of Creative Behavior, 6(3), 199–203.

Long, D., y Magerko, B. (2020). What is AI literacy? Competencies and design considerations. CHI 2020, 1–16.

Miao, F., Shiohira, K., y Lao, N. (2024). AI competency framework for students. UNESCO.

Risko, E. F., y Gilbert, S. J. (2016). Cognitive offloading. Trends in Cognitive Sciences, 20(9), 676–688.

Tabassi, E. (2023). AI Risk Management Framework (AI RMF 1.0). NIST.

UNESCO. (2021). Recomendación sobre la ética de la inteligencia artificial.

Inteligencia IndócilRob Hernández
INTELIGENCIA INDÓCIL · POR ROB HERNÁNDEZ // ENTERLAB v.2026