Modelos de incorporación de la IA a la escuela

(serie IA y educación, 2/3)

Este artículo es el segundo de una serie de tres sobre inteligencia artificial y educación. El primero, «En un mundo lleno de información, lo importante es saber hacer la pregunta», explicaba por qué la escuela debe educar en el uso de la IA en lugar de limitarse a prohibirla. Este artículo propone cómo hacerlo. El tercero tratará sobre la IA, el mundo del trabajo y los sistemas de formación y cualificación profesional.

Introducir la IA en la escuela significa cuatro cosas diferentes

En el primer artículo terminábamos diciendo que la pregunta no es si la IA debe entrar en la escuela, sino cómo y con qué criterio. Para responderla, hay que precisar de qué estamos hablando, porque «introducir la IA en la escuela» puede tener significados muy distintos, con riesgos y beneficios diferentes. Nosotros distinguimos cuatro. El criterio para separarlos es doble: quién lleva la iniciativa en el aprendizaje (la máquina, el docente o el alumno) y qué lugar ocupa la IA en el proceso (central o complementario).

1. La IA como materia de estudio. Se trata la IA como un contenido más del currículo, como la programación o la robótica. Los alumnos aprenden qué es un algoritmo, cómo funciona un modelo de lenguaje, de dónde proceden los datos con los que se entrena y por qué puede equivocarse o tener sesgos. El objetivo es la alfabetización en IA: entender la tecnología que nos rodea para no vivir en ella como simples usuarios.

Es un ámbito necesario, pero tiene un límite: saber cómo funciona la IA no cambia por sí solo cómo se enseña ni cómo se aprende. Puede acabar siendo una asignatura más, teórica, sin que el alumno llegue nunca a utilizarla con criterio.

2. La IA como tutor personalizado. Aquí la IA es la protagonista del proceso. No es una herramienta que el alumno utiliza, sino un sistema diseñado para dirigir el aprendizaje: decide qué sabe el alumno y qué todavía no domina, elige el contenido y los ejercicios siguientes, modula el ritmo e interactúa con él de forma programada. El alumno sigue un camino trazado por la máquina (y por quien la ha diseñado/programado).

Tiene ventajas reales. Se adapta al ritmo de cada alumno, ofrece práctica ilimitada y está disponible fuera del horario escolar. Como refuerzo en determinadas circunstancias, por ejemplo para recuperar un contenido o practicar procedimientos, puede ser útil, y no hay que menospreciarlo.

Pero tiene un límite que consideramos fundamental: no puede sustituir al docente. La escuela no consiste solo en transmitir contenidos a un ritmo personalizado; es relación, vínculo y ejemplo. Y hay un riesgo social que nos preocupa. Si el tutor automático se convierte en el eje de la enseñanza, el aumento de las desigualdades y las posibles políticas de «austeridad» podrían llevarnos a un escenario distópico: los alumnos de familias sin recursos tendrían una IA como docente, mientras que los de familias con recursos seguirían teniendo docentes de verdad. Una tecnología que debería reducir las desigualdades acabaría consolidándolas.

3. La IA como asistente del docente. La IA no sustituye al docente, sino que lo libera de tareas repetitivas para que pueda dedicar tiempo a aquello que solo él puede hacer: el diseño, la mentoría y la atención personal. Le ayuda de cuatro maneras:

• Diseñar situaciones de aprendizaje más ricas y retos que conecten con la realidad del alumno.
• Formular preguntas que la IA no resuelve por sí sola, algo necesario si el objetivo es que el alumno piense.
• Redactar rúbricas de evaluación competencial.
• Generar materiales con distintos niveles de complejidad, analogías y ejemplos, y encargarse de la burocracia del diseño (cronogramas, listas de materiales).

Hay un uso adicional que nos interesa especialmente: el docente puede preparar la IA que después utilizará el alumno (el segmento 4), proporcionándole instrucciones, material de referencia o un papel concreto. Con una condición: el docente revisa todo lo que la IA produce y es su autor responsable.

4. La IA como asistente del alumno. El alumno utiliza la IA como una herramienta complementaria, no central. Tiene un papel comparable al de un libro, una grabadora, una impresora 3D o un manual de instrucciones: sirve para hacer mejor aquello que el alumno ya se ha propuesto. Sin embargo, tiene una particularidad que las demás herramientas no tienen: el alumno puede repetir y reformular las peticiones (los prompts) para precisar y perfeccionar lo que busca, y también aprende durante ese proceso.

Los usos pueden ser muy diversos: contrastar datos durante una investigación, crear prototipos de código, de un diseño 3D o de una producción audiovisual en un espacio maker, o profundizar en un interés propio en la biblioteca. Hay una condición común: el alumno la utiliza para aquello que ya conoce o ha trabajado. Resumir información compleja, por ejemplo, es una buena actividad si el tema ya se ha trabajado y el alumno puede valorar el resumen. No lo es si el tema es nuevo para él, porque no podrá saber si el resumen es correcto. Este es el principio básico del uso de la IA en la escuela: solo se puede utilizar con criterio para aquello que ya se conoce.

La IA puede haber sido preparada por el docente, incluso entrenada con material del curso, pero para el alumno actúa de forma anónima, como una herramienta corriente. También puede ser interactiva: se puede programar para que hable como un autor literario, un científico, un artista o un político, por ejemplo, para simular una entrevista.

La diferencia con el segmento 2 está clara. En el tutor, la IA lleva la iniciativa y el alumno sigue el camino que le marca. Aquí es el alumno quien decide qué quiere hacer, y la herramienta no decide por él.

Por qué ponemos el acento en la IA como asistente

Los cuatro modelos tienen su lugar, pero no todos el mismo peso. En nuestra opinión, los dos modelos de asistente son los que más merecen la pena. El principio que los guía es este: no queremos que la tecnología gestione al alumno; queremos que el alumno y el docente gestionen la tecnología para llegar adonde antes no era posible.

Hay tres razones. La primera es que los modelos de asistente mantienen a cada cual en su lugar: el docente como experto que guía el proceso y el alumno como protagonista del proyecto. La segunda es que son los que pueden reforzar el pensamiento crítico, la colaboración y la comunicación, que constituyen el núcleo de un aprendizaje profundo. La tercera es que la autoría conceptual y la reflexión crítica siguen siendo humanas: la IA ayuda, pero no decide qué merece la pena hacer.

De los dos modelos de asistente, el cuarto es el que pone más responsabilidad en manos del alumno: es el único en el que él decide, prueba, se corrige y se hace responsable del resultado. Los otros modelos preparan el terreno, le quitan trabajo o lo sustituyen; este es el que le enseña a convivir con una IA que acabará encontrando en la vida adulta. Por eso creemos que es el segmento en el que hay que poner más esfuerzo educativo, y el que justifica que el alumno conozca bien los riesgos antes de utilizarla.

El tutor adaptativo no es un enemigo. Lo aceptamos como refuerzo, con tres cautelas: que el docente lo supervise y conozca su uso; que trabaje únicamente con contenidos que ya se hayan introducido en clase; y que nunca sustituya al docente ni decida qué debe aprenderse. Fuera de estos límites, se entra en el riesgo de desigualdad que hemos descrito.

Todo el planteamiento depende de una condición: la IA solo puede utilizarse con criterio para aquello que ya se conoce. Quien no sabe nada del tema no puede saber si la respuesta es buena, como decíamos en el primer artículo. Por eso, antes de poner la IA en manos del alumno, hay que enseñarle cómo falla.

Una condición previa: conocer los riesgos

No queremos dar aquí una clase sobre los riesgos de la IA ni citarlos todos, sino mencionar solo los que nos parecen más importantes. Tampoco se trata de memorizarlos: un riesgo se aprende encontrándose con él de manera controlada, con el docente al lado y sobre un tema que el alumno ya domina en cierta medida. Por eso, para cada uno mencionamos el nombre de una actividad breve que permite trabajarlo en el aula, a modo de simple sugerencia: cada docente la adaptará a su contexto.

El primer riesgo es el más evidente: respuestas falsas con apariencia de verdad. Los modelos pueden inventar datos, citas y fuentes inexistentes, y lo hacen con la misma seguridad con la que afirman cosas ciertas. No es un caso hipotético de escuela: ya ha habido abogados sancionados en Estados Unidos por presentar ante un juez sentencias inventadas por ChatGPT. Actividades como «Caza el error», «¿Existe esta fuente?» o «La pregunta trampa» ayudan al alumno a descubrirlo por sí mismo. Menos visible, pero igual de importante, es el riesgo de los sesgos: el modelo aprende de textos escritos por personas y reproduce las perspectivas dominantes, a menudo sin que se perciba. Puede reproducir sesgos de género, edad, raza u origen, nivel social y otros; una respuesta puede parecer neutral sin serlo. Comparar cómo cambia la respuesta según la formulación de la pregunta, con «Una pregunta, dos formulaciones», es una buena manera de darse cuenta.

Hay otros riesgos que afectan más a la manera de aprender que a la respuesta recibida. Uno es la complacencia: los modelos tienden a dar la razón a quien les pregunta, de modo que, si el alumno formula la pregunta con un sesgo o un error, la respuesta a menudo se lo confirma y él lo vive como una validación. «Llévale la contraria» permite verlo directamente. El otro riesgo es la dependencia. Si la IA hace la parte difícil del trabajo, el alumno no la practica, y lo que no se practica no se aprende. El peligro no es que haga trampas, sino que deje de recorrer el camino mental que debía ayudarle a aprender; por eso proponemos «Primero yo, después la IA».

Por último, hay dos riesgos que van más allá del aula. El de la privacidad: lo que se escribe en una herramienta de IA puede almacenarse y reutilizarse, por lo que no deberían introducirse datos personales, fotos de compañeros ni información familiar («El semáforo de los datos» ayuda a entenderlo). Y el de la suplantación: las imágenes, voces y vídeos falsos, pero verosímiles, están ya al alcance de cualquier adolescente; saber que existen y que uno mismo o un compañero puede sufrirlos forma parte de la alfabetización básica.

La formación del profesorado: el requisito que lo condiciona todo

Todo lo que hemos descrito presupone que el docente sabe lo que hace. Y aquí hay un problema que no se puede pasar por alto: la mayoría del profesorado todavía no tiene experiencia con una herramienta tan nueva, y no se puede pedir a nadie que guíe a los alumnos hacia un uso que él mismo no ha probado. Si el docente no ha visto cómo falla la IA en su materia, no podrá enseñar a detectarlo. Esto vale para los cuatro segmentos y, especialmente, para el cuarto.

Por eso, la formación no puede ser un curso puntual sobre el funcionamiento de una herramienta concreta, que quedaría obsoleto pronto. Debería ser práctica y continua, basada en el uso real de la IA en la materia de cada docente y en el trabajo con los compañeros del centro. Y debería empezar por lo mismo que proponemos para el alumno: probarla con un tema que se domina, descubrir errores, sesgos y complacencia, y compartir lo que ha funcionado. El principio es el mismo para el docente que para el alumno: solo se puede utilizar con criterio aquello que se conoce. Un buen punto de partida es el modelo de asistente del docente, porque puede ahorrar tiempo y, de paso, adquirir la experiencia que después necesitará en el aula.

Qué exige esto a la escuela

Nada de esto se hace solo. Requiere que los docentes tengan tiempo para diseñar estas actividades, y eso es posible precisamente si el modelo de asistente del docente les quita trabajo repetitivo. Requiere evaluar el proceso y no solo el producto final, y recuperar la expresión oral: defender ante alguien lo que se ha hecho es la forma más difícil de hacerse pasar por autor de un trabajo que no se ha entendido. Y requiere que sea una decisión del centro, con criterios compartidos, y no la iniciativa solitaria de un docente entusiasta.

Si hay una idea que queremos dejar clara, es esta: la IA no es buena ni mala en la escuela; depende de quién la gestione y de si el alumno ha aprendido a desconfiar de ella con criterio. Enseñarle a dudar de la respuesta es la mejor manera de prepararlo para cuando la utilice sin nosotros.

Francesc Colomé, Xavier Farriols, Josep Francí y Oriol Homs.