Mariana Ferrarelli, una de las referentes argentinas más destacadas en inteligencia artificial y educación, lidera el programa de IA en Educación de la Universidad de San Andrés, donde dicta el seminario “alfabetismos posdigitales”. También imparte cátedra sobre educación y tecnologías en la Universidad Isalud y en la Universidad Nacional de Rosario (UNR), entre otras instituciones académicas.
Acaba de lanzar el libro Inteligencia artificial en la educación y el trabajo, publicado por Grupo Magro. En esta obra compiló los análisis de expertos de múltiples sectores –entre ellos Alejandro Artopoulos, Rebeca Anijovich, Graciela Cappelletti, Pedro Ravela, Julio Alonso, Martín Gendler, Natalia Corvalán, Sebastián Adúriz, Yamila Goldenstein Jalif y Cecilia Cancio– para explorar los “mestizajes” entre humanos e IA tanto en el ámbito educativo como en áreas laborales como la salud, el periodismo y el derecho.
–El libro aborda los “mestizajes humano-máquina”. ¿Cree que esa convivencia alcanzará todos los aspectos de la vida social o deberían preservarse instancias exclusivamente humanas, como el aula?
–Desde su concepción, el libro buscó construir una mirada crítica sobre la inteligencia artificial sin caer en posiciones tecnofóbicas. Hoy predominan dos extremos: por un lado, el “rechazo absoluto” de la tecnología; por otro, una “visión solucionista” que supone que la IA va a resolver todos nuestros problemas. Me interesa proponer un cambio de perspectiva: pasar del “humano en el bucle” a la “IA en el bucle”. La expresión habitual sugiere que la IA hace el trabajo y que las personas solo supervisan algunos pasos. Yo prefiero pensarlo al revés: primero existe un flujo de trabajo humano, con objetivos y sentido humanos, y después decidimos en qué etapas la IA puede aportar valor. La idea de los mestizajes apunta a pensarnos en lógicas híbridas con las máquinas. No como algo inevitable, sino como una forma de construir vínculos más reflexivos con la tecnología. Me interesa una relación que vaya más allá del “esquema transaccional” de “le pido algo a un chatbot y me lo devuelve”. La pregunta es qué queremos hacer nosotros y en qué medida la IA puede ampliar nuestro pensamiento, nuestro desempeño o nuestros procesos de trabajo. Esto se vincula con el enfoque posdigital, que no plantea que haya algo después de lo digital, sino que reconoce que la vida física y la vida online están completamente entrelazadas. Ahora bien, eso no significa renunciar a los espacios de encuentro humano. Al contrario: creo que la escuela y la universidad conservan un valor fundamental como espacios de comunidad. Hay algo en el vínculo con los estudiantes, con los colegas, con los materiales y con el conocimiento que sigue siendo profundamente humano. Por eso me interesa la idea de la fricción. El aula es uno de los pocos espacios donde no podemos escondernos detrás de un avatar ni apagar la cámara. Estamos frente a otras personas. Esa experiencia tiene un valor enorme en una época en la que muchos sistemas digitales buscan la comodidad permanente y la validación constante. Diseñar esa fricción se vuelve un objetivo pedagógico. No se trata de hacer las cosas más lentas o más difíciles porque sí, sino de ofrecer experiencias que promuevan otras formas de relacionarnos con el conocimiento, con el mundo y con los demás. En un contexto donde cada vez más interacciones ocurren mediadas por pantallas y algoritmos, la escuela recupera una función muy valiosa como espacio de encuentro y convivencia con la diferencia.
–Algunas investigaciones indican que la interacción constante en entornos digitales personalizados puede afectar la autorregulación, incluida la tolerancia a la frustración y a la diferencia. ¿Puede la escuela ser el espacio para reencontrar esa “incomodidad”?
–Si observamos algunos de los episodios recientes de violencia que aparecen en las escuelas, vemos que se inscriben en un clima más amplio de intolerancia a la diferencia. Históricamente, la escuela fue uno de los espacios donde personas de distintos orígenes sociales convivían y se encontraban cotidianamente. En mi experiencia, la escuela pública era un lugar donde compartían aula chicos de realidades muy diversas. Por distintos procesos sociales, tanto locales como globales, esa experiencia de encuentro se fue debilitando. Y a eso se suma una capa digital cuyos efectos sobre el mundo físico son innegables. Todavía pareciera que tenemos que discutir si lo digital es real, cuando vemos problemas de salud mental, ansiedad o trastornos alimentarios asociados a dinámicas que también están mediadas por algoritmos. La omnipresencia de estos sistemas en la vida cotidiana nos obliga a pensar seriamente cómo afectan nuestras formas de vincularnos con los demás.
–¿Una alfabetización crítica en IA debería ayudar a los estudiantes a desarmar la “antropomorfización” que tendemos a hacer de estas herramientas, por ejemplo cuando “conversamos” con ChatGPT o Claude como si fueran personas?
–La tendencia a antropomorfizar no es exclusiva de la inteligencia artificial. Los seres humanos antropomorfizamos mascotas, plantas, autos. Es algo bastante natural. La diferencia es que, en el caso de la IA, esa tendencia está estimulada desde el propio diseño de las herramientas. Por eso hablo de una “antropomorfización por diseño”. Si tenemos un chatbot que habla en primera persona, nos saluda, nos pide disculpas y parece mantener una conversación humana, se vuelve mucho más fácil olvidar que detrás de esas palabras hay algoritmos, matemática y silicio. Esa lógica conversacional puede llegar incluso a manipular al usuario y generar confusión, especialmente entre los jóvenes o las personas mayores. Frente a eso, la alfabetización en inteligencia artificial es fundamental. Necesitamos que las personas comprendan cómo funcionan estas herramientas, cuáles son sus límites y cuáles son sus riesgos. Ya existen iniciativas en esa dirección en varios países, incluyendo Argentina: existe el programa PaideIA a nivel nacional, la Ciudad de Buenos Aires también tiene sus guías y sus lineamientos, al igual que otras provincias. Pero sería ingenuo pensar que la solución pasa únicamente por educar a los usuarios. También tenemos que cuestionar el diseño de las plataformas. No alcanza con enseñarles a las personas que no deben creer que un chatbot es su amigo; también hay que preguntarse por qué estamos diseñando sistemas que hablan de esa manera y que adoptan tonos excesivamente aduladores. La responsabilidad debe ser compartida. Del mismo modo que enseñamos a un niño a no acercarse a una pileta, también exigimos que esa pileta tenga un cerco, iluminación y medidas de seguridad. Con la inteligencia artificial ocurre algo parecido: necesitamos alfabetización ciudadana, pero también mejores diseños y regulaciones que reduzcan los riesgos desde el origen.
–En el libro plantea que la “escritura híbrida” será la norma (o ya lo es). ¿Hay que cambiar la forma de enseñar a escribir? ¿Deberíamos preparar a los chicos para ser “diseñadores de textos” y no solo escritores?
–Primero quiero aclarar que no soy especialista en didáctica de la escritura. Hablo desde mi experiencia como escritora y docente. La idea de que podríamos convertirnos en diseñadores de escritura proviene del filósofo italiano Luciano Floridi. Él se pregunta si, del mismo modo que en la arquitectura, la música o la moda existe una separación entre quien diseña y quien ejecuta, algo similar podría ocurrir con la escritura. Es una hipótesis interesante. Sin embargo, creo que las herramientas actuales de IA todavía tienden más a homogeneizar que a potenciar las voces singulares que uno busca expresar en un texto. Floridi utiliza el concepto de dataprint para referirse a esos rasgos característicos de la escritura producida con máquinas: estructuras repetitivas y patrones que terminan volviéndose reconocibles, como las tríadas. Son marcas que muchas veces empobrecen la experiencia de lectura. Este enfoque me llevó a pensar en lo que llamo el “síndrome de la página en negro”. Durante mucho tiempo nos preocupó la página en blanco; hoy el problema es casi el contrario. Nos encontramos con páginas y páginas de texto generadas con facilidad, pero que a menudo repiten ideas, no aportan información nueva y terminan produciendo sobrecarga cognitiva. Creo que la enseñanza de la escritura cambia porque cambió el contexto. El objetivo de ayudar a los estudiantes a encontrar una voz propia se vuelve más importante que nunca. La irrupción de la IA nos obliga a preguntarnos cómo escribimos cuando todavía no interviene ninguna herramienta, qué rasgos hacen reconocible nuestra escritura y qué queremos decir realmente. La IA incluso nos vuelve más conscientes de nuestros propios estilos. En mi caso, por ejemplo, me hizo notar que utilizaba la raya con frecuencia. Ahora la dejé, porque es una marca típica de los textos hechos con IA, y uso los paréntesis. Todo el tiempo aparece la sospecha de que un texto pudo haber sido generado por una máquina. Por eso vuelvo a la idea de la IA en el bucle. El sentido sigue siendo humano. Somos nosotros quienes definimos qué queremos decir, qué preguntas nos hacemos y por dónde queremos empezar. Una vez que ese trabajo está hecho, la IA puede ayudar. Pero el punto de partida sigue siendo una búsqueda humana. Pienso que los talleres de escritura y también los talleres de tesis en las universidades tienen que ir en esa dirección. Hay una fricción que debemos diseñar pedagógicamente: ayudar a los estudiantes a construir una voz propia antes de delegar parte del proceso en la tecnología.
–Suele plantearse la cuestión de la honestidad intelectual. ¿Una forma de abordar esto es empezar a “blanquear” de modo explícito el uso de la IA, tanto entre estudiantes como entre docentes?
–Creo que transparentar el uso de la IA es parte del compromiso ético que asumimos como docentes. Los primeros que tenemos que hacerlo somos nosotros, para después poder pedirles lo mismo a nuestros estudiantes. Es una práctica pedagógica valiosa, porque permite mostrar cómo utilizamos estas herramientas y con qué criterios las integramos en nuestro trabajo. De todos modos, me parece que el uso de IA será cada vez más habitual. La discusión probablemente deje de centrarse en si se utilizó o no una herramienta y pase a enfocarse en cómo se la utilizó, para qué y con qué propósito. Creo que estamos avanzando hacia un escenario en el que cada vez será más común declarar el no uso de IA antes que el uso.
–En el libro menciona, entre otras propuestas concretas para el aula, la del “gemelo generativo”. ¿Podría explicar cómo funciona?
–La idea del gemelo generativo es una herramienta para el aula y también una forma distinta de pensar la relación con la inteligencia artificial. A diferencia de los chatbots tradicionales, donde el estudiante hace una pregunta y recibe una respuesta, el gemelo generativo funciona como un asistente que formula preguntas, ofrece sugerencias y acompaña procesos de reflexión. Lo que propongo es pasar de un uso transaccional de la IA a una lógica de acoplamiento. En lugar de pedir contenido para copiar y pegar, incorporamos la herramienta a un proceso de trabajo diseñado por los docentes. Para eso configuramos un chatbot con materiales, ejemplos e instrucciones específicas para que cumpla un determinado rol pedagógico, generalmente el de asistente docente. La diferencia es que el estudiante ya no recibe respuestas cerradas, sino preguntas y alternativas que lo obligan a tomar posición frente a lo que la IA le devuelve. Tiene que evaluar, interpretar y decidir. En cierto modo, invertimos la lógica habitual: no es el estudiante quien “promptea” a la IA, sino la IA la que interpela al estudiante. Junto con Natalia Corvalán desarrollamos una experiencia de este tipo con estudiantes de profesorado que debían diseñar consignas didácticas. Como no podíamos acompañar simultáneamente a todos los grupos, les ofrecimos de manera optativa un gemelo generativo que les hacía preguntas y les brindaba sugerencias sobre sus propuestas. Lo interesante fue que muchos advirtieron que estaban formulando mal el problema, que les faltaba información o que no estaban expresando con claridad lo que querían hacer. La IA funcionó como una capa adicional de acompañamiento y ayudó a promover un razonamiento más activo que el que suele generar un chatbot convencional.
–En este momento, ¿qué habilidades cree que debería desarrollar el sistema educativo en los estudiantes?
–Cuando una herramienta de IA generativa nos entrega un contenido, eso no equivale automáticamente a información ni mucho menos a conocimiento. Lo primero que tenemos que hacer es verificarlo, revisar las fuentes, detectar posibles alucinaciones y evaluar críticamente lo que estamos recibiendo. En ese contexto adquieren más relevancia habilidades que antes quizás dábamos por sentadas: verificar información, contrastar evidencias, evaluar contenidos y reflexionar sobre qué tareas queremos delegar en la máquina y cuáles queremos conservar bajo control humano. Algo similar ocurre con la IA predictiva, esa que está presente en nuestros dispositivos a través de notificaciones, recomendaciones y estímulos permanentes. Allí aparece una habilidad fundamental que es la intencionalidad cognitiva: la capacidad de decidir conscientemente dónde queremos poner la atención. Concentrarse implica tomar decisiones concretas, como silenciar el celular, reducir la conectividad o elegir leer un libro en papel. Al mismo tiempo, la IA ofrece oportunidades muy valiosas para enriquecer la enseñanza. Puede ayudar a diversificar propuestas, adaptar materiales y generar distintos formatos para favorecer el aprendizaje. Transformar un texto en audio, imagen o video, por ejemplo, abre posibilidades interesantes para muchos estudiantes. La clave es comprender que la IA puede aportar datos y recursos, pero que el sentido sigue siendo humano. Me interesa la idea del storytelling: somos nosotros quienes definimos qué historia queremos contar, cómo queremos plantear una clase y qué experiencia de aprendizaje buscamos construir. Después la IA puede colaborar de múltiples maneras. Estamos cada vez más hibridados con estas tecnologías, pero seguimos siendo nosotros quienes conducimos el barco.
Fuente: Infobae