¿De qué hablamos cuándo hablamos de ChatGPT? Lo que sí puede y no puede hacer

Se lanzó a finales del año pasado, y en solo cinco días ChatGPT ya superaba el millón de usuarios, según declaraba Greg Brockman, presidente y cofundador de OpenAI, la empresa que ha desarrollado esta aplicación entrenada para conversar con humanos. Según los expertos, la aparición de este sistema de inteligencia artificial (IA) plantea un escenario en el que incluso podría sustituir a los buscadores tradicionales a medio plazo, y también podría iniciar un cambio significativo en el modelo educativo actual si se integrara de la forma adecuada en el sistema. Sin embargo, también ha habido reacciones en contra del uso de esta aplicación en las aulas.

Mientras en las escuelas de Nueva York prohibían su uso a principios de este año por considerar que puede tener un impacto negativo en el aprendizaje, gran parte del colectivo educativo cree que ese tipo de decisiones no tienen sentido. "Es normal que a corto plazo pensemos en estrategias defensivas, como prohibirlo o intentar buscar soluciones antiplagio. Sin embargo, me temo que esto solamente tiene sentido de forma temporal. El cambio de metodología es obligatorio y la educación deberá convivir con la IA del mismo modo que convive con Google o con la Wikipedia", señala Guillem García Brustenga, experto del eLearning Innovation Center (eLinC) de la Universitat Oberta de Catalunya (UOC). El experto afirma que nos encontramos ante una alteración de mucha importancia y que la situación actual comportará una transformación metodológica.

"Es nuestra responsabilidad que este cambio sirva para personalizar la experiencia de aprendizaje para cada estudiante y mejorar la eficiencia y efectividad de la educación. El reto es ilusionante para instituciones abiertas al cambio o alarmante si no lo están", afirma.

Como explica Robert Clarisó, profesor de Estudios de Informática, Multimedia y Telecomunicación de UOC y director del máster de Ingeniería Informática, ChatGPT es lo que se llama un "modelo de lenguaje", una red neuronal a la que se ha entrenado con grandes volúmenes de texto para que sea capaz de detectar patrones. Así, partiendo de un texto de entrada, busca predecir qué palabras permitirían continuar el texto. "Si el texto de entrada es una pregunta, ChatGPT propondrá una respuesta a dicha pregunta.

Este enfoque es muy flexible y permite a ChatGPT resolver muchos tipos de tareas: escribir un currículum, resumir un texto, explicar un error en un programa... Solo hay que darle a ChatGPT una descripción de la tarea que debe realizar y dejar que complete el texto", indica este experto, que añade que para usarlo únicamente hace falta registrarse en la página web de OpenAI sin coste alguno.

Sin embargo, también tiene sus limitaciones. "En el fondo, ChatGPT es un sistema que predice cómo completar frases, pero no construye un conocimiento sobre lo que está diciendo ni sabe razonar con la información de la que dispone", advierte Robert Clarisó. El error más común de ChatGPT es lo que se llama "alucinación": incorporar información a una respuesta que sea totalmente inventada. Por ejemplo, si le pedimos que escriba la biografía de una persona desconocida, ChatGPT no nos dirá que no puede hacerlo por no disponer de información. En su lugar, inventará una serie de datos biográficos para preparar su respuesta. Esto es un problema, porque la respuesta será coherente y estará bien redactada, pero contendrá información incorrecta. Por este motivo, es necesario revisar las respuestas de ChatGPT para detectar si son correctas. Además, suele cometer errores en razonamientos de tipo lógico o matemático.

De ahí que no sea un sistema infalible y que su uso pueda servir sobre todo como apoyo. Sin embargo, ese apoyo puede resultar muy útil tanto a estudiantes como a profesores. En opinión de Guillem García Brustenga, aprender no equivale a pasar un examen, "lo fundamental es que el estudiantado tenga una experiencia de aprendizaje positiva, independientemente de las herramientas que utilice. Por eso tiene más sentido pedir a los estudiantes que tengan sentido crítico y sepan preguntar y no que respondan sin más a unas preguntas, cosa que puede hacer la máquina: el estudiante puede aprender mucho relacionando, discutiendo y contrastando algo que ha generado una IA. ChatGPT y otras IA generativas están mostrándonos que saber hacer preguntas es muy importante", afirma el experto del eLinC.

Es una de las razones por las que cree que el uso de ChatGPT tendrá un impacto en la educación, ya que obligará a revisar prácticas anticuadas, como la idea de que la inteligencia y el conocimiento de una persona están determinados por la cantidad de información que conozca. "Eso pierde validez cuando puede delegarse el almacenamiento y acceso a la información a la máquina. ChatGPT forzará un cambio en la forma en que se aprende y en el momento de hacerlo, pero sobre todo en lo esencial y poco discutido: en lo que se aprende", sostiene García Brustenga.

Comparte opinión con Desirée Gómez, especialista en tendencias educativas en el eLinC de la UOC, quien cree que es un error pensar que puede frenarse el uso de una herramienta que ha venido "para revolucionar no solamente la educación, sino también el ámbito laboral e incluso doméstico. La alternativa debe pasar por entender esta tecnología como un medio que apoye al estudiante en su aprendizaje y ello debe estar fundamentado sobre dos pilares, la pedagogía y el diseño instruccional, por un lado, y el compromiso ético del estudiante, por el otro. Para ello es importante la formación del estudiantado en valores y habilidades transversales que le ayuden a comprender la magnitud de sus decisiones y acciones".

Para Desirée Gómez Cardosa, la polémica ha surgido porque las IA generativas son avances tecnológicos basados en la Inteligencia Artificial que imitan el proceso de pensamiento humano para la resolución de situaciones, "bien sea depurar una idea, escribir un ensayo o crear arte o literatura. Las personas entendemos que estas herramientas alimentadas por bases de datos ingentes imitan acciones de las que hasta ahora solamente eran capaces los seres humanos. La irrupción de esta mímesis tecnológica nos empuja, en primera instancia, al abismo de creer que somos criaturas obsoletas y reemplazables. En el ámbito educativo, además, se suma la preocupación por implantar una buena base de conocimiento en el estudiantado y evitar el fraude académico", señala.

Sin embargo, en su opinión la utilidad de esta herramienta es clara. Como ejemplos de posibles usos para los estudiantes se encuentran la toma de contacto con un tema académico concreto, puesto que les puede servir de guía o resumen, o el apoyo para mejorar habilidades en áreas como la comprensión de la lectura, escritura y resolución de problemas. "Lo compararía con el uso que le damos a la Wikipedia, es un complemento o ayuda para acercarnos a un ámbito de conocimiento, pero hay que tener en cuenta que su contenido no es fiable al cien por cien, menos en las fases beta, y el usuario o usuaria siempre debe contrastar la información obtenida con otras fuentes especializadas", explica la especialista del eLinC.

Cómo interactuar conociendo las limitaciones

En cuanto a su utilidad para el profesorado, Nati Cabrera Lanzo, profesora de Estudios de Psicología y Ciencias de la Educación de la UOC y directora del máster de Evaluación y Gestión de la Calidad en la Educación Superior, indica que el ChatGPT puede ayudar a generar contenido básico, complementario, hacer resúmenes, aclaraciones sobre conceptos, "e incluso puede ayudarnos a diseñar una actividad o explicar un concepto de otra manera si nosotros no acabamos de encontrar la clave de cómo hacerlo para que el estudiantado lo entienda bien. Lo crucial está en saber cómo interactuar con GPT y tener en cuenta sus limitaciones, que son muchas".

Por eso, insiste en que en todos los casos, al menos en estos momentos, es necesaria la supervisión humana para asegurarse de que el resultado se ajusta al objetivo no solamente en cuanto al contenido, sino también al tono que quiere usarse. "Lo que te ofrece la herramienta en realidad es como un primer trabajo de base que, como docente, experto o conocedor de lo que pedagógicamente es necesario en tu contexto educativo, tienes que poder matizar, mejorar, pulir… Eso no le quita valor a un primer trabajo de rastreo, de búsqueda, de relación de conceptos o temáticas que puede ayudar mucho y ahorrar tiempo", afirma.

De hecho, como recuerda la profesora de la UOC, si se le pide a la propia aplicación que conteste qué es y qué puede ofrecer, ChatGPT acaba diciendo que "es importante tener en cuenta que los modelos de lenguaje como el GPT todavía tienen limitaciones y no deben reemplazar por completo la interacción humana en el proceso educativo. Es necesario un enfoque equilibrado que combine la tecnología y el aprendizaje humano para lograr los mejores resultados".

"Lo importante es ver si con esta nueva herramienta podemos proponer experiencias educativas de aprendizaje que sean verdaderamente retadoras, significativas, situadas…, que son las características que aumentan el aprendizaje del estudiantado. Pero siempre teniendo claro que la herramienta más importante en estos procesos continuará siendo el razonamiento humano, crítico, fundamentado, y que la interacción entre individuos, el diálogo, la oralidad, sea presencial o virtual, para llegar al conocimiento siguen siendo estrategias que son tan válidas como necesarias", afirma Nati Cabrera.