Por: Adi Estela Lazos Ruíz* “La inteligencia artificial (IA) se refiere a la capacidad de las máquinas para realizar tareas que normalmente requerirían inteligencia humana… mediante la programación de algoritmos y el procesamiento de datos.” (OpenAI, 2024)[1]. Algunos ejemplos de IA son los asistentes virtuales; el reconocimiento facial en controles de acceso; las recomendaciones automáticas de productos a partir de nuestro historial de búsquedas o los vehículos de conducción autónoma. El campo de la educación no está exento de los avances en IA, tal es el caso de la posibilidad de crear diseños con Canva; los asistentes para corrección de gramática con Grammarly; la organización de documentos de investigación con Research Rabbit, entre muchos otros (EduToolsTec, 2024). La Inteligencia Artificial Generativa (IAG) utiliza modelos de aprendizaje automático para producir contenidos originales, entre estas herramientas están los modelos de lenguaje de gran tamaño como ChatGPT, Copilot, Gemini o Mistral AI. En este trabajo solamente tomaré como ejemplo el ChatGPT por ser el más famoso pero las reflexiones pueden aplicar a otras IAG. ChatGPT – Chat Generative Pre-trained Transformer A finales de 2022 la empresa OpenAI lanzó la aplicación ChatGPT para uso libre. Desde entonces ha tenido millones de consultas. ChatGPT es un modelo de lenguaje que predice secuencias de palabras de acuerdo a lo aprendido con millones de parámetros con que se ha entrenado (García-Peñalvo, 2023). ChatGPT no piensa, pero está diseñado para responder en forma de una conversación generando frases coherentes muy parecidas a una respuesta humana. ChatGPT se nutre de diversas fuentes de información recopiladas de internet, como foros, noticia, libros, bases de datos (Wikipedia, por ejemplo) o las interacciones de los mismos usuarios con la aplicación (esta es la opción por default y es posible optar por no compartirlo). Aunque esta aplicación tiene la capacidad sin precedentes de localizar información en bases de datos enormes y en un tiempo mucho más rápido que una persona, no todas las fuentes que consulta son fidedignas. La IAG todavía no sabe distinguir totalmente cuáles son fuentes confiables y cuáles no. Tampoco se tiene acceso a saber con precisión cuál mecanismo usó para llegar a la respuesta que arroja, ni tener certeza sobre cuáles fuentes consultó. Hasta la fecha[2], la última actualización de ChatGPT fue en enero de 2022. De esta manera si le damos la instrucción de hacer un resumen sobre la Revolución Mexicana, puede emitir una respuesta. Sin embargo, si preguntamos quién ganó el Campeonato Mundial de Patinaje Artístico sobre Hielo de 2024, no tiene cómo responder por la ausencia de información de los años 2023 y 2024. La mayor parte de los entrenamientos que ha recibido este modelo de lenguaje se han dado en inglés y aunque se va avanzando en otros idiomas, hay algunos donde su desempeño es pobre (Savage, 2024). Por ejemplo, se pidió a ChatGPT escribir un poema en lengua maya junto con su traducción. Al ser revisado por nuestro maestro de maya y mayahablante, el Prof. Ismael May May[3] (comunicación personal, 1 de febrero de 2024), notó que la respuesta estaba distorsionada, la escritura y la traducción no eran del todo correctas y daba la impresión de que se mezclaban palabras de más de un idioma de la familia lingüística maya. Uso de ChatGPT y reflexiones Algunas ventajas que ofrece ChatGPT son la velocidad de respuesta, la síntesis de grandes cantidades de información, la generación de textos y la interactividad. Entre las desventajas están el acceso desigual a esta tecnología, la falta de transparencia sobre las fuentes utilizadas y la seguridad de los datos (Gallent et al., 2023). Sabzalieva y Valentini (2023) discuten cuándo es seguro usar ChatGPT (Figura 1). El mensaje principal de dicho diagrama es que se requiere la experiencia y competencia para verificar y analizar críticamente el resultado arrojado por ChatGPT para usarlo de manera segura. Esto es especialmente importante en el ámbito universitario donde deben prevalecer los principios fundamentales de la integridad académica: honestidad, confianza, justicia, respeto, responsabilidad y valor; incluidos en los códigos de ética de las universidades (e.g. Código de Ética de la UNAM (UNAM, 2015)). Figura 1. ¿Cuándo es seguro usar ChatGPT? Fuente: Diagrama elaborado por Aleksandr Tiulkanov (Sabzalieva y Valentini, 2023). Hacer un trabajo utilizando ChatGPT de manera parcial o total, sin referenciarlo y además hacerlo pasar como autoría propia, es un acto contra la integridad académica. El plagio o la suplantación de autoría caben en este rubro. Hay grandes esfuerzos en las escuelas por evitar el plagio, como el uso de programas de software especializado (e.g. Ithenticate). Algunos docentes invierten mucho tiempo tratando de descubrir si alguien escribió sus propias ideas o solamente copió y pegó un texto, ¡incluso ya en el nivel universitario!. También, son conocidos los escándalos de empresas y profesionales consolidados cayendo en estas prácticas en detrimento de su carrera (McKie, 2024). Así, es necesario abordar este problema reforzando el principio de honestidad entre toda la comunidad académica. Roberto Navarro (2023) hace unas reflexiones interesantes: “Si los estudiantes desarrollan una relación de dependencia con la IAG… están renunciando… a su rol de protagonistas de su propio aprendizaje.El mal uso (y abuso) de las tecnologías de IAG puede llevar a que los estudiantes no logren el desarrollo de las competencias o de los aprendizajes esperados. En un escenario —espero— distópico en esta materia, los estudiantes pueden transformarse en meros operadores de máquinas generadoras de información, pero sin que logren una comprensión ni un análisis crítico, incapaces de construir su propio conocimiento y de generar otros nuevos.La sobreutilización de herramientas de IA…, la no contrastación con otras fuentes y la ausencia de análisis crítico pueden llevar a que el aprendizaje logrado se encuentre completamente distorsionado por los sesgos y la discriminación presente en la IA.“ En el ámbito global, hay posturas contradictorias con respecto al uso de ChatGPT en las aulas. Por una parte, están aquellas en las que restringen su uso y otras donde enseñan al estudiantado a escribir mejores prompts, que son las frases para elaborar preguntas a ChatGPT y que cuya…
