Con los grandes avances de la Inteligencia Artificial Generativa (GenAI), surgen nuevos retos e incógnitas debido a que todavía no sabemos el alcance que puede tener, en especial en el campo académico. Herramientas como Chat-GPT, Dall-E y Midjourney son cada vez más usadas por estudiantes, e incluso por docentes, generando un debate sobre hasta dónde se pueden usar.

Para hablar del tema, la Dirección de Innovación Educativa (DIE) de la Universidad Iberoamericana (IBERO) invitó a la Dra. Davinia Hernández-Leo, Profesora Investigadora del Departamento de Tecnologías de la Información y Comunicación en la Universidad Pompeu Fabra, Barcelona, quien presentó por medio de ZOOM la conferencia: Educación en la era de la Inteligencia Artificial (IA): repensar la evaluación.

Para la especialista, el tema debe ser tratado desde una visión de investigación educativa y de investigación en tecnología educativa, pues si bien, existen riesgos al fomentar el uso de la GenAI en las aulas, también existen aspectos positivos que pueden ayudar a facilitar y optimizar los procesos educativos.

Recordó que al comienzo de toda esta invasión de herramientas basas en GenIA, la mayoría de escuelas consideraban que el uso de Chat-GPT fomentaba el “fraude académico”, ya que el programa puede realizar trabajos y tareas con solo una instrucción y afectar con ello el desarrollo educativo de las y los estudiantes.

“A pesar de que la IA ya tiene tiempo en nuestras vidas, con la llegada de nuevas actualizaciones cada vez surgen nuevos desafíos para los cuales todavía no tenemos solución, generando lo que denominó tensiones ante el uso de la GenAI en las escuelas”.

Davinia Hernández-Leo, quien también fue Vicepresidenta de la Asociación Europea de mejora del Aprendizaje por la Tecnología, destacó ocho tensiones a los que se debe enfrentar el profesorado académico ante estos avances tecnológicos.

1. Responsabilidad de educadores

Debemos conocer el impacto que puede generar el autorizar el uso de estas herramientas, ya que, en lugar de beneficiar los procesos educativos, podrían entorpecerlos. Se debe estar informado sobre el uso correcto de la GenAI.

“Hay muchas guías que están disponibles para poder formarse, además de sesiones formativas como esta, cada vez hay muchas más vías disponibles. Una de las primeras que estuvo a disposición fue la que compartió la UNESCO y que está traducido a muchos idiomas, Chat GPT e inteligencia artificial en educación superior.

2. IA “diferente”

La IA crea nuevos contenidos como, imágenes, texto, audio y mucho más, pero no sabemos si lo que vemos u oímos fue creado por un ser humano o una máquina.

“A pesar de que nos lo presentan como contenido nuevo, la verdad es que son elementos que ya existían en internet, pero que gracias a la GenAI se pueden combinar con otros componentes que ya existían, para producir este contenido”.

3. Ilusión de la detección

Los sistemas actuales no están suficientemente avanzados para detectar al 100% si un producto fue hecho con GenIA, ya que los programas han demostrado que con las instrucciones adecuadas, pueden burlar estos detectores.

“Cualquier detector de lenguaje de inteligencia artificial suficientemente avanzado será burlado por un generador de lenguaje de inteligencia artificial igualmente avanzado, pero ahora mismo no tenemos ninguna garantía de que esto se pueda hacer de manera fiable”.

4. Dificultad y estrés para mantenerse al día

Con la constante evolución y actualización de la IA, es complicado estar al tanto de las novedades que ofrecen, mantenerse actualizado con toda esta información si bien es útil, es de igual manera desgastante.

“Existe un gran estrés para las y los docentes, ya que si desean utilizar estas herramientas para mejorar su sistema de aprendizaje y enseñanza, deben mantenerse actualizados, ya sea leyendo o tomando cursos, cosas que exigen tiempo y dedicación”.

5. Las limitaciones de GenAI también dependen de las limitaciones humanas

Debido a que se utilizan elementos ya creados en internet, la IA no podría crear algo que sobrepase la capacidad humana. Es verdad que facilita la recolección de elementos, pero siempre dependerá de que ya haya sido creado por una persona.

“La GenAI tiene que ver con el refuerzo y la retroalimentación que le damos los humanos, debemos recordar que hay ingenieros detrás de Chat GPT o de OpenAI, que alimentan con información estos programas con el fin de mejorar sus algoritmos y respuesta ante las solicitudes que se les hacen”.

6. Futuro de los jóvenes. Repensar las competencias

La disponibilidad de estas herramientas de GenAI nos hace pensar en la implicación que tendrán en el futuro de las profesiones y el futuro de las y los jóvenes.

“La IA marca la diferencia en el trabajo, y no es que vaya a sustituir por completo a la persona, pero es verdad que mientras las personas estén mejor preparadas para usar estas herramientas, tendrán más oportuidad de conseguir trabajo en el futuro”.

7. Oportunidades de mejora frente a implicaciones éticas

En este punto se debe considerar si el uso de las herramientas con GenAI realmente nos está facilitando las tareas que normalmente nos cuesta más tiempo realizar, ya sean académicas o de nuestra vida diaria. Debemos analizar detenidamente los impactos tanto positivos como negativos.

8. Rediseño de la evaluación: control vs parte del proceso de aprendizaje

Aquí influye la tensión tres, que habla sobre la falsa ilusión de detección, ya que, al no contar con herramientas que detecten al 100 por ciento si un elemento fue creado con IA, el sistema de evaluación en las escuelas debe ser modificado para que tome en cuenta el uso de estas tecnologías.

“Tenemos que encontrar formas creativas para evaluar cómo las y los estudiantes se implican y benefician de su participación en los procesos de aprendizaje que ofrece la IA. Existen ejemplos, como en Europa, donde hay leyes que obligan a revelar si en la generación de un producto, ya sea texto, imágenes o sonidos, se utilizó esta tecnología”.

Texto: Alberto Elihú Cortés Hernández

Notas relacionadas:

• Da a conocer IBERO Lineamientos para el Uso de Inteligencia Artificial
• ¿Cuál es el futuro de las universidades ante la Inteligencia Artificial? Mentes top dialogan en la IBERO
• Doce criterios a seguir para un desarrollo ético de la Inteligencia Artificial
• Reúne IBERO a eminencias para tratar avances de la Inteligencia Artificial