Hace pocos días, expertos en tecnología pidieron a las empresas que trabajan en inteligencia artificial (IA) que frenen temporalmente sus desarrollos, temerosos por los riesgos asociados a esa tecnología descripta por ellos como “incontrolable”. Lo cierto es que el auge de ChatGPT y otros sistemas basados en IA traen encantos y también desafíos, algunos grandilocuentes (un especialista escandalizado dijo que “todos moriremos” si no se regulan las investigaciones) y otros más al alcance de la mano, por ejemplo los cambios que estos avances provocan en el ámbito educativo.
Le pregunté a ChatGPT, el poderoso robot conversacional desarrollado por OpenAI, qué tipo de problemas podría generar su uso en las aulas. “Puede ser una herramienta valiosa para las escuelas, pero es importante que los educadores sean conscientes de los riesgos potenciales y tomen medidas para minimizarlos”, respondió la máquina junto a un listado de aspectos a considerar, como el contenido inapropiado, los sesgos, la dependencia tecnológica y la privacidad de los datos.
Leé también: ChatGPT: claves para usar el bot de inteligencia artificial como un experto
“El principal y más desafiante riesgo es que las personas usuarias finales no entiendan que está sucediendo alrededor de esta tecnología y cuán transparente es el algoritmo”, dice en diálogo con TN Tecno la especialista de educación y tecnología Melina Masnatta, directora de Global Learning and Diversity en la firma Globant.
“Volvemos acá a uno de los grandes dilemas de la tecnología, el tema de la caja negra: no entender qué está pasando detrás. El asunto es que esto está teniendo incidencia en la toma de decisiones”, agrega la emprendedora social que participó en BETT, evento enfocado en las innovaciones para el sector educativo, recientemente celebrado en Londres.
“Más que controlar, creo que es relevante dar herramientas de pensamiento crítico, sobre todo a las personas que están estudiando”, opina Melina Masnatta. (Foto: Catalina Bartolome)
“La inteligencia artificial existe hace muchísimo tiempo. El riesgo que subyace es la celeridad masiva, el consumo mucho más cercano a muchas personas, y que en muchas ocasiones se interpretan sus respuestas como humanas, cuando detrás hay un montón de vinculaciones”, agrega.
Desaprender con ChatGPT
Más declaraciones de ChatGPT, que literalmente se ataja: “Si las escuelas dependen demasiado de las herramientas tecnológicas, pueden correr el riesgo de limitar la capacidad de los estudiantes para aprender y desarrollar habilidades importantes, como la investigación, el pensamiento crítico y la resolución de problemas. Es importante que los educadores equilibren su uso (…) con otros métodos de enseñanza para garantizar que los estudiantes estén recibiendo una educación completa”.
Leé también: ChatGPT: peligros, falencias y beneficios del uso de la inteligencia artificial
Según revela Lucas Soares, doctor en Filosofía y profesor en la Universidad de Buenos Aires, los alcances ChatGPT no pasan desapercibidos en las cátedras universitarias. “Se habla de su aparición y de cómo podría impactar en las evaluaciones”, dice a esta publicación el autor de El poeta y el buey, quien además cuenta que tras probar el sistema notó que aborda “algunas cuestiones filosóficas con buena redacción”, aunque con respuestas “un tanto mediocres”. Soares ya lo sabe: “Con el correr del tiempo esto va a perfeccionarse cada vez más, y es probable que termine brindando respuestas solventes”, dice.
“Estos avances hacen que de alguna manera debamos replantear los sistemas de evaluación y los tipos de preguntas”, señala el profesor de Filosofía Antigua Lucas Soares. (Foto: Cortesía)
Entre los tantos dilemas (escasa transparencia del sistema, sus sesgos, la desaconsejada confianza en que las respuestas sean de tenor humano, y un largo etcétera) emerge uno muy propio del ámbito académico: la evaluación de trabajos por escrito. ¿Cómo saber si ha sido la tecnología automática o el alumno aquel que ha escrito un texto, por ejemplo un trabajo práctico?
ChatGPT y la autoría humana: ¿cómo saber si un texto fue escrito por la máquina?
En función de lo dicho hasta aquí, no es la inteligencia artificial per se la que revoluciona sino la gran apertura que va de la mano del boom protagonizado por ChatGPT. ¿Acaso no sorprende que se hable de IA en los cafés y en las mesas familiares? Al interior del ámbito educativo hay revuelo, y los que forjaron la criatura lo saben.
Para usar ChatGPT sólo hay que hacer un registro breve (es posible ingresar con las credenciales de Google), indicar la edad y empezar a usarlo sin pagar un peso. Para seguir con la filosofía, podés preguntarle quién fue Sócrates y la maquinita entregará un informe completo, claro, en base a información que recoge de la Web. Probamos, incluso, escribiendo con errores el nombre del pensador. Al indicar “socrares”, la IA respondió que “es posible que la referencia sea para Sócrates, el filósofo griego nacido alrededor del 470 antes de Cristo en Atenas”.
El logo de OpenAI en un celular frente a una pantalla de computadora que exhibe un texto generado por ChatGPT.Por: AP
Cualquier alumno escasamente astuto podría entregar un trabajo práctico a un docente apenas desprevenido, escrito 100% por ChatGPT y afines. Recordemos, de paso, que aquel no es el único en su especie: hace unos días Google presentó su propio monstruito con IA, llamado Bard.
Entonces, ¿es posible distinguir si un texto fue escrito por una inteligencia artificial? Hay algunas estrategias para hacerlo, en especial echar mano a programas que identifican a los escritos artificiales. Uno llamado GPTZero fue creado por un estudiante, e incluso hay un método que ofrece OpenAI, AI Text Classifier, como “antídoto” para su creación. Eso sí: en inglés funcionan mejor que en otros idiomas, por ejemplo el español.
¿Querés recibir más noticias de Tecno?
Suscribite acá
“El clasificador tiene como objetivo ayudar a mitigar las afirmaciones falsas de que el texto generado por IA fue escrito por un humano. Sin embargo, todavía tiene una serie de limitaciones, por lo que debe usarse como complemento de otros métodos para determinar la fuente del texto en lugar de ser la herramienta principal para la toma de decisiones”, explicaron desde OpenAI y agregaron: “Estamos poniendo a disposición este clasificador inicial para obtener comentarios sobre si herramientas como esta son útiles y esperamos compartir métodos mejorados en el futuro”.
Textos creados por máquinas: el mejor detector (por ahora) es la comprensión humana
Amén del auxilio de las máquinas que deschavan a sus pares, la astucia humana sigue siendo el método más eficiente para estar “a resguardo”. Según Soares, estos avances hacen que “de alguna manera debamos replantear los sistemas de evaluación y los tipos de preguntas”, considerando que hay habilidades humanas que la IA, al menos por ahora, no logra emular.
Es decir: el foco no debería estar tanto en la forma en que se responde a las evaluaciones, sino en las mismísimas preguntas.
Leé también: ChatGPT: la clave para usar gratis la nueva versión del bot de inteligencia artificial
El punto de vista de Masnatta resulta conclusivo. “Más que controlar, creo que es relevante dar herramientas de pensamiento crítico, sobre todo a las personas que están estudiando. Acá hay algo parecido a lo que ocurrió con Wikipedia: es importante entender cómo se construye esa información, no negarla. La inteligencia artificial no sabe, por ahora, aplicar conocimientos en un contexto”, dice la especialista y añade un consejo interesante: preguntarle a ChatGPT cuáles fueron sus fuentes para arrojar determinada información. “Al entender esto, seremos más conscientes como usuarios de qué está pasando ahí”, cierra.