La inteligencia artificial generativa se dio a conocer al público en noviembre de 2022 con el lanzamiento del ChatGPT, que se convirtió en la aplicación de más rápido crecimiento de la historia. Esa herramienta puede generar resultados como texto, imágenes, vídeos, música y códigos de software, lo que tiene implicaciones de gran alcance para la educación y la investigación.
Sin embargo, el sector educativo no está preparado para la integración ética y pedagógica de estas herramientas en rápida evolución. De acuerdo con una encuesta hecha por la UNESCO en más de 450 escuelas y universidades, menos del 10% cuentan con políticas institucionales o directrices formales relativas al uso de aplicaciones de inteligencia artificial generativa, en gran parte debido a la ausencia de normativas nacionales.
En junio de 2023, la UNESCO advirtió de que el uso de la inteligencia artificial generativa en las escuelas se estaba extendiendo a un ritmo demasiado acelerado, con una preocupante falta de escrutinio público, controles o regulaciones. Como evidencia, la agencia presentó un documento mostrando que la publicación de un nuevo libro de texto requiere más autorizaciones que el uso de herramientas de inteligencia artificial generativa en las aulas.
El objetivo de la Guía es hacer frente a las perturbaciones causadas por la inteligencia artificial generativa y garantizar que su uso tenga un enfoque centrado en el ser humano.
Para ello, la UNESCO urgió a los gobiernos a reglamentar el uso de esas tecnologías en la esfera de la educación y a capacitar al profesorado para que refuerce en los estudiantes la importancia de la inteligencia humana para tomar decisiones frente a las opciones que brinda la inteligencia artificial generativa.
La directora general de la agencia afirmó que esa tecnología representa una gran oportunidad para el desarrollo humano, pero advirtió que también puede causar “daños y perjuicios”.
“No puede integrarse en la educación sin el compromiso público y sin las salvaguardas y regulaciones necesarias por parte de los gobiernos”, dijo Audrey Azoulay, y agregó que las Orientaciones elaboradas por la UNESCO ayudarán a los responsables políticos y docentes a aprovechar mejor el potencial de la inteligencia artificial en beneficio de los estudiantes.
La Guía explica que las herramientas de la inteligencia artificial generativa disponibles al público están surgiendo rápidamente, superando la adaptación de los marcos regulatorios nacionales, y señala que la ausencia de regulaciones nacionales en la mayoría de los países deja la privacidad de los datos de los usuarios desprotegida y las instituciones educativas en gran medida no están preparadas para validar las herramientas.
También hace una evaluación de los riesgos potenciales de la inteligencia artificial generativa para los valores humanistas fundamentales que promueven la inclusión, la equidad, la igualdad de género, la diversidad lingüística y cultural, así como las opiniones y expresiones plurales.
Frente a estos riesgos, la UNESCO propone medidas para que las agencias gubernamentales regulen el uso de estas tecnologías, incluyendo que se exija la protección de la privacidad de los datos y que se considere un límite de edad para su uso.
Según el organismo, un niño debe tener al menos trece años para empezar a utilizar herramientas de inteligencia artificial en las aulas y subraya la necesidad de formar a los profesores en esta materia.
También plantea requisitos para los proveedores de inteligencia artificial generativa, de manera que sus herramientas puedan tener un uso ético y eficaz en la educación.
La Guía enfatiza la necesidad de que las instituciones educativas validen los sistemas inteligencia artificial generativa en cuanto a su idoneidad ética y pedagógica para la educación, y llama a la comunidad internacional a reflexionar sobre sus implicaciones a largo plazo para el conocimiento, la enseñanza, el aprendizaje y la evaluación.
Asimismo, advierte sobre los sesgos de estas tecnologías y refiere, por ejemplo, que los modelos actuales de ChatGPT se diseñan con datos de usuarios en línea que reflejan los valores y las normas sociales dominantes del Norte global.
Fuente: UNESCO