A medida que aumentan las preocupaciones sobre el uso de inteligencia artificial generativa como ChatGPT por parte de los estudiantes para completar el trabajo escolar, un par de organizaciones educativas sin fines de lucro han creado un sistema gratuito para ayudar a los maestros a detectar ensayos asistidos por IA.
La herramienta, llamada AI Writing Check, fue desarrollada por las organizaciones sin fines de lucro Quill y CommonLit utilizando un modelo de IA de código abierto diseñado para detectar la salida de ChatGPT y sistemas relacionados. Permite a los profesores (oa cualquier otra persona) copiar y pegar texto y, en unos segundos, recibir una determinación sobre si el trabajo en cuestión fue escrito por ChatGPT.
AI Writing Check, que las organizaciones sin fines de lucro comenzaron a desarrollar en diciembre, surge cuando las encuestas indican una creciente preocupación entre los maestros por los ensayos generados por máquinas. Otras herramientas, incluida una llamada GPTZero, también se han lanzado recientemente para detectar la escritura automática.
“Necesitamos brindarles a los maestros las herramientas para que puedan preservar la integridad académica en las lecciones, porque solo eres un estudiante de séptimo grado una vez”, dice la directora ejecutiva de CommonLit, Michelle Brown. “Realmente podría perjudicar a los estudiantes si pasan incluso un año escolar sin tener la oportunidad de hacer el trabajo pesado que hicimos en séptimo grado”.
Las preocupaciones sobre el trabajo académico generado por IA incluyen preocupaciones sobre la honestidad y la integridad, con un artículo reciente del Stanford Daily que explica que el uso no autorizado de la herramienta para hacer el trabajo de los estudiantes es probablemente una violación del código de honor de la universidad. Algunos distritos escolares K-12, incluido el de la ciudad de Nueva York, el sistema de escuelas públicas más grande de EE. UU., han tomado medidas para bloquear ChatGPT en los dispositivos y redes escolares, aunque es poco lo que pueden hacer para evitar que los estudiantes accedan a la herramienta y a otros usuarios similares en otros lugares. ChatGPT, una herramienta de inteligencia artificial gratuita creada por OpenAI, puede responder con precisión una amplia variedad de preguntas en cuestión de segundos, incluidos los tipos de indicaciones que se les dan a los estudiantes para los trabajos y los exámenes para llevar a casa.
AI Writing Check no es perfecto: las organizaciones sin fines de lucro estiman que tiene entre un 80 % y un 90 % de precisión, según un conjunto de pruebas de alrededor de 15 000 ensayos, y enfatizan que los maestros deben tomar medidas adicionales, como comparar el trabajo sospechoso con las tareas anteriores de los estudiantes antes de asumir un ensayo dado es plagiado.
Tampoco es probable que sea la última salva en lo que se perfila como una especie de carrera armamentista entre aquellos que usan IA para generar texto y aquellos, como maestros, empleadores y editores, que buscan detectar el uso no autorizado de tales herramientas. El fundador y director ejecutivo de Quill, Peter Gault, sugiere que las futuras herramientas de detección podrían analizar los registros de revisión generados por el software moderno de procesamiento de textos como Google Docs o Microsoft Word, revelando cómo se redactaron los ensayos en lugar de solo el producto final. Eso es algo que los informes recientes dicen que algunos educadores ya están comenzando a hacer manualmente, en algunos casos incluso requieren más trabajo escrito a mano.
“Con el tiempo, se desarrollarán herramientas más sofisticadas, pero en este momento este es un problema inmediato donde los maestros están buscando soluciones”, dice Gault, y señala que la financiación filantrópica de las organizaciones sin fines de lucro les permitirá respaldar de manera confiable AI Writing Check como una herramienta gratuita para los próximos años. Quill y CommonLit ya han utilizado la IA como un medio para mejorar la retroalimentación sobre la escritura de los estudiantes.
“Queremos asegurarnos”, dice, “que las escuelas con escasos recursos, las escuelas con presupuestos limitados, tengan la capacidad de usar estas herramientas, para que sean gratuitas.