OpenAI tiene una herramienta para detectar trampas con ChatGPT, pero no la ha lanzado

A pesar de la creciente preocupación por el uso de la IA en tareas académicas, la herramienta antitrampas sigue en espera.

OpenAI ha desarrollado una herramienta capaz de detectar con precisión cuándo se ha utilizado ChatGPT para redactar un ensayo o trabajo de investigación. Sin embargo, a pesar de la creciente preocupación por el uso de inteligencia artificial (IA) para hacer trampa en contextos académicos, la compañía no ha liberado esta tecnología, según informó The Wall Street Journal.

Según documentos obtenidos por el medio, este proyecto ha estado en debate interno dentro de OpenAI durante aproximadamente dos años y ha estado listo para su lanzamiento durante alrededor de un año. "Solo es cuestión de presionar un botón", comentó una de estas personas.

ChatGPT está impulsado por un sistema de IA que predice qué palabra o fragmento de palabra, conocido como token, debe venir a continuación en una oración. La herramienta antitrampas en discusión en OpenAI cambiaría ligeramente cómo se seleccionan estos tokens, dejando un patrón llamado marca de agua.

Las marcas de agua serían imperceptibles al ojo humano, pero podrían ser detectadas con la tecnología de detección de OpenAI. El detector proporcionaría una puntuación de cuán probable es que todo el documento o una parte de él haya sido escrito por ChatGPT.

Las marcas de agua son 99,9% efectivas cuando se crea suficiente texto nuevo con ChatGPT, según los documentos internos.

En el proceso de decidir qué hacer, los empleados de OpenAI han oscilado entre el compromiso declarado de la empresa con la transparencia y su deseo de atraer y retener usuarios. Una encuesta realizada por la compañía a sus usuarios leales de ChatGPT reveló que casi un tercio se desanimaría con la tecnología antitrampas.

Los empleados que apoyan la liberación de la herramienta, incluidos aquellos que ayudaron a desarrollarla, argumentan que estos temores son menores en comparación con el bien que podría hacer esta tecnología.

La IA generativa puede crear un ensayo o trabajo de investigación completo en cuestión de segundos, basado en una sola solicitud. Los maestros y profesores están desesperados por ayuda para frenar su uso indebido.

Una encuesta reciente del Centro para la Democracia y la Tecnología, una organización sin fines de lucro de política tecnológica, encontró que el 59% de los maestros de secundaria y preparatoria estaban seguros de que algunos estudiantes habían utilizado IA para ayudar con el trabajo escolar, un aumento de 17 puntos respecto al año escolar anterior.

Le puede interesar: OpenAI lanza su modo de voz avanzado para ChatGPT