OpenAI, la empresa responsable de crear ChatGPT, ha desarrollado AI Text Classifier para diferenciar entre texto escrito por IA y texto escrito por humanos. Lo llamamos “detector de ChatGPT”. Si bien no es posible identificar el texto escrito por IA con absoluta certeza, OpenAI cree que su nueva herramienta reducirá los casos de afirmaciones falsas de que el contenido escrito por humanos en realidad es generado por IA.
Comprender el clasificador de texto AI
En un comunicado, OpenAI afirma que su AI Text Classifier puede obstaculizar la difusión de información errónea automatizada, evitar el uso de AI para el engaño académico y bloquear los chatbots para que no pretendan ser humanos.
La precisión de la herramienta se probó en un conjunto de textos en inglés, donde identificó correctamente el texto escrito por IA el 26 % de las veces. Sin embargo, también clasificó erróneamente el texto escrito por humanos como generado por IA el 9% de las veces. Según OpenAI, la herramienta funciona mejor cuando el texto es más largo, por lo que requiere un mínimo de 1000 caracteres para ejecutar una prueba.
¿Cómo usar el detector ChatGPT de OpenAI?
El clasificador de texto OpenAI AI es fácil de usar. Simplemente vaya a esta página, inicie sesión, pegue el texto que se probará y presione el botón Enviar. Luego, la herramienta proporcionará una calificación de la probabilidad de que el texto haya sido generado por IA. Los resultados pueden variar desde:
- muy improbable
- Improbable
- No está claro si es
- Posiblemente
- Probable
Evaluamos las habilidades de escritura de ChatGPT al hacer que escribiera un ensayo sobre ciberseguridad y luego enviáramos el ensayo a un clasificador de texto AI. El clasificador calificó el ensayo como “posiblemente generado por IA”, lo cual es una indicación fuerte pero no definitiva:
Esto resalta las limitaciones de la herramienta, ya que no puede decir con total certeza que el ensayo fue escrito por AI. Haciendo ligeros cambios sugeridos por Grammarly, bajé la calificación de “posiblemente” a “poco claro”. OpenAI es preciso al señalar que es simple omitir el clasificador, pero no pretende ser la única prueba de que AI escribió el texto.
OpenAI afirma en una sección de preguntas frecuentes en la parte inferior de la página:
“Nuestro uso previsto para AI Text Classifier es fomentar la conversación sobre la distinción entre el contenido escrito por humanos y el generado por IA. Los resultados pueden ayudar, pero no deben ser la única evidencia al decidir si un documento se generó con IA. El modelo está entrenado en texto escrito por humanos de una variedad de fuentes, que pueden no ser representativos de todos los tipos de texto escrito por humanos”.
OpenAI menciona que la herramienta no se ha sometido a pruebas exhaustivas para detectar texto que sea una mezcla de IA y escritura humana. Si bien el clasificador de texto AI puede ser útil para identificar texto que puede haber sido creado por AI, no se debe confiar en él como la única base para tomar una determinación final.
Si está tratando con el error ChatGPT 405: método no permitido, consulte nuestra guía especial.
Source: Clasificador de texto AI: explicación del detector ChatGPT de OpenAI
