El chatbot automatizado impulsado por IA de OpenAI, ChatGPT, ha arrasado en Internet, pero no sin crear algunos problemas en el camino. Con escritores, codificadores, especialistas en marketing y aparentemente todos los demás que usan ChatGPT para generar contenido, las empresas de todo el mundo se enfrentan a un tsunami de contenido generado por IA.
Con problemas de plagio y contenido robado constantemente en torno a ChatGPT y su salida, OpenAI ahora ha lanzado un nuevo GPT-Classifier, una herramienta diseñada para detectar y revelar si el texto que está leyendo fue obra de ChatGPT o de uno de sus otros GPT. herramientas.
OpenAI lanza el clasificador GPT para ayudar a verificar el texto escrito por IA
El anuncio de OpenAI se produce cuando aumenta el escrutinio de la escritura de IA y el texto generado por IA y las empresas integran la salida de ChatGPT.
El nuevo GPT-Classifier intenta averiguar si un fragmento de texto determinado fue escrito por humanos o el trabajo de un generador de IA. Si bien ChatGPT y otros modelos de GPT están ampliamente capacitados en todo tipo de entrada de texto, la herramienta GPT-Classifier está "afinada en un conjunto de datos de pares de texto escrito por humanos y texto escrito por IA sobre el mismo tema".
Entonces, en lugar de recopilar información y recrear su mejor aproximación, el Clasificador GPT intenta comparar las similitudes entre el texto humano conocido y el texto de IA conocido para encontrar discrepancias que revelen al escritor fuente.
La detección de GPT-Classifier está actualmente limitada
Si bien la idea de detectar fácilmente el texto generado por IA será música para los oídos de los editores y educadores, OpenAI ha advertido que su "clasificador no es totalmente confiable".
Actualmente, GPT-Classifier "identifica correctamente el 26 % del texto escrito por IA" y etiqueta el 9 % del texto humano como escrito por IA. OpenAI también señala que la precisión de la herramienta "normalmente mejora a medida que aumenta la longitud del texto de entrada".
Una prueba superficial del GPT-Classifier detectó un ejemplo generado por humanos y lo marcó como "muy poco probable que sea generado por IA", y también indicó correctamente que un fragmento generado por ChatGPT en problemas de USB fue "posiblemente generado por IA".
La demanda de detección de ChatGPT es alta
Incluso con las limitaciones del GPT-Classifier, es probable que la demanda de una detección confiable de ChatGPT haga que muchos recurran a esta herramienta. El compromiso de OpenAI de construir y lanzar una herramienta de detección de GPT gratuita es importante porque a medida que más estudiantes, escritores, programadores y otros utilicen herramientas de generación de texto de IA, comprender y detectar esta entrada será vital.
Por ahora, aunque GPT-Classifier está funcionando y disponible para pruebas, es mejor tomar su etiquetado con pinzas.
