La matriz de ChatGPT estrena una herramienta que detecta textos escritos por IA

Desde que ChatGPT saliera del cascarón el pasado mes de noviembre, muchos se han refugiado en el chatbot de OpenAI para hacer trampas en los trabajos escolares (y escribirlos sin mover prácticamente un dedo) y también para crear campañas de desinformación a gran escala.

En OpenAI parecen ser conscientes de las funestas consecuencias de su criatura y se han puesto manos a la obra para alumbrar una suerte de antídoto. La startup especializada en inteligencia artificial ha lanzado un programa que se ufana de distinguir entre los textos escritos seres humanos de carne y hueso y los generados por máquinas.

El sistema de detección agazapado en las entrañas del nuevo programa de OpenAI funciona aún de manera bastaste mediocre, como confiesa la compañía en un post publicado este martes en su blog corporativo. En los tests efectuados por OpenAI el software identifica correctamente los textos generados por máquinas solo en el 26% de los casos. Sin embargo, solo el 9% de los textos escritos originalmente por personas de carne y hueso son asignados erróneamente a la inteligencia artificial.

La herramienta de OpenAI necesita al menos 1.000 palabras para arrojar resultados más o menos precisos

En este sentido, y mientras Open AI perfecciona su nueva herramienta, es recomendable no fiarse al 100% del detector a la hora de evaluar la autoría (humana o robótica) de los textos.

El nuevo detector de OpenAI es accesible de manera totalmente gratuita desde la web platform.openai.com/ai-text-classifier, donde el usuario puede pegar el texto que desea analizar y presionar el botón «submit» para ser confrontado con resultados, que se clasifican atendiendo a la probabilidad de que un texto haya sido alumbrado o no por una IA. El programa de OpenAI baraja cuatro opciones posibles a la hora de clasificar textos: muy improbable, poco probable, poco claro o posible.

Conviene además tener en cuenta que el programa necesita un mínimo de 1.000 caracteres para acometer adecuadamente su trabajo y no está aún entrenado para detectar textos escritos al alimón por humanos y por máquinas.

Para instruir a su detector OpenAI ha creado un modelo de lenguaje valiéndose de conjuntos de datos con textos generados tanto por la inteligencia artificial como por los humanos. El «dataset» empleado por OpenAI proviene específicamente de tres fuentes: Wikipedia, WebText e InstructGPT.