OpenAI lanza una herramienta para pillar a quienes usen ChatGPT y otras IAs para generar textos

OpenAI ha anunciado el lanzamiento de una herramienta para distinguir entre los textos generados por los humanos y los creados por sistemas de Inteligencia Artificial, como ChatGPT y GPT-3. Se llama OpenAI AI Text Classifier, y por ahora no es excesivamente preciso, ya que cuenta con una tasa de éxito del 26%. No obstante, según OpenAI, si se usa en combinación con otros sistemas, puede ser útil para evitar que los usuarios de los sistemas de IA de generación de texto abusen de ellos.

Hasta ahora, debido a que sobre todo los estudiantes estaban comenzando a colar textos creados con ChatGPT como parte de sus tareas escolares. También los han utilizado en otros ámbitos, lo que ha hecho que diversas instituciones hayan prohibido el uso de ChatGPT en sus redes y equipos. Es el caso de varios centros escolares de Estados Unidos. Lo han hecho por los temores del impacto que pueden tener en el aprendizaje de los alumnos.

Entre las entidades que han prohibido ChatGPT está Stack Overflow, cuyos responsables han decidido que sus usuarios no puedan compartir contenido generado con ChatGPT, alegando que la Inteligencia Artificial hace que los usuarios tengan muchas facilidades para inundar sus foros de discusión con respuestas más que dudosas a las preguntas planteadas.

Es decir, su misión será ayudar a descubrir a los que utilicen textos generados mediante Inteligencia Artificial asegurando que los han escrito ellos, o cualquier otro humano. Eso sí, como señalan desde la compañía, lo más recomendable es utilizarla como complemento de otros sistemas de identificación de la fuente de texto, en vez de usarla como herramienta primaria para identificar si está escrita por humanos.

Además, se trata de una herramienta de clasificación considerada como inicial por OpenAI, aunque la compañía ha decidido lanzarla para conseguir información de sus usuarios sobre tu utilidad. En OpenAI aseguran también que esperan compartir sistemas mejorados en el futuro, aunque sin concretar.

Como sucede con ChatGPT, OpenAI AI Text Classifier es un modelo de lenguaje de Inteligencia Artificial entrenado con multitud de ejemplos de textos disponibles públicamente en la web. Pero a diferencia de dicha herramienta, está ajustado para predecir la probabilidad de que el texto que analiza esté generado por cualquier modelo de Inteligencia Artificial capaz de generar texto.

Concretamente, OpenAI ha entrenado a esta herramienta con texto de 34 sistemas de generación de texto de cinco organizaciones distintas, entre las que está OpenAI. Este texto se emparejó con un texto parecido en cierta medida escrito por humanos en Wikipedia, webs sacadas de enlaces compartidos en Reddit y un conjunto de muestras escritas por humanas y recopiladas por un sistema de generación de texto de OpenAI anterior.

Text Classifier no funciona, eso sí, con cualquier tipo de texto. Necesita que tenga un mínimo de 1.000 caracteres, o entre 150 y 200 palabras. Además, no detecta los plagios, y según la compañía, es más probable que falle en la detección de textos escritos por una IA si el texto está escrito por niños o en un idioma que no es inglés. Esto último se debe sobre todo a que los datos con los que se ha entrenado a la herramienta están fundamentalmente en inglés.

La herramienta, al analizar un texto, muestra una respuesta, que determina la probabilidad de que el texto esté o no generado por una Inteligencia Artificial. Así, lo catalogará como «muy poco probable» de que esté generado por una IA cuando crea que esta probabilidad es inferior a un 10%; «poco probable», cuando la probabilidad de que sea así está entre el 10% y el 45%; «no claro» si  la probabilidad de que no lo haya escrito un humano está entre el 45% y el 90%; «posiblemente» generado por IA si tiene entre el 90% y el 98% de probabilidad de que sea así, y «probablemente» generado por una IA si el porcentaje de probabilidad supera el 98%.