NUEVAS FUNCIONALIDADES

ChatGPT lanza un sistema que distingue los textos escritos por humanos de los creados por IA

Open AI, la creadora de ChatGPT, ha anunciado un servicio que distingue entre textos escritos por humanos o por inteligencia artificial, aunque aún está en fase de pruebas.

Inteligencia artificial

Inteligencia artificialrawpixel.com para Freepik

Publicidad

Open AI, los creadores del famoso ChatGPT, siguen actualizando y creando servicios basados en inteligencia artificial. Desde ChatGPT Plus hasta lo último: un programa que diferencia si un texto ha sido escrito por una persona o por una IA.

Este nuevo sistema se llama 'Clasificador de textos de IA'. Open AI lo ha entrenado para distinguir los textos creados por personas o algoritmos, aunque aún está en fase de pruebas. Ellos admiten que es "imposible detectar de manera confiable todo el texto escrito por IA", pero creen que los clasificadores como esta nueva herramienta pueden esclarecer las afirmaciones falsas.

Por ejemplo, el Clasificador de textos de IA puede ejecutar campañas automatizadas de desinformación, usar herramientas de IA para la deshonestidad académica y y posicionar un chatbot de IA como un ser humano.

A pesar de lo prometedor que parece esta nueva herramienta, Open AI señala que aún "no es totalmente fiable" y que está en pleno proceso de entrenamiento. "En nuestras evaluaciones sobre un "conjunto de desafíos" de textos en inglés, nuestro clasificador identifica correctamente el 26 % del texto escrito por IA (verdaderos positivos) como "probablemente escrito por IA", mientras que etiqueta incorrectamente el texto escrito por humanos como 9 % escrito por IA (falsos positivos)".

Además, desde Open AI explican que la confiabilidad de su clasificador de textos mejora a medida que aumenta la longitud del texto. La empresa ya permite probar este clasificador de textos de forma gratuita siempre y cuando se tenga una cuenta en su sistema.

Limitaciones del clasificador de textos

Esta novedosa herramienta está aún en proceso de aprendizaje y tiene "una serie de limitaciones importantes". Open AI aconseja que no se use como sistema principal para la toma de decisiones, sino como un complemento a la hora de distinguir si el autor del texto es una persona o una IA.

El Clasificador de de textos de IA es poco fiable cuando los textos tienen menos de 1.000 caracteres. Además, a veces etiqueta de forma incorrecta un texto escrito por humanos, señalando que lo ha realizado una IA. Asimismo, Open AI recomienda usarlo solo para textos escritos en inglés, ya que en otros idiomas es menos confiable.

TecnoXplora» Internet

Publicidad