EN LOS TEXTOS GENERADOS POR SU IA
La marca de agua de Claude siembra la polémica, ¿cómo funciona?
Claude ha comenzado a marcar sus textos con una marca de agua invisible, que te explicamos cómo funciona.
Publicidad
Quizás uno de los asistentes virtuales más populares del momento sea Claude, elegida por muchos usuarios por su seguridad gracias a la IA constitucional. Aunque sus usuarios no están muy contentos con sus nuevas marcas de agua. A continuación, te contamos qué son y cómo funcionan.
Cómo funciona la nueva marca de agua de Claude
La inteligencia artificial es una potente herramienta la cual puede sernos de gran ayuda a la hora de buscar información, hacer resúmenes o poner en contexto muchos temas, pero muchos se olvidan de esto y usan directamente esta información en su propio beneficio. Copiando y pegando el contenido que nos ofrece. Existen muchas herramientas para averiguar cual es la autoría de un texto, si es original o generado por IA. Con la nueva función que Anthtopic ha incluido en su sistema conversacional, será mucho más fácil identificar si los textos han sido generados por Claude.
Para ello ha desarrollado un sofisticado sistema de marcas de agua, para lo que ha utilizado la tecnología SynthID Text de Google DeepMind, con la que además cumple con las exigencias de la Ley de Inteligencia Artificial de la Unión Europea (EU AI Act).
Cuando hablamos de marcas de agua lo primero en lo que pensamos es en logotipos o caracteres invisibles o metadatos ocultos en los documentos e imágenes. En el caso de de Claude estas son indetectables a simple vista, con el uso del sistema de marca de agua estática o soft watermarking, la cual no deja rastro y no es detectable ni por los motores de búsqueda convencionales ni para el ojo humano.
Para entender cómo funciona debemos saber cómo funcionan los modelos de lenguaje. Claude genera texto a partir de una palabra a la vez; para cada nuevo término, evalúa una lista de posibles palabras basándose en el contexto que las precede. De manera que son varias las opciones que encajan sin alterar el significado de la oración, una decisión de bajo riesgo. La elección de las palabras la haría un generador de números aleatorios.
Para añadir la marca de agua, el sistema se altera, sustituyendolas al azar por una clave criptográfica específica, que gestiona Anthropic. Usando una serie de palabras dictadas por esta clave, que crea un rastro estadístico y matemático que envuelve todo el texto. Un patrón invisible, pero que se puede descifrar usando la clave correcta.
A pesar de su uso no queda comprometida la calidad ni la fluidez de la creatividad, Sin forzar el uso de palabras fuera de contexto para cumplir el patrón. Al mismo tiempo que el proceso no ralentiza y encarece su uso, ya que no usa caracteres ocultos ni consume tokens de forma adicional. Al tratarse de una marca de categoría y no un identificador, nos garantiza la privacidad, puesto que no se registra el usuario ni de donde proviene.
Un sistema que a pesar de de que su desarrollador cuenta con una API, para detectar su uso, está no es infalible. En lo que respecta a códigos de programación o enumeraciones de hechos en los que los resultados son predecibles es difícil detectar su uso. Esto sucede al no encontrar equivalencias, puesto que el patrón no es suficientemente largo como para ser matemáticamente evidente. De la misma manera que si el texto ha sido editado o reescrito, momento en el cual la estructura estadística se rompe.
Dónde realmente nos encontramos un dilema es con el tema de la coautoría, en la que el usuario escribe el borrador original y hace uso de Claude para revisar, traducir o recurre al asistente para mejorar el texto. Esto hará que la presencia de la marca de agua de Ia sea muy evidente. Por lo que se detecta la participación del modelo, sin evaluar la participación humana en el proyecto.
Publicidad