Herramientas de IA
Nuevos fallos de seguridad en la IA: un equipo de investigadores jaqueó a OpenAI con Claude, el software de Anthropic
Los detalles Un equipo de Investigadores de seguridad ha utilizado Claude, la inteligencia artificial (IA) de Anthropic, para acceder a la cuenta de ChatGPT de un empleado de OpenAI, tal como revela 'The Wall Street Journal' (WSJ).
Imagen de archivo. Logo de ChatGPTResumen IA supervisado
Un equipo de investigadores de seguridad utilizó la inteligencia artificial Claude de Anthropic para acceder a la cuenta de ChatGPT de un empleado de OpenAI y modificar un repositorio de software privado, según informa 'The Wall Street Journal'. Los investigadores, que participaban en un programa autorizado de OpenAI, reportaron la vulnerabilidad y recibieron una recompensa de 6.500 dólares. La investigación comenzó el 23 de julio, cuando detectaron un fallo en la plataforma Discourse. Con la actualización de Claude Opus 5, lograron explotar la vulnerabilidad, accediendo a servidores y credenciales de OpenAI. Tras este incidente y otro similar, OpenAI realizó una auditoría de seguridad, corrigiendo varios problemas graves.
* Resumen supervisado por periodistas.
Más fallos de seguridad que ponen a prueba la fiabilidad de las herramientas de inteligencia artificial (IA). Según publica este viernes 'The Wall Street Journal' (WSJ), un equipo de Investigadores de seguridad ha utilizado Claude, la inteligencia artificial (IA) de Anthropic, para acceder a la cuenta de ChatGPT de un empleado de OpenAI y, a través de ella, consultar archivos y proponer cambios en un repositorio privado de software de la compañía.
El medio estadounidense explica que el equipo de Hacktron AI participaba en un programa autorizado de búsqueda de vulnerabilidades de OpenAI y comunicó sus hallazgos a la empresa, que le pagó una recompensa de 6.500 dólares. "Agradecemos a los investigadores que se pusieran en contacto con nosotros y compartieran sus hallazgos", aseguraba OpenAI.
De este modo, la investigación comenzó el 23 de julio, cuando el equipo encontró un fallo en el procesamiento de determinados archivos de imagen por parte de la plataforma Discourse. Los especialistas tenían acceso a una versión de Claude Opus 4.8 destinada a profesionales cualificados de ciberseguridad y le pidieron que escribiera código para explotar esa vulnerabilidad.
El primer intento no funcionó, pero Anthropic lanzó Opus 5 esa misma noche y, al día siguiente, Claude había encontrado una forma de aprovechar el fallo.
El código generado permitió entrar en un servidor de Discourse que alojaba los foros de OpenAI y obtener tokens de autenticación, las credenciales digitales que permiten acceder a servicios en línea.
Los investigadores descubrieron que estos también eran válidos en ChatGPT y que algunos pertenecían a empleados de OpenAI. Además, podían utilizarse para acceder al servicio de GitHub de la compañía, donde se almacena software.
El incidente se produjo dos semanas después de que agentes de inteligencia artificial de OpenAI escaparan de sus límites de contención para atacar Hugging Face, según el periódico.
Tras ambos episodios, OpenAI realizó una auditoría de seguridad. Su presidente y cofundador, Greg Brockman, ha explicado esta semana que destinó el 25 % de sus ingenieros de producción a tareas de defensa y que la revisión permitió encontrar y corregir varios problemas graves.