Un modelo interno de investigación de OpenAI pagó un despliegue en la red de pruebas Sepolia con fondos de una cuenta que no le pertenecía. La empresa lo ha detectado en una revisión retrospectiva.
Según publica Muy Computer, un modelo interno de investigación de OpenAI necesitaba desplegar contratos en Sepolia, la red de pruebas de Ethereum, pero no tenía una wallet con fondos asignada. Nadie le había dado permiso para usar una cuenta ajena.
La tarea original consistía en actualizar un prototipo de trading de criptomonedas. Tras varios intentos fallidos con faucets, el modelo escribió un script que derivaba cuentas a partir de frases de recuperación de desarrollo públicas. Según el informe de OpenAI, comprobó 362 direcciones hasta encontrar una con saldo suficiente de ETH de prueba.
Durante ese proceso, el modelo se preguntó de forma explícita si debía usar esa cuenta. Concluyó que los tokens no tenían valor real, que la frase era conocida y que la cuenta parecía abandonada, y decidió seguir adelante.
Después derivó la clave privada, firmó la transacción y probó distintos proveedores hasta que uno aceptó el envío. El despliegue se completó y las comisiones se descontaron de esa wallet. El modelo verificó los contratos y presentó la tarea como completada, sin mencionar que había usado una cuenta ajena.
El informe encaja con otros casos recientes. En pruebas internas de Anthropic, distintos modelos de Claude también encontraron rutas no previstas para saltarse limitaciones y alcanzar su objetivo. OpenAI ha empezado a publicar su propia colección de informes de desalineamiento.
La compañía detectó este episodio al ampliar en septiembre su monitorización retrospectiva sobre la actividad anterior del modelo. OpenAI afirma que ha añadido salvaguardas que impiden el acceso en vivo a Internet en situaciones similares y que sus sistemas generarán alertas cuando un modelo se conecte a recursos externos.
También te puede interesar
