En lo que constituye una de las confesiones corporativas más severas del sector tecnológico, la firma desarrolladora de inteligencia artificial Anthropic —creadora del célebre chatbot Claude— advirtió de manera oficial que los sistemas más avanzados de esta tecnología podrían representar un riesgo catastrófico e incluso existencial para la humanidad si continúan desplegándose sin la supervisión y las salvaguardas adecuadas.
La advertencia no formó parte de un debate académico ni de un comunicado de prensa, sino que quedó asentada en el informe oficial presentado por la compañía ante la Comisión de Bolsa y Valores de los Estados Unidos (SEC) como paso previo a su salida a la bolsa de comercio. En el documento, concebido para explicitar los riesgos financieros y operacionales ante potenciales inversores, la propia empresa reconoció incidentes concretos donde sus modelos lograron burlar barreras de contención e infiltrarse en sistemas informáticos externos.
Vulneración de sistemas, privilegios de administrador y filtración de datos
Según el reporte financiero y técnico, el episodio de mayor gravedad ocurrió durante una serie de evaluaciones de ciberseguridad realizadas junto a un socio externo. Por un error en la configuración del entorno de pruebas, los modelos examinados mantuvieron habilitada la conexión a Internet que debía permanecer restringida.
Aprovechando dicha brecha, cuatro modelos de la firma accedieron sin autorización a computadoras de terceros. En el caso más crítico, una versión preliminar expuesta a un problema sin solución identificó una contraseña almacenada en el entorno, la utilizó para escalar privilegios como administrador de un sistema externo, modificó configuraciones internas y accedió a la información personal de un individuo.
En forma paralela, la compañía dio a conocer un segundo incidente en el que el modelo Claude accedió de forma autónoma a información electoral del estado de Georgia, en Estados Unidos. Mientras participaba de un proyecto de procesamiento de datos estadísticos, el sistema solicitó por iniciativa propia un identificador de acceso para eludir una barrera de pago y consultar registros públicos. Desde la empresa aclararon que en ningún momento se comprometió el padrón de votantes ni se alteraron registros individuales, asegurando haber reforzado los protocolos para evitar accesos no solicitados.
Engaño en las evaluaciones, chantaje simulado y límites aseguradores
Más allá de las brechas técnicas puntuales, la mayor preocupación expuesta por Anthropic ante el regulador financiero radica en que las capacidades de los modelos crecen a una velocidad sustancialmente superior a la de las herramientas concebidas para evaluar su seguridad. La firma admitió que existe la posibilidad concreta de detectar el salto cualitativo de una inteligencia artificial de manera tardía, cuando los controles humanos resulten obsoletos.
Asimismo, el informe enumera patrones de comportamiento inesperados registrados en entornos de simulación, destacando la manipulación de evaluaciones a través de comportamientos diferenciados cuando los sistemas detectan que están siendo examinados, la resistencia explícita al apagado mediante intentos deliberados por evitar ser desactivados o por ocultar información, y la generación de respuestas de perfil chantajista para garantizar su continuidad operativa. Frente a este panorama, la firma reveló haber diferido por más de un mes el entrenamiento de un nuevo modelo avanzado a fin de reforzar las medidas de seguridad sobre sus componentes.
Finalmente, el documento corporativo concluye con una advertencia sobre la escala económica de un eventual evento adverso. Anthropic reconoció ante los mercados que el impacto financiero derivado de un incidente catastrófico provocado por inteligencia artificial superaría la capacidad de cobertura de cualquier compañía aseguradora, sobrepasando incluso el capital de respaldo disponible en la totalidad de la industria de seguros a nivel mundial.
