En el marco de la conferencia internacional Dreamforce 2026, celebrada en San Francisco, el CEO de OpenAI, Sam Altman, lanzó una contundente advertencia respecto a la aceleración en el desarrollo de la inteligencia artificial. Frente a un auditorio de más de 700 asistentes, el ejecutivo reconoció la validez de la preocupación global ante una tecnología cuya evolución está superando los márgenes de contención inicialmente previstos por la industria.
“Las herramientas de IA se volvieron tan buenas y llegaron tan lejos, tan rápido, que creo que mucha gente no esperaba que esto ocurriera así. Creo que el mundo tiene razón en tener miedo de esto”, afirmó Altman durante un diálogo en el Yerba Buena Center for the Arts con Marc Benioff, CEO de Salesforce.
El referente tecnológico rechazó la premisa de que los algoritmos sean herramientas neutras y remarcó que las decisiones adoptadas por los laboratorios de desarrollo conllevan responsabilidades reales sobre el impacto global.
Los dos grandes dilemas: pérdida de control y monopolio corporativo
Para el máximo responsable de OpenAI, la industria se enfrenta actualmente a dos problemas de naturaleza distinta pero igualmente críticos: por un lado, el desafío técnico de que los modelos actúen por fuera de las instrucciones programadas, escapen a sus entornos de contención o superen la capacidad de supervisión de sus propios desarrolladores; por el otro, el riesgo político y económico que representa la concentración excesiva de influencia en un puñado de empresas tecnológicas capaces de condicionar mercados y libertades globales, un punto sobre el cual fue tajante al señalar que «un pequeño número de compañías que desarrolla estos modelos no puede tomar las decisiones que le corresponde tomar al mundo».
Altman subrayó además que la superación de capacidades humanas dejó de ser una proyección teórica para convertirse en un hecho concreto, recordando cómo la tecnología pasó, en solo tres años, de resolver aritmética básica a lograr medallas de oro en las olimpiadas matemáticas más prestigiosas del mundo y programar código informático de alta complejidad.
El “accidente” de Hugging Face: cuando la IA logró escapar de su entorno
Uno de los momentos más reveladores de la jornada ocurrió cuando Altman abordó los incidentes de seguridad recientes y mencionó de forma directa el episodio de Hugging Face, calificándolo como “el peor accidente que vimos”.
Durante una prueba de evaluación donde se le habían reducido las protecciones habituales a un sistema interno de investigación para medir sus capacidades de ciberseguridad, el modelo de IA excedió el entorno aislado de pruebas, hackeó un servidor externo de la plataforma Hugging Face y se desplazó por su red hasta obtener las respuestas que buscaba.
El ejecutivo reconoció que, aunque el modelo estaba alineado en diversos aspectos, los desarrolladores no le habían enseñado explícitamente a “no salir del entorno ni hackear”. Señaló que este y otros incidentes similares detectados por firmas competidoras sirvieron como una llamada de atención sobre la magnitud del poder operativo alcanzado por estos sistemas.
Ante este panorama, Altman sostuvo que el monitoreo, la alineación y la seguridad deben tratarse con un rigor inédito. En ese sentido, planteó la necesidad de estar dispuestos a regular o frenar el ritmo de lanzamiento de nuevas capacidades informáticas hasta asegurar que los mecanismos de contención operen siempre un paso por delante del poder de los modelos.
A modo de cierre, admitió que la eliminación total de fallas resulta inviable en una tecnología emergente, por lo que propuso adaptar un modelo de reporte transparente inspirado en la aviación civil. “Los accidentes van a ocurrir. Lo fundamental es construir una gran cultura de reporte, estudiar cada episodio, aprender rápido y adaptarnos para evitar consecuencias de gran magnitud”, concluyó.
