NVIDIA anunció la creación de la Open Secure AI Alliance, una nueva alianza integrada por compañías tecnológicas, organizaciones de código abierto e instituciones de investigación que buscará desarrollar herramientas abiertas para mejorar la seguridad y el uso responsable de la inteligencia artificial.
La iniciativa reúne a empresas como Microsoft, IBM, Cisco, Cloudflare, Dell Technologies, HPE, Red Hat, SAP, Salesforce, ServiceNow, Siemens, Hugging Face y la Linux Foundation, entre otras, con el objetivo de crear un ecosistema abierto que fortalezca la protección de aplicaciones, modelos y agentes de IA.
Un enfoque abierto para la ciberseguridad
Según NVIDIA, la seguridad en la era de la IA requiere tanto modelos abiertos como cerrados. La compañía sostiene que las tecnologías abiertas permiten a organizaciones y gobiernos inspeccionar, adaptar y ejecutar herramientas defensivas en su propia infraestructura, evitando depender de un único proveedor.
Como ejemplo, la empresa citó el reciente incidente de seguridad sufrido por Hugging Face, donde el uso del modelo abierto GLM 5.2 permitió analizar más de 17.000 acciones para investigar y contener el ataque cuando otras herramientas no resultaron suficientes.
Investigación y herramientas abiertas
Como parte de la alianza, NVIDIA anunció que contribuirá con modelos abiertos, pesos de modelos, conjuntos de datos y nuevas investigaciones enfocadas en seguridad para acelerar el desarrollo de herramientas de ciberseguridad basadas en IA.
Entre ellas destaca NOOA (NVIDIA Labs Object-Oriented Agent), un nuevo proyecto de código abierto disponible en GitHub que facilita la creación de entornos donde los agentes de IA puedan ser evaluados, auditados y gobernados con mayor facilidad.
La alianza también impulsará proyectos relacionados con identidad digital, formatos seguros para modelos, análisis automatizado de vulnerabilidades y herramientas para desarrollo seguro de software.
Un llamado a gobiernos e industria
La Open Secure AI Alliance hizo un llamado a reguladores y responsables de políticas públicas para considerar los modelos abiertos como un activo estratégico para la defensa digital, argumentando que restringir este tipo de tecnologías podría limitar la capacidad de respuesta frente a amenazas y concentrar la innovación en un reducido número de proveedores.
Además, la organización propone impulsar infraestructura compartida para la seguridad de la IA, incluyendo conjuntos de datos, marcos de evaluación, simuladores de ataques y herramientas de red teaming, con el objetivo de fortalecer la resiliencia del ecosistema tecnológico.
