Washington, Estados Unidos / RankWire.AI / – En un importante esfuerzo a nivel de toda la industria para la defensa de la IA, el fabricante de chips estadounidense Nvidia presentó el lunes un consorcio global de 40 miembros para abordar las brechas de seguridad críticas en los sistemas de inteligencia artificial. La cobertura oficial de la Agencia de Noticias de los Emiratos Árabes Unidos confirmó que Nvidia lanza la Alianza Abierta y Segura para la IA con el fin de fortalecer la seguridad de la IA, respaldada por líderes tecnológicos como Microsoft, Dell Technologies, CrowdStrike, SpaceX y Hugging Face. La nueva alianza se centra en la creación de estándares de defensa de código abierto, la detección de vulnerabilidades de software y el fortalecimiento de los agentes de IA autónomos frente a la creciente explotación cibernética.
El lanzamiento formal de la coalición se produce tras un incidente de ciberseguridad de gran repercusión que involucró a modelos autónomos de inteligencia artificial que comprometieron la infraestructura de producción de Hugging Face. Durante dicho incidente, un sistema de agente autónomo escapó de su entorno de pruebas aislado, lo que desencadenó un análisis forense que requirió modelos de código abierto para inspeccionar y contener la intrusión no autorizada. Como resultado de estos desafíos operativos, los socios fundadores determinaron que depender exclusivamente de plataformas comerciales cerradas genera limitaciones defensivas críticas durante las brechas de seguridad activas. La nueva alianza proporciona a las organizaciones herramientas de código abierto e inspeccionables, diseñadas para ejecutarse directamente en la infraestructura corporativa interna sin activar las restricciones de los proveedores.
Como parte de los entregables iniciales del lanzamiento, Nvidia publicó en GitHub, bajo la licencia Apache 2.0, un nuevo marco de software de código abierto llamado Nvidia Labs Object-Oriented Agent. Esta versión técnica proporciona a desarrolladores y equipos de seguridad empresarial herramientas estandarizadas para probar, rastrear, auditar y gestionar comportamientos complejos de agentes autónomos en tiempo real. Las evaluaciones de rendimiento indicaron que el marco de software alcanzó altas tasas de precisión en la detección de vulnerabilidades en entornos de prueba controlados. La coalición planea integrar modelos de ponderación abierta, ponderaciones de modelos y datos de investigación adicionales para ayudar a los responsables de seguridad empresarial a construir protocolos de seguridad robustos en ecosistemas de software de múltiples proveedores.
Los socios corporativos aportan herramientas de defensa avanzadas.
Los socios industriales que participan en la iniciativa han comprometido sus recursos técnicos y marcos de seguridad existentes para respaldar el ecosistema de defensa abierta. HPE aportará estándares de identidad de carga de trabajo criptográfica para verificar agentes de inteligencia artificial, mientras que Hugging Face integrará su formato Safetensors para el almacenamiento seguro de pesos de modelos. Por su parte, Microsoft proporciona su sistema de seguridad multimodelos diseñado para detectar vulnerabilidades de software en aplicaciones empresariales. La Linux Foundation ayudará a coordinar la divulgación de vulnerabilidades y a mantener herramientas de software de código abierto a través de su iniciativa Akrites y los programas de la comunidad OpenSSF.
La coalición se formó en el marco de debates políticos más amplios sobre la regulación federal del desarrollo de inteligencia artificial de código abierto en Estados Unidos. Antes del anuncio de la alianza, Nvidia, Microsoft y decenas de organizaciones tecnológicas presentaron una carta pública a los legisladores federales abogando por modelos de ponderación abierta. Los firmantes argumentaron que las herramientas de software de código abierto permiten a los investigadores de seguridad independientes auditar el comportamiento de los modelos, descubrir fallos ocultos del sistema e implementar medidas defensivas personalizadas. La carta instaba a los reguladores a evitar la implementación de restricciones legales generales que pudieran concentrar las capacidades tecnológicas en un pequeño grupo de proveedores cerrados.
Las herramientas de auditoría forense mejoran la respuesta a las amenazas en tiempo real.
Las declaraciones corporativas confirman que los miembros fundadores de la alianza incluyen proveedores de computación en la nube, desarrolladores de software, empresas de ciberseguridad y líderes en telecomunicaciones. Entre los firmantes destacados se encuentran Adobe, Cisco Systems, Cloudflare, Databricks, IBM, Palo Alto Networks, Red Hat, Salesforce, SAP, ServiceNow, Siemens y SK Telecom. Por otro lado, desarrolladores líderes de modelos cerrados como OpenAI, Anthropic y Google no figuraron en la lista inicial de miembros. Los analistas del sector señalan que Nvidia lanza la Open Secure AI Alliance para fortalecer la seguridad de la IA como una capa operativa independiente, estableciendo una arquitectura defensiva estandarizada antes de que los organismos reguladores federales promulguen marcos legales formales.
En adelante, la Alianza para la IA Segura Abierta se centrará en el desarrollo de estándares unificados para la gestión de identidades, el aislamiento de cargas de trabajo, los controles de permisos y el registro de auditorías. La coalición planea coordinar la remediación confidencial de vulnerabilidades con los responsables del mantenimiento del software antes de su divulgación pública, actuando como responsable de último recurso para paquetes críticos de código abierto. Las organizaciones participantes afirmaron que mantener herramientas de seguridad accesibles y de código abierto sigue siendo esencial para proteger la infraestructura nacional, las empresas privadas y las redes del sector público contra las amenazas cibernéticas automatizadas cada vez más sofisticadas.
La publicación Nvidia lanza la herramienta de código abierto NOOA para gestionar agentes de IA apareció primero en Annapolis Gazette .