Nvidia y otras 37 empresas lanzan una iniciativa de ciberseguridad basada en código abierto
El sector de las tecnológicas está tratando de que no cunda el pánico tras el ciberataque de un modelo de OpenAI a la empresa HuggingFace y un conjunto de 37 tecnológicas liderado por Nvidia y en el que participan empresas como Microsoft, SpaceX oo Palantir ha lanzado este lunes a nueva iniciativa de seguridad en inteligencia artificial centrada en modelos abiertos.
Esto se hace tras la confirmación por parte de la Hugging Face de que tuvo que utilizar un modelo abierto desarrollado por China para defenderse del ciberataque.
Según ha explicado CNBC los modelos abiertos pueden descargarse, modificarse y ejecutarse en servidores propios, a diferencia de los modelos cerrados —incluidos los sistemas de frontera desarrollados por Anthropic y OpenAI—, que solo pueden utilizarse a través de infraestructuras específicas.
“La Open Secure AI Alliance trabajará para corregir y divulgar vulnerabilidades utilizando tecnologías abiertas”, señaló Nvidia en un comunicado, en el que señalada que el reciente incidente de seguridad en Hugging Face ha dejado un mensaje claro: los defensores en ciberseguridad necesitan sistemas agentivos abiertos y de frontera para su propia defensa”.
CONTRA CHINA
Cada vez hay más llamados a adoptar medidas para limitar el acceso a modelos desarrollados por empresas chinas de IA, a las que se ha acusado de llevar a cabo campañas para extraer información de los sistemas de sus competidores estadounidenses, conocidas como “destilación” —cuando un modelo extrae conocimiento de otro mejor entrenado.
La semana pasada, el secretario del Tesoro, Scott Bessent, amenazó con imponer sanciones a las empresas chinas que lleven a cabo ataques de destilación contra compañías estadounidenses.
Sin embargo, Nvidia, Microsoft, Meta, Palantir y más de 20 compañías adicionales publicaron una carta instando a los responsables políticos a evitar “restricciones prematuras” sobre los modelos de IA de pesos abiertos que podrían “sofocar la competencia o desplazar la innovación al extranjero”.
