NVIDIA и Microsoft объединили 27 компаний для защиты ИИ

NVIDIA основала Open Secure AI Alliance — коалицию из 27 компаний для улучшения киберзащиты в эпоху ИИ. В числе участников: Microsoft, SpaceX, Dell, HPE, IBM, Red Hat, Hugging Face и Linux Foundation. Примечательно, что OpenAI, Google и Anthropic в альянс не вошли.

Декларируемая цель — «выявлять и устранять уязвимости с помощью открытых технологий», опираясь на существующие инициативы Linux Foundation и OpenSSF. NVIDIA вносит открытые модели, веса и инструменты для агентов; HPE — стандарты криптографической верификации AI-агентов; Hugging Face — формат Safetensors для безопасного хранения весов моделей.

Как прецедент альянс приводит инцидент с Hugging Face: когда платформу атаковал ИИ-агент и совершил более 17 000 автономных действий внутри системы, коммерческие инструменты безопасности отказали из-за встроенных ограничений — ситуацию спасла открытая модель GLM 5.2, проанализировавшая все действия взломщика и остановившая вторжение.

Альянс намерен лоббировать правительства: рассматривать открытые модели как актив киберзащиты, а не как угрозу, и противостоять огульным ограничениям на открытые ИИ-системы.