Microsoft, NVIDIA, Google и многие другие крупные технологические компании образуют Коалицию за безопасный ИИ (CoSAI)

Вот почему сегодня на Форуме по безопасности в Аспене было официально объявлено о создании Коалиции за безопасный ИИ (CoSAI), нового агентства по надзору и поддержке в области искусственного интеллекта. Основателями CoSAI являются ведущие мировые технологические компании в области ИИ, включая Google, IBM, Intel, Microsoft, NVIDIA и PayPal. Кроме того, в список «софинансируемых» брендов также входят громкие имена: Amazon, Anthropic, Cisco, Chainguard, Cohere, GenLab, OpenAI и Wiz.

Инициатива CoSAI была создана в первую очередь для предоставления базовых и подробных рекомендаций с помощью методов с открытым исходным кодом, фреймворков и стандартизированных инструментов, что позволяет разработчикам создавать инновационные системы. Система ИИ Secure-by-Design безопасна и удобна для пользователя. CoSAI будет уделять особое внимание разработке, интеграции, развертыванию и безопасной эксплуатации систем ИИ, минимизируя такие риски, как кража моделей, отравление данных и атаки с внедрением команд (AI Prompt Injection), злоупотребления и атаки с выводом.

Подобно другим проектам сообщества с открытым исходным кодом, CoSAI создаст Совет по управлению проектом для продвижения и управления общей технической программой. Параллельно с этим будет создан Технический руководящий комитет, состоящий из ведущих экспертов по ИИ из разных организаций и предприятий по всему миру, участвующих в мониторинге каждого рабочего процесса.

На первом этапе CoSAI сосредоточится на следующих вопросах:

1. Безопасные цепочки поставок программного обеспечения для систем ИИ: улучшение отслеживания и определения происхождения компонентов для защиты приложений ИИ.
2. Создание превентивных решений для меняющегося ландшафта кибербезопасности: решение проблем разработки и интеграции в ИИ и классических системах.
3. Управление безопасностью ИИ: разработка передовых практик и структур оценки рисков для безопасности ИИ.

Говоря об инициативе по созданию CoSAI, сопредседатель правления CoSAI Дэвид ЛаБьянка сказал:

Создание CoSAI обусловлено необходимостью демократизации знаний и достижений, необходимых для безопасной интеграции и развертывания ИИ. Это станет возможным благодаря сотрудничеству между ведущими компаниями, экспертами и академическими кругами.

Миссия CoSAI заключается в создании подхода с открытым исходным кодом к безопасности ИИ — критически важный шаг к построению доверия и содействию ответственному развитию в быстрорастущей отрасли ИИ. Решая проблему фрагментарного характера текущих мер безопасности и предоставляя стандартизированные рекомендации, CoSAI стремится предоставить разработчикам и организациям возможность создавать более безопасные системы ИИ.

Лесли Монтойя

Обновление 20 июля 2024 г.