1. Создана Коалиция за безопасный искусственный интеллект (CoSAI) Google, IBM, Intel, Microsoft, NVIDIA и PayPal, Amazon, Anthropic, Cisco, Chainguard, Cohere, GenLab, OpenAI, Paypal и Wiz.
2. CoSAI работает под эгидой OASIS Open.
3. Цель CoSAI – решить проблемы безопасности, конфиденциальности и надежности генеративного ИИ.
4. Коалиция будет сосредоточена на трех основных задачах: разработке эффективных практик обеспечения безопасности ИИ, решении общих проблем в области ИИ и обеспечении безопасности приложений ИИ.
5. CoSAI будет сотрудничать с организациями, такими как Frontier Model Forum, Partnership on AI, Open Source Security Foundation и ML Commons.
6. Heather Adkins, вице-президент Google по кибербезопасности: «Мы используем ИИ уже много лет и видим какую пользу он может приносить, но мы также признаем его возможности, которые могут быть интересны злоумышленникам. CoSAI призвана помочь малым и крупным организациям безопасно и ответственно интегрировать ИИ, использовать его преимущества в своих экосистемах и одновременно снизить все потенциально связанные с этим риски».Thank you for reading this post, don't forget to subscribe!
единение гигантов против кошмаров: создана Коалиция за безопасный искусственный интеллект
Мир AI-технологий стремительно движется вперед, открывая новые горизонты для развития бизнеса, науки и искусства. Но вместе с невероятным потенциалом Искусственного интеллекта возникают и новые угрозы – кибератаки, утечки данных, непредсказуемое поведение алгоритмов. Именно поэтому было принято решение объединить силы: Google, IBM, Intel, Microsoft, NVIDIA и PayPal создали Коалицию за безопасный искусственный интеллект (CoSAI) под эгидой OASIS Open. К ним присоединились Amazon, Anthropic, Cisco, Chainguard, Cohere, GenLab, OpenAI, и Wiz.
Задача перед CoSAI стоит серьезная – предотвратить злоупотребление мощью ИИ и создать безопасные правила его применения. В фокусе внимания – три главных направления: разработка эффективных практик безопасности для AI-систем, решение общих проблем в сфере ИИ (как например, минимизация предвзятости алгоритмов) и обеспечение защиты приложений с использованием Искусственного интеллекта.
Heather Adkins, вице-президент Google по кибербезопасности подчеркивает важность инициативы: «Мы используем ИИ уже много лет и видим какую пользу он может приносить, но мы также признаем его возможности, которые могут быть интересны злоумышленникам. CoSAI призвана помочь малым и крупным организациям безопасно и ответственно интегрировать ИИ, использовать его преимущества в своих экосистемах и одновременно снизить все потенциально связанные с этим риски».
CoSAI будет взаимодействовать с другими ключевыми игроками в отрасли: Frontier Model Forum, Partnership on AI, Open Source Security Foundation и ML Commons. Только совместные усилия смогут обеспечить безопасное развитие мира искусственного интеллекта и предотвратить возникновение сценариев из научной фантастики.