Google, “Yapay zekanın hızlı büyümeye ayak uydurabilecek güvenli bir çerçeveye ve uygulanan standartlara ihtiyacı var” diyor. Bu zorluklarla başa çıkmak için yeni bir organizasyon var: Perşembe günü başlatılan Güvenli AI Koalisyonu (CoSAI). Google'a ek olarak, kurucu üyeler arasında Amazon, Anthropic, Chainguard, Cisco, Cohere, GenLab, IBM, Intel, Microsoft, NVIDIA, OpenAI, Paypal ve Wiz yer alıyor. (Wiz, Google'ın satın almakla ilgilendiği bir BT güvenlik girişimidir.)
Reklamcılık
CoSAI, bilim, diğer kuruluşlar ve genel olarak BT sektörü ile birlikte çalışmak ve başlangıçta üç çalışma grubuna liderlik etmek istiyor: Yapay zeka tedarik zincirinin güvenliğini sağlamak (Yapay zeka sistemleri için yazılım tedarik zinciri güvenliği), yapay zekanın getirdiği değişen tehdit senaryolarına yönelik BT güvenliğini hazırlamak ve yapay zeka güvenliğini yönetmek (Yapay zeka güvenlik yönetişimi).
Üç çalışma grubunun görevleri
Örneğin, ikinci grup, sektördeki insanların daha az zıt anlamlı konuşması için bir terim tanımları sistemi geliştirmektir. Yapılacaklar listesi ayrıca AI uygulamalarının güvenlik sorunlarına hazırlığını, yönetimini ve izlenmesini ve güvenlik sorunlarının raporlanmasını değerlendirmek için kontrol listeleri ve standart değerlendirme sistemleri içerir.
AI destekli saldırganlara karşı mücadelede BT güvenliğini güçlendirmek için ikinci CoSAI çalışma grubu, BT savunucularının azaltma önlemlerine yatırım yapma konusunda karar vermelerine yardımcı olacak bir çerçeve oluşturacaktır. İlk çalışma grubu, klasik yazılımlarla ilgili deneyime dayalı yönergeler geliştirecektir. Bu yönergeler, belirli bir AI'nın nasıl ortaya çıktığını (köken ve geliştirme) ve tehditler hakkında sonuçlar çıkarabilmek için üçüncü taraf teklifleriyle nasıl etkileşime girebileceğini bulmaya yardımcı olmalıdır.
Diğer girişimler
Sonbaharda Google, üçüncü tarafların AI güvenlik açıklarını avlamasını teşvik etmek için hata ödül programını AI ürünlerini de kapsayacak şekilde genişletti. Geçtiğimiz yılın Haziran ayında, veri şirketi kendi Güvenli AI Çerçevesini yayınladı ve sektör ortaklarıyla birlikte gönüllü AI taahhütleri yayınladı.
Önerilen editoryal içerik
Onayınızla buraya harici bir anket (Opinary GmbH) yüklenecektir.
Anketleri her zaman yükle
Anketi şimdi indirin
(ç)
Reklamcılık
CoSAI, bilim, diğer kuruluşlar ve genel olarak BT sektörü ile birlikte çalışmak ve başlangıçta üç çalışma grubuna liderlik etmek istiyor: Yapay zeka tedarik zincirinin güvenliğini sağlamak (Yapay zeka sistemleri için yazılım tedarik zinciri güvenliği), yapay zekanın getirdiği değişen tehdit senaryolarına yönelik BT güvenliğini hazırlamak ve yapay zeka güvenliğini yönetmek (Yapay zeka güvenlik yönetişimi).
Üç çalışma grubunun görevleri
Örneğin, ikinci grup, sektördeki insanların daha az zıt anlamlı konuşması için bir terim tanımları sistemi geliştirmektir. Yapılacaklar listesi ayrıca AI uygulamalarının güvenlik sorunlarına hazırlığını, yönetimini ve izlenmesini ve güvenlik sorunlarının raporlanmasını değerlendirmek için kontrol listeleri ve standart değerlendirme sistemleri içerir.
AI destekli saldırganlara karşı mücadelede BT güvenliğini güçlendirmek için ikinci CoSAI çalışma grubu, BT savunucularının azaltma önlemlerine yatırım yapma konusunda karar vermelerine yardımcı olacak bir çerçeve oluşturacaktır. İlk çalışma grubu, klasik yazılımlarla ilgili deneyime dayalı yönergeler geliştirecektir. Bu yönergeler, belirli bir AI'nın nasıl ortaya çıktığını (köken ve geliştirme) ve tehditler hakkında sonuçlar çıkarabilmek için üçüncü taraf teklifleriyle nasıl etkileşime girebileceğini bulmaya yardımcı olmalıdır.
Diğer girişimler
Sonbaharda Google, üçüncü tarafların AI güvenlik açıklarını avlamasını teşvik etmek için hata ödül programını AI ürünlerini de kapsayacak şekilde genişletti. Geçtiğimiz yılın Haziran ayında, veri şirketi kendi Güvenli AI Çerçevesini yayınladı ve sektör ortaklarıyla birlikte gönüllü AI taahhütleri yayınladı.
Önerilen editoryal içerik
Onayınızla buraya harici bir anket (Opinary GmbH) yüklenecektir.
Anketleri her zaman yükle
Anketi şimdi indirin
(ç)