Yedinci bölümde şifreHaberler security'den podcast, sunucular Christopher ve Sylvester sözde hızlı enjeksiyonları tartışıyor. Bunlar, (Chat)GPT gibi sesli AI'lara dayanan yazılımlara sızmak için kullanılabilen saldırılardır. Hızlı enjeksiyonlar, klasik BT güvenliğinden uzaktan kod yürütmeye benzer: Başarılı olursa, saldırgan altta yatan sesli AI'nın kontrolünü ele geçirir ve bu sesli AI'nın erişebildiği her şeyi kontrol edebilir.
Reklamcılık
Bu tür bir saldırı ile saldırganlar, kullanıcıyı kandırmak için bir AI sistemine yeni (gizli) bir görev verebilir veya ona yeni (kötü niyetli) bir kimlik öğretebilirler. Ayrıca sistemin erişebildiği araçları ve API'leri çağırabilirler. Veriler ayrıca çeşitli şekillerde, ya kullanıcıyı işbirliği yapmaya ikna ederek ya da saldırıya uğrayan yazılımın AI çıktısında bağlantılar ve dış kaynaklar konusunda çok cömert olması nedeniyle sızdırılabilir. Ne yazık ki, ikincisi istisna olmaktan çok kuraldır.
Chistopher ve Sylvester, dil AI'larının ilk etapta neden anında enjeksiyonlara karşı savunmasız olduğunu ve saldırıların neden basitçe giriş verilerini doğrulayarak filtrelenemeyeceğini tartışıyor. Anında enjeksiyonları tespit etmek yalnızca otomatik sistemler için zor değil: Ayrıca, kullanıcılardan anında enjeksiyon içeren enfekte verileri işlediklerini gizlemek için çeşitli numaralar da kullanılabilir.
İki sunucu da diğer olası karşı önlemlere bakıyor, ancak – diyelim ki – hiçbiri %100 etkili değil. Pratikte, sıklıkla olduğu gibi, her şey çok daha kötü çünkü birçok şirket bilinen karşı önlemleri bile kullanmıyor. Yapay zeka çılgınlığının telaşında, BT güvenliği endişelerine ayıracak neredeyse hiç zaman yok. En azından konu yavaş yavaş netleşiyor, böylece örneğin, hata ödülleri de anında enjeksiyon saldırıları için ödeniyor.
“Şifre – Haberler Güvenlik Podcasti”nin yeni bölümü bu Çarşamba gününden itibaren tüm podcast platformlarından indirilebiliyor.
(sürekli)
Reklamcılık
Bu tür bir saldırı ile saldırganlar, kullanıcıyı kandırmak için bir AI sistemine yeni (gizli) bir görev verebilir veya ona yeni (kötü niyetli) bir kimlik öğretebilirler. Ayrıca sistemin erişebildiği araçları ve API'leri çağırabilirler. Veriler ayrıca çeşitli şekillerde, ya kullanıcıyı işbirliği yapmaya ikna ederek ya da saldırıya uğrayan yazılımın AI çıktısında bağlantılar ve dış kaynaklar konusunda çok cömert olması nedeniyle sızdırılabilir. Ne yazık ki, ikincisi istisna olmaktan çok kuraldır.
Chistopher ve Sylvester, dil AI'larının ilk etapta neden anında enjeksiyonlara karşı savunmasız olduğunu ve saldırıların neden basitçe giriş verilerini doğrulayarak filtrelenemeyeceğini tartışıyor. Anında enjeksiyonları tespit etmek yalnızca otomatik sistemler için zor değil: Ayrıca, kullanıcılardan anında enjeksiyon içeren enfekte verileri işlediklerini gizlemek için çeşitli numaralar da kullanılabilir.
İki sunucu da diğer olası karşı önlemlere bakıyor, ancak – diyelim ki – hiçbiri %100 etkili değil. Pratikte, sıklıkla olduğu gibi, her şey çok daha kötü çünkü birçok şirket bilinen karşı önlemleri bile kullanmıyor. Yapay zeka çılgınlığının telaşında, BT güvenliği endişelerine ayıracak neredeyse hiç zaman yok. En azından konu yavaş yavaş netleşiyor, böylece örneğin, hata ödülleri de anında enjeksiyon saldırıları için ödeniyor.
“Şifre – Haberler Güvenlik Podcasti”nin yeni bölümü bu Çarşamba gününden itibaren tüm podcast platformlarından indirilebiliyor.
(sürekli)