Yapay Zeka Güvenliğini Yeniden Düşünmek: CASB ve DLP İçin Etkileşim Odaklı Bir Katman Neden Gerekli?

Yapay Zeka Güvenliğini Yeniden Düşünmek: CASB ve DLP İçin Etkileşim Odaklı Bir Katman Neden Gerekli?

Geleneksel SaaS riskleri, bir uygulama, dosya veya yapılandırılmış veri alanı ile sınırlı kalabilirken, yapay zeka (YZ) riskleri çok daha farklı bir yapıya sahiptir. Bu riskler, bir komut isteminde ortaya çıkabilir, YZ modeli tarafından üretilen yanıtta görülebilir ve kuruluşların korktuğu senaryolardan biri olan kötü niyetli bir komut istemi nedeniyle otonom ajanların gerçekleştirdiği eylemlerde kendini gösterebilir. Ne yazık ki, bu senaryoların hiçbiri, Bulut Erişim Güvenliği Aracısı (CASB) ve Veri Kaybı Önleme (DLP) çözümlerinin denetlemek üzere tasarlandığı yapılarla her zaman tam olarak örtüşmez.

CASB’nin temel sorusu, bir kullanıcının belirli bir uygulamaya (YZ aracı dahil) erişmesine izin verilip verilmediği ve çoğu durumda, uygulama içinde neler yapabileceğini yönetmesidir. Ancak YZ söz konusu olduğunda, konuşmanın ardındaki anlamı da dikkate almak önemlidir. Geleneksel CASB kontrolleri, bir YZ konuşmasının semantik ve kümülatif bağlamını yeterli derinlikte değerlendiremeyebilir. İşte bu, ele alınması gereken önemli bir boşluktur.

Güvenlik, Etkileşimi Denetlemelidir

Kontroller, maruziyetin gerçekleştiği yerde işlemelidir ve bu durumda, maruziyet bir kişi ile YZ modeli arasındaki etkileşimde meydana gelmektedir. Bu, neyin sorulduğuna, modelin nasıl yanıt verdiğine, ajanın hangi araçları çağırdığına, hangi verileri alıp ilettiğine ve ortaya çıkan eylemlerinin izinli olup olmadığına yakından bakmak anlamına gelir. Sadece YZ hizmetine erişime izin verilip verilmeyeceğine karar vermekten öteye geçmek gerekmektedir. Birkaç senaryo, bu ayrımın neden önemli olduğunu göstermektedir:

• Ajan tabanlı iş akışlarında, onaylanmış bilgi tabanını alan ajan riskli değildir, ancak kısıtlı dahili belgeleri harici olarak iletmek kesinlikle risklidir.
• Zaten herkese açık bir belgeyi özetlemek düşük risklidir. Kısmi bir bağlamdan gizli bilgileri yeniden yapılandırmak ise risklidir.
• Alınan içeriği veri olarak işlemek beklenen bir davranıştır. Ancak talimatlar yeterince ustaca gömüldüğünde ve ajan bunları alıp takip ettiğinde, komut enjeksiyonu ciddi bir risk haline gelir, çünkü model veriyi talimatlardan güvenilir bir şekilde ayırt edemez.
• Bir ajanı veya oturumu doğrulamak temel bir kontroldür. Ancak düşük riskli bir isteğin aniden yüksek riskli bir eyleme dönüşebileceği durumlarda bu yeterli değildir; bu nedenle güvenlik, neye izin verilmesi gerektiğine karar vermek için YZ anomali tespitine ihtiyaç duyacaktır.

Erişimi Engellemek Yerine Yönetimi Genişletmek

Varsayılan olarak engelleme yaklaşımı uzun vadede sürdürülebilir değildir. Erişimi tamamen engellemek kağıt üzerinde güvenli görünse de, çalışanların son teslim tarihleri vardır ve bu durum, kullanımın kişisel hesaplara ve CASB’nin asla görmeyecek şekilde yapılandırılmadığı yönetilmeyen uzantılara kaymasına neden olur. Bu senaryo, gölge YZ’nin daha derinlemesine nüfuz etmesine yol açar.

YZ riskini azaltmak, CASB, DLP ve etkileşim düzeyinde denetim arasında bir savaş değildir. Her üçü de önemlidir ve aynı sorunun farklı katmanlarını çözer. Komut enjeksiyonunu ve ajan kötüye kullanımını daha sonra ele alınacak uç durumlar yerine, gerçek, günlük riskler olarak ele almak gerekmektedir. CASB ve DLP’yi kullanarak kullanılan SaaS ve YZ uygulamalarını keşfetmek, erişimi yönetmek, bilinen hassas kalıpları tespit etmek ve uyumluluk raporlamasını desteklemek önemlidir. Ayrıca, bir komut isteminin semantiğine, yanıtın hassas doğasına ve bir ajanın eyleminin yetkilendirilip yetkilendirilmediğine derinlemesine inen bir etkileşim katmanı eklemek gerekmektedir.

Kaynak: Orijinal haber