Cisco, Yapay Zeka Ajan Saldırılarını Tespit Etmek İçin Quarry Projesini Açık Kaynak Haline Getirdi

Cisco, Yapay Zeka Ajan Saldırılarını Tespit Etmek İçin Quarry Projesini Açık Kaynak Haline Getirdi

Yapay zeka (YZ) ajan saldırılarını tespit etmek, büyük bir samanlıkta dağılmış birden fazla küçük iğneyi bulmaktan daha fazlasıdır; iğnelerin birbirine bağlı olup olmadığını ve hangi amaçla bağlı olduğunu anlamaktır. Geleneksel güvenlik kontrolleri, bir niyetin kötü mü yoksa iyi huylu mu olduğunu sınıflandırmak için tek eylemleri değerlendirir. Bu yaklaşım, kötü niyetin yalnızca bir dizi iyi huylu eylemle ortaya çıktığı YZ ajan faaliyetlerinde başarısız olur. Ancak eylemlerin genel dizisi görüntülendiğinde veya eyleme geçirildiğinde belirgin hale gelir. Dolandırıcılık tespiti buna bir örnektir. Bir banka her satın alımı kendi başına analiz eder. Geleneksel güvenlik büyük ölçüde bu şekilde çalışır. Ancak dolandırıcılık tespiti, birden fazla satın alma işleminde, muhtemelen birden fazla konumda ve olası olmayan zamanlamalarla (potansiyel olarak ajan yeteneği kullanarak) görünüşte iyi huylu tek satın alımların kalıplarını görmelidir. Cisco, Project Quarry’nin açık kaynak olarak duyurulmasında, “Ajan güvenliği, satın alımlar yerine bir ajanın attığı adımlara uygulanan aynı kalıp tespiti ve kanıt kombinasyonuna ihtiyaç duyar” diye yazıyor.

Cisco, Quarry’yi makine öğrenimi yargısını kural tabanlı kontrollerle birleştiren nörosembolik bir kural dili olarak tanımlıyor. “Tek turlu ve çok turlu büyük dil modeli (LLM) konuşmalarını, ajanları, araç kullanımını, Model Bağlam Protokolü (MCP) etkileşimlerini ve çok modlu girdileri kapsar.” Tanımlanan her kural, ML sınıflandırıcılarından ve LLM yargıçlarından gelen nöral kanıtlara ve kesin koşulları, dizileri, dize eşleşmelerini ve araç ilişkilerini kontrol eden sembolik kurallara dayanır. Her dedektörün veya her uygulama kontrolünün yerine geçmek yerine paylaşılan bir politika katmanı sağlamak üzere tasarlanmıştır. Quarry, ajanlar üzerinde çalışma zamanı koruyucuları, sonradan kural kümesi güvenlik analizi ve olay müdahalesi sağlamak için kullanılabilir. Cisco’nun mevcut Entegre YZ Güvenlik ve Emniyet Çerçevesi ile entegre olur. Çerçeveyi YZ riskini tanımlamaktan ajan faaliyetindeki riski tespit etmeye doğru genişletir ve çerçeve için politika ve değerlendirme katmanı olarak konumlandırılır. Çerçeve YZ risklerini tanımlarken, Quarry ajan faaliyetindeki risklerin tespitini sağlar – çerçeve kategorileri ayrıca yeni kuralların daha da geliştirilmesi için bir yol haritası sunar.

Quarry’nin Tespit Amacı ve Geliştirilmesi

Quarry’nin tespit amacı, bireysel izin verilen eylemleri kapsayan şüpheli kalıpları belirlemektir. Bu tür kalıplar, ancak belirli bir süre sonra şüpheli hale gelebilir. 2025’te Claude Code, kötü niyetli aktörler tarafından iki kampanyada kullanıldı: biri yaklaşık 30 kuruluşa karşı, ikincisi ise Meksika hükümet kurumlarına karşı. İlk saldırı, mevcut savunmaya yeni savunma testinin bir parçası olduğunu söyleyen küçük, rutin görünümlü görevlere bölündü. Parçalarından yetkili bir sızma testi gibi görünüyordu, ancak gerçek niyet (veri hırsızlığı) ancak istekler doğru sırayla bir araya geldiğinde ortaya çıktı. Bir saldırıyı birden fazla bireysel iyi huylu adıma ayırma yeteneği, geleneksel savunmaları alt eder ve bu yeni nörosembolik tehdit tespitini gerektirir. Ancak bu, ‘bir kez yaz ve devam et’ gereksinimi değildir. Saldırganlar sürekli olarak saldırılarına yeni yaklaşımlar geliştiriyorlar. Bu nedenle, yeni bir saldırı tekniği tanındığında, savunucuların her yerdeki tüm kuruluşlar tarafından kullanılabilecek yeni bir Quarry kuralı yazarak hemen yanıt vermesi gerekir. Ancak yeni kuralları elle yazmak, saldırganların yeni kötü niyetli ajanlar geliştirmek için YZ kullanmasına karşı ölçeklenmez. Cisco, “Ajanların yanı sıra güvenlik ve YZ mühendislerinin de Quarry kuralları yazabilmesini istiyoruz” diye belirtiyor.

Quarry Eklentisi ve Açık Kaynak Avantajları

Bir Quarry Eklentisi, bir kodlama ajanının bir kuruluşun riskinin düz İngilizce açıklamasından kurallar oluşturmasına, derlemesine ve iyileştirmesine ve ardından bu kuralları gerçek konuşmalara karşı test etmesine olanak tanır. Bir kodlama ajanında geçen bir kural, çalışma zamanında da aynı şekilde davranmalıdır. Projeyi açık kaynak haline getirerek, geleneksel siber güvenlik saldırı ve savunma asimetrisi (bireysel savunuculara karşı birden fazla saldırgan) eşitlenir (birden fazla küresel saldırgan artık birden fazla küresel savunucuyla karşı karşıyadır). YZ’nin geliştirme için kullanılmasına izin vermek, kötü niyetli aktörlerin YZ destekli saldırılarda sahip olduğu hız avantajını da dengeler. Cisco, “Açık kaynak projesi, uygulayıcılara tespit mühendisliği için çalışan bir temel sağlar” diyor. Quarry başlangıç paketi şunları içerir: konuşmalar, araç kullanımı ve olay ilişkileri için okunabilir bir DSL; yapılandırılabilir güvenlik ve kaynak limitlerine sahip, her kuralı yüklendiğinde derleyen bir değerlendirme çalışma zamanı; bireysel izler, dizinler ve veri kümeleri için bir komut satırı tarayıcı; uygulama entegrasyonu için bir Python SDK; semantik sinyaller için isteğe bağlı yapılandırılmış model işlemleri; Claude Code, Codex ve diğer MCP uyumlu ajanlar için Quarry eklentisi; kural meta verileri, örnekler, belgeler ve mesaj formatı rehberliği; ve pozitif ve iyi huylu veri kümelerine karşı kuralları doğrulamak için bir iş akışı. Project Quarry, YZ ajan saldırıları için tespitleri ifade etmek ve paylaşmak için ortak, açık bir standart olmayı hedefliyor, tıpkı Snort, YARA ve Sigma’nın siber güvenliğin diğer alanlarında standart haline gelmesi gibi. Cisco, “Hugging Face, olaydan sonra yaklaşık 17.600 ajan eylemini yeniden yapılandırdı” diyor. “Project Quarry ile amacımız, savunucuların bu tür dizileri hala devam ederken tanımasına ve her bulgunun arkasındaki kanıtları üzerinde hareket etmesi gereken kişiler için korumasına yardımcı olmaktır.”

Kaynak: Orijinal haber