Google: Yapay Zeka İstismarı Yamaları Silaha Çeviriyor
Google Tehdit İstihbarat Grubu (GTIG), bilgisayar korsanlarının güvenlik yamalarını istismarlara dönüştürmek için bir yapay zeka aracısı kullandığını bildirdi. Bu gelişme, siber güvenlik dünyasında yeni bir tehdit seviyesine işaret ediyor. Saldırganlar, insan müdahalesi olmadan yazılım kusurlarını tespit edip otomatik olarak istismarlar geliştiriyor ve çalıştırıyor.
16 Kasım’da yayımlanan Google’ın en son AI Tehdit Takip raporu, “exploit_agent” adlı bir çerçeveyi detaylandırıyor. Bu çerçeve, güvenlik yamaları sonrası yazılım değişikliklerini inceliyor. Ayrıca eski ve güncellenmiş kodları karşılaştırarak düzeltilen zayıflığı arıyor. Sonrasında bu bulguyu bir istismara dönüştürmeye çalışıyor.
Otomatik Güvenlik Açığı Araştırması
GTIG, bu durumu tehdit aktörlerinin güvenlik açığı araştırmasını ve istismarını tamamen otomatikleştirdiğine dair ilk gözlemi olarak tanımlıyor. Bu, siber saldırıların evriminde önemli bir eşik anlamına geliyor. Rusça yapılandırma yorumları, araçla birlikte bulundu. Ancak dil tek başına operatörün milliyetini belirlemiyor.
Google’ın raporu, bu çerçeveyi açıkta kalan bir hazırlık sunucusunda buldu. Sunucuda ayrıca çalınan mağdur verileri ve kötü amaçlı faaliyetler için komut dosyaları da yer alıyordu. Sunucudaki materyaller, Fransız medya, eğlence ve eğitim web sitelerine yönelik bir ilgiye işaret ediyordu. Ancak rapor, çerçevenin başarı oranını veya her üretilen istismarın çalıştığını doğrulamıyor.
Açık Kaynak AI Araçları ve Etki Kampanyaları
Özel çerçeveye ek olarak, Google araştırmacıları siber suçluların ve casusluk aktörlerinin açık kaynaklı AI araçlarını kullandığını da takip etti. Bu araçlar, saldırılarının belirli bölümlerini otomatikleştirmek için kullanılıyor. Örneğin, CAIRN’in ABD havacılık sektörünü hedef alan saldırılarda kullanıldığı gözlemlendi. Ayrıca PentAGI’nin sahada konuşlandırıldığı ve CyberStrikeAI gibi diğer çerçevelerle deneyler yapıldığı görüldü.
Bu araçlar, dil modellerini güvenlik araçlarına bağlıyor. Dolayısıyla eylemleri seçmelerine ve sonuçlara yanıt vermelerine olanak tanıyor. Bu tür araçların erişilebilirliği, saldırganlara her bileşeni kendileri inşa etmeden görevleri otomatikleştirme imkanı sunuyor. Google, otomatik araçların dikkat çekici aktivite ve güvenilmez sonuçlar üretebileceği konusunda uyarıyor. Ancak daha hızlı yürütme, her saldırının başarılı olacağı veya tespit edilmekten kaçınacağı anlamına gelmiyor.
Rapor, yapay zeka kullanımının etki kampanyalarını desteklediğini de gösteriyor. Bu kampanyalar, sahte kimlikler oluşturma ve içerik yayınlama hizmetlerini içeriyor. Bir vakada, ticari bir yüklenici, bulut tabanlı sanal telefonlar aracılığıyla 100.000’den fazla hesabı yönetmek için bir platform geliştirirken Gemini API’yi kullandı. Ayrı bir operasyon, bölgesel dil, gayri resmi ifade ve kasıtlı hatalar isteyen istemler kullandı. Görüntü oluşturma talimatları, sentetik materyali daha sıradan göstermek için gren ve düzensiz aydınlatma gibi simüle edilmiş akıllı telefon kamera kusurlarını içeriyordu.
Google ayrıca Çin bağlantılı aktörlerin çalınan bilgileri istihbarat ürünlerine dönüştürmek için dil modellerini kullandığını gözlemledi. Kuzey Kore bağlantılı faaliyetler ise kripto para işletmelerini hedef alan yapay zeka tarafından oluşturulan kimlikleri ve otonom kodlama asistanlarının yapılandırmasını manipüle etme girişimlerini içeriyordu.
Şirketler İçin Öneriler
Google, hizmetlerinin kötüye kullanımıyla ilişkili hesapları devre dışı bıraktı. Ayrıca bulguları güvenlik önlemlerini iyileştirmek için kullandı. Şirketler, hangi uygulamaların güncellenmesi gerektiğini kontrol etmeli ve güvenlik düzeltmelerini derhal uygulamalıdır. Özellikle internetten erişilebilen sistemlerde bu çok önemlidir. Bir güncelleme beklemek zorunda kalırsa, etkilenen uygulamaya erişimi sınırlamak yardımcı olabilir. Ayrıca, daha önceki bir uzlaşmanın işaretlerini de kontrol etmelidirler. Çünkü bir kusuru yamalamak, zaten erişim sağlamış bir saldırganı ortadan kaldırmaz.

Yorumlar 0
Henüz yorum yapılmamış. İlk yorumu siz yazın.