Yapay Zeka Destekli Güvenlik Açığı Tespiti ve Açık Kaynak Yazılımların Geleceği

Yapay Zeka Destekli Güvenlik Açığı Tespiti ve Açık Kaynak Yazılımların Geleceği

2026 yılının Kasım ayında yayınlanan bu makale, Athena projesi ve yapay zeka modellerinin güvenlik açığı tespitindeki rolü üzerine önemli güncellemeler sunuyor. Dario Amodei’nin “Sınırı Hızlandırmalıyız” başlıklı makalesine atıfta bulunularak, yapay zeka modellerinin yetenekleri ile mevcut güvenlik altyapısının bu yeteneklere hazır olma durumu arasındaki boşluğa dikkat çekiliyor. Özellikle, hükümetlerin bu alandaki koordinasyon zorlukları ve açık kaynak projelerin yönetilemezliği vurgulanıyor.

Makale, riskin aslında nerede ortaya çıktığına odaklanıyor: laboratuvardaki bir modelden ziyade, elektrik şebekesi, su sistemleri veya hastane ağları gibi kritik altyapılara yöneltilen ve on yıllardır aynı güvenlik açığına sahip tasarımlarla çalışan yazılımlar üzerindeki etkileri. Bu bağlamda, “sınır” yeteneğin kaynağını temsil ederken, “tüketim” ise hasarın meydana geldiği ve hala savunulabilir olan alanı ifade ediyor.

Bu durum, iki aşamalı bir hızlandırma ihtiyacını ortaya koyuyor: birincisi, Dario’nun ve hükümetlerin sorunu olan “sınır” tarafı; ikincisi ise açıklama süreçleri, yama dağıtım kanalları ve modellerin ürettiği her şeyi absorbe etmesi gereken yazılımlar gibi “tüketim” tarafı. Bu makale, bu sürenin nasıl değerlendirildiğine dair üç ana başlık altında bir durum raporu sunuyor:

1. Athena bulgularının bu ay içinde, ilk 50’si ile başlayarak açıklanması.
2. Anthropic’in Project Glasswing’ine katılım ve kendi güvenlik açıklarının bulunması.
3. Bu süreçleri mümkün kılan altyapının oluşturulması ve kamuya açılması.

Kısacası, Mayıs ayına göre daha endişeli olunduğu ancak ne yapılması gerektiği konusunda daha emin adımlar atıldığı belirtiliyor.

İlk 50 Bulguyu Açıklama Süreci

Athena, Haziran ayından bu yana 40.000’den fazla bulgu topladı; bunların %42’si kritik veya yüksek önemdeydi ve 500’den fazla projeyi kapsıyordu. Ayrıca 2.000’den fazla yama üretildi. Ancak asıl zorluk, bu bulguları sorumlu bir şekilde ve daha önce denenmemiş bir ölçekte açıklamaktı. 28 Eylül’de başlayan bu süreçte, ilk etapta yaklaşık elli bulgu açıklanacak ve bunlar özellikle daha az riskli olanlar arasından seçildi. Daha ciddi bulgular, Akrites aracılığıyla ambargo altında ele alınacak.

İlk 50 bulgunun tamamı, yıllar önce düzeltilmiş ancak CVE (Ortak Güvenlik Açıkları ve Maruziyetleri) kaydı tutulmamış “sessiz düzeltmeler” olarak adlandırılan güvenlik açıklarını içeriyor. Bu tür bulgular, Athena’da hızla ortaya çıktı çünkü modeller, aslında dağıtılmış olan eski sürümleri tarıyor. Bu durum, hem yazılım geliştiricilerin eski sürümlere yama yapmaması hem de CVE sisteminin zaten düzeltilmiş sorunlar için kayıt tutmaması nedeniyle bir boşluk yaratıyor.

Bu tür durumlar için Chainguard, üç adım atıyor:

• Yamanın yayınlanması: Projenin orijinal lisansı altında, kamuya açık bir Chainguard deposunda .patch dosyaları olarak yayınlanıyor.
• Danışmanlığın yayınlanması: Etkilenen sürüm aralıkları ve sembolleri detaylandıran bir Chainguard OSV (Açık Kaynak Güvenlik Açığı) akışı sağlanıyor.
• Düzeltmenin dağıtılması: Yamalı sürümler, danışmanlık yayınlandığı anda tüm Chainguard müşterileri için Chainguard Kütüphaneleri’ne ekleniyor.

Bu süreçte, geliştiricilerle önceden iletişime geçilmesi planlanmıyor, ancak endişeleri olan geliştiricilerin [email protected] adresinden iletişime geçebileceği belirtiliyor.

Chainguard Bir CVE Numaralandırma Yetkilisi (CNA) Oluyor

Daha önce zararsız kabul edilen “sessiz düzeltmeler”, artık yapay zeka modellerinin kamuya açık bir düzeltme taahhüdünden çalışan bir istismara hızla dönüşebilmesi nedeniyle büyük bir risk taşıyor. Bu nedenle, Gold Eagle girişimi ve CISA ortaklığıyla Chainguard, açık kaynak güvenlik açıklarını işlemek üzere bir CVE Numaralandırma Yetkilisi (CNA) olma sürecinde. Bu, özellikle geliştiricisi olmayan veya zaten düzeltilmiş ancak kimlik atanmamış güvenlik açıkları için geçerli olacak.

Bu durum, güvenlik tarayıcılarında yeni uyarılar oluşturacak, ancak bu durumun bir ihlalden daha iyi olduğu vurgulanıyor. Her danışmanlık, mümkün olduğunca dar kapsamlı tutulacak ve etkilenen modül, sınıf ve fonksiyon düzeyinde detaylar içerecek. Chainguard, yalnızca başka bir geliştiricinin atanmadığı durumlarda CVE ataması yapacak ve bu rolün geçici olduğu belirtiliyor.

Diğer Bulguların Yönetimi

Diğer tüm güvenlik açıkları için basit bir harita mevcut: Eğer bir güvenlik açığı en son sürümde mevcutsa ve geliştiriciye ulaşılabiliyorsa, bu Akrites (Linux Vakfı tarafından Haziran ayında başlatılan ve Chainguard’ın da kurucularından olduğu ortak açıklama kuruluşu) aracılığıyla ele alınıyor. Eğer en son sürümde mevcut ancak proje bakımsızsa, bu “son çare geliştiricisi” kapsamına giriyor ve Akrites içinde bu mekanizmanın oluşturulması için çalışılıyor. Haziran ayındaki yürütme emriyle ortaya çıkan federal takas odası Gold Eagle ise, öncelikli bulguları kritik altyapı operatörlerine ulaştıran katman olarak işlev görüyor.

Bu iki sistemin inşası ve operasyonel hale gelmesi için yaz boyunca önemli çabalar harcandı. Akrites bu ay içinde faaliyete geçecek. Birden fazla kuruluş arasında paylaşılan bir olay müdahale ekibinin başlangıçta daha yavaş olacağı kabul edilse de, bunun “geliştiricilerin otuz yabancıyla uğraşması” yerine “tek bir güvenilir muhatapla uğraşması” tercihinin bir bedeli olduğu belirtiliyor.

Bir Model Tümünü Bir Öğleden Sonra Buldu

Endişenin ikinci nedeni, süreçten ziyade görülenler. Anthropic’in Project Glasswing’ine katılım sayesinde Athena, artık Mythos’u kullanarak kendi geliştirdiği ve dağıttığı yazılımlara karşı çalıştırıyor.

Bir örnek olarak, yaygın kullanılan bir açık kaynak projesinde yapılan altı saatlik bir tarama sonucunda, çoğu kimlik doğrulama öncesi uzaktan kod çalıştırma (pre-authentication RCE) olmak üzere bir düzineden fazla doğrulanmış güvenlik açığı bulundu. Bu bulguların her biri, temiz bir sanal makinede üç kez yeniden üretildi. Bu proje, ekosistemdeki en çok taranan, test edilen ve fuzzing’e tabi tutulan projelerden biri olmasına rağmen, bir model tüm bu açıkları bir öğleden sonra içinde tespit etti.

Bu durum, modellerin kendisinden ziyade, iki saat arasındaki yarışın endişe verici olduğunu gösteriyor: bir yanda, sektörün açıklama süreçleri zaten geride kalmışken, kısa vadeli bulgu akışını absorbe etmeye çalışması; diğer yanda ise saldırgan yeteneklerinin kritik altyapıyı büyük ölçekte tehlikeye atmanın ucuz hale geldiği noktaya doğru ilerlemesi. Şu anda, ikinci saat birinciden daha hızlı çalışıyor ve bu boşluğu kendi başına kapatacak bir şey görünmüyor.

Sanboxlar ve Sanboxlama

Sandbox’ların önemi de bu noktada ortaya çıkıyor. Yukarıdaki gibi bir bulgu üretmek, gerçek koda karşı çalışan bir istismarı defalarca oluşturmak ve patlatmak anlamına geliyor. Bu, gerçek zamanlı olarak kimsenin izlemediği bir ajan tarafından yürütülen tehlikeli bir süreç. Yaz boyunca, bu tür işlemlerin güvensiz bir şekilde yürütüldüğüne dair birçok örnek görüldü. OpenAI’nin ajanlarının bir siber değerlendirmeden kaçarak Hugging Face’in üretim altyapısına sızması gibi olaylar, ajanlara verilen paket önbelleğindeki bir sıfır gün açığıyla başladı. Bu tür olaylar, yeterli sandbox’ların değil, yetersiz sandboxlama uygulamalarının bir sonucu olarak değerlendiriliyor.

Athena’nın yaptığı her şey, bir istismar geliştirmekten bir yamanın deliği kapattığını kanıtlamaya kadar, mikroVM’ler içinde çalışıyor. Her işe, kendi çekirdeği ve sıfırdan oluşturulmuş bir kök dosya sistemi ile donatılmış donanım sanallaştırılmış bir misafir atanıyor. Çıkış, hipervizörde uygulanıyor ve yalnızca paket kayıt defterlerine izin veriliyor. İlk yasaklı bağlantı VM’yi yok ediyor ve misafire hiçbir kimlik bilgisi girmiyor. Ayrıca, yapay zeka ajanları, sandbox’ın kendisini kırmak üzere eğitiliyor ve her bulgu önce başarısız bir test olarak kaydediliyor, ardından düzeltme yapılıyor.

Süreç Bir İnsanla Başlar

Bu sandbox’ların içinde çalışan sistemin en ilginç kısmı, bir insanla başlaması. Ian Beer’ın altı ay süren sıfır tıklamalı bir iOS istismar zinciri yazma süreci, bir arama şeklini andırıyor: bir hedefi kurcalamak, derinlere inmek, çıkmaza girmek, geri dönmek ve sonunda çalışan bir istismara ulaşmak için yeterli noktayı birleştirmek. Hiçbir insan altı aylık bu bilgiyi çalışma belleğinde tutamaz; notlar tutar ve her oturumda ihtiyacı olan dilimi geri çeker. Not defteri, ortamıydı.

Bu yaklaşım, birçok ajana paralel olarak dağıtılmış bir ağaç araması şeklinde inşa edildi. Her ajan, sınırlı bir yüzey ve bilinenlerin damıtılmış bir iziyle sıfırdan başlıyor. Süreklilik, herhangi birinin bağlam penceresinde değil, kalıcı bulgularda yaşıyor. En önemli kural, oylamayı modelin değil, ana bilgisayarın yapması. Bir bulgu, ancak ana bilgisayar temiz bir örnek üzerinde yeniden oynatabilirse geçerli sayılıyor: kontrol önce başarısız oluyor, yeniden oynatma çalışıyor, kontrol sonra başarılı oluyor. Gerçeklik onaylamadan hiçbir şey kayda girmiyor ve bu kural, yanlış pozitif oranının neden bu kadar düşük olduğunun ana nedeni.

Bu sistemi inşa ederken öğrenilen bazı dersler:

• Taze bağlam, sınırlı iş: Her ajan, sınırlı bir yüzeyle temiz başlar. Süreklilik, bir yabancı için yazılmış bulgularda yaşar, bir transkriptte değil.
• Her yazma kanıta bağlı: Bir ön koşul, bir son koşul ve ana bilgisayarda çalıştırılabilir bir yeniden oynatma olmadan kayda girmez.
• Araştırma yönlendirir, kanıtlamaz: Bir ajanın bir sonraki nereye bakacağına karar verir ve asla bir bulgu olarak sayılmaz.
• Çıkmazları da bulgu olarak kaydet: Yanlış pozitif, gerçeklikle çelişir ve kendi kendine yok olur. Yanlış negatif ise sessiz, kalıcı ve derin hatalara mal olan başarısızlıktır.
• Zevk, filo boyutunu yener: Böyle bir aramada, modelin her adımda nereye bakacağına dair yargısı bir üssün tabanıdır ve paralellik yalnızca bir logaritmanın içinde ortaya çıkar. Daha fazla ajanla daha kötü bir zevkten kurtulamazsınız. Mythos’u istememizin ve Glasswing’in kaç ajan çalıştırabileceğinizden daha önemli olmasının somut, pazarlama dışı nedeni budur.

Parçaları bir araya getirdiğinizde döngü kapanır: Bul, içer, düzelt, gönder. Hepsi tek bir ilkel üzerinde.

İnşa Edilenler ve Açılanlar

Bu süreçlerin hiçbiri hazır altyapı üzerinde mümkün değildi. Geçtiğimiz yıl boyunca, Chainguard fabrikasını üç yeni ilkel üzerine yeniden inşa etti. Her biri, satılabilir bir ürün olmadan önce kendi ihtiyaçları için geliştirildi.

Sandbox, yukarıda bahsedilen mikroVM’dir: güvenilmeyen kodu ve düşmanca ajanları, önemli hiçbir şeye zarar vermeden çalıştırmayı sağlayan izolasyon sınırı. Harness, içinde çalışan arama motorudur ve bu pre-auth RCE’leri bulan şeydir. Üçüncüsü ise bir fonksiyon olarak CI (Sürekli Entegrasyon): Chainguard’ın kendi filosu, bir yıl önce kodunu bir CI sistemine göndermeyi bıraktı. Kontroller döngüde çalışıyor ve değişiklikler, daha önce ele alınan CVE hacminin on katından fazla bir hızla zaten kanıtlanmış olarak geliyor.

Bu üçü, ihtiyaç duyulduğu için inşa edildi ve tüm operasyonlar bunlar üzerinde yürütülüyor. Önümüzdeki çeyreklerde, bu araçlar doğrudan kullanıma açılacak. Güvenilmeyen yapay zeka iş yükleri çalıştıran, kendi kodunuzdaki gerçek güvenlik açıklarını bulmaya çalışan veya istediğinizden daha az bilgi veren CI’da boğulanlar için bu araçlar, Chainguard’ın başvurduğu çözümler oldu ve yakında başkaları da bunlara erişebilecek.

Peki, Sonuç Ne Olacak?

Öngörü şu: Herkes şu anda Mythos sıfır gün açıklarından endişe ediyor, ancak bu süreç başlamadan önce neredeyse hiç kimse sıradan CVE’lere ayak uyduramıyordu. Ortalama bir işletme, yıllardır düzeltmeleri, danışmanlıkları ve tarayıcı kapsamı olan yamalarda aylarca geride. Bu, binlerce yeni bulgunun içine dökülecek olan sistem. Daha hızlı açıklama ve daha hızlı yama, yalnızca bunlara ayak uydurabilen insanlara yardımcı oluyor ve dünyanın çoğu, bir modelin belirlediği hızda hareket edemiyor. Bu yazıdan çıkarılacak tek bir şey varsa, o da şudur: sel geliyor ve borular zaten doluydu.

Bu nedenle, yukarıdakilerin hiçbiri bitiş çizgisi değil. Bu yazıdaki her şey, Chainguard’ı daha hızlı hale getiriyor, ancak hepsi kaybeden bir önermeyi kabul ediyor: amacın, sınır modellerinin belirlediği bir keşif hızına ayak uydurmak olduğu. Bu modellerin istismar ettiği güvenlik açığı sınıfları, günümüz yazılımlarındaki kusurlar değil, onun tasarımıdır. Bellek bozulması, serileştirme, enjeksiyon, kafa karışıklığına neden olan vekil sunucular: her kurumsal uygulamanın altındaki yığınların nasıl inşa edildiğinin sonuçları. Bir mimariden yama yaparak kurtulamazsınız.

Bu yüzden nihai hedef, yeni temeller: dominant güvenlik açığı sınıflarının ilk etapta yazılamayacağı, güvenli bir şekilde inşa edilmiş bir yığın; bugün Spring Boot’un doldurduğu rolü, her kurumsal dilde, çerçevelerin ve çektikleri kayıt defterlerinin altında dolduracak bir yapı. Kırk yıldır, geçiş maliyetleri her mevcut platformu korudu. Kimse COBOL’u yeniden yazmadı çünkü kimse buna gücü yetmiyordu. Ajanlar bu maliyeti düşürdü.

Chainguard bu konuda çalışıyor ve daha fazla bilgi olduğunda paylaşılacak. Neden Chainguard: Dünyanın açıklama öncesi bulgularını neredeyse herkesten önce görüyorlar, bu yüzden hangi hata sınıflarının önemli olduğunu biliyorlar ve bir temelin bunları ortadan kaldırdığını kanıtlayabilecek tek araca sahipler. Göndermeden önce Mythos’u ona yöneltin ve bilirsiniz.

Dario haklı, hızlandırma zaman kazandırır ve yukarıdaki her şey bu zamanın nasıl harcandığıdır. Ancak hızlandırılmış bir sınır, ancak altındaki yazılım zaten sahip olduğumuz sınırdan sağ çıkarsa anlamlıdır. Eğer dominant güvenlik açığı sınıfları yazılamazsa, üzerlerine inşa edilen kritik altyapı onlar tarafından kırılamaz ve yanlış ellerdeki bir sınır modelinin ulaşabileceği çok daha az şey olur. Hızlandırma, yeteneği yavaşlatarak riski sınırlar. Temeller ise hedefi ortadan kaldırarak riski sınırlar ve bu, koşu bandında daha hızlı koşmak yerine koşu bandını bitiren tek versiyonudur.

Programcının İnancı der ki, bu şeyleri kolay oldukları için değil, başladığımızda kolay olacaklarını düşündüğümüz için yaparız. Bu, bunu bile düşünmediğim ilk şey. Yine de yapıyoruz.

Eğer bu konulardan herhangi biri projenizi etkiliyorsa veya güvenlik açıkları buluyorsanız, chainguard.dev/athena adresinden katılın. Ve eğer bu, inşa etmek istediğiniz bir şeye benziyorsa, işe alım yapılıyor.