OpenRouter, Yapay Zeka Barındırma Firmalarında Aylarca Süren İstek Hırsızlığı Sonrası Üç Sağlayıcıyı Kaldırdı
OpenRouter, yapay zeka barındırma firmalarında aylarca süren istek hırsızlığı nedeniyle üç sağlayıcıyı platformundan çıkardı. Endüstriyel siber güvenlik şirketi Dragos, araştırmacıların bu firmalardan veri çalındığını tespit ettiğini açıkladı. Ayrıca, çalınan isteklerin bazılarının “Sıfır Veri Saklama” (Zero Data Retention) olarak işaretlenmiş olması dikkat çekti. Bu ayar, isteklerin asla saklanmaması gerektiğini belirtir.
OpenRouter, müşterilerin yapay zeka isteklerini üçüncü taraf sağlayıcılara yönlendiren bir ağ geçididir. Şirket, platformundan üç sağlayıcıyı kaldırdı. Ayrıca, 125 uç noktayı Sıfır Veri Saklama uygunluğundan çıkardı ve etkilenme potansiyeli olan tüm müşterileri bilgilendirdi. Şirket, kendi platformunda herhangi bir ihlal yaşanmadığını belirtti.
Yapay Zeka İstek Hırsızlığı Nasıl Gerçekleşti?
Dragos’un kanarya belirteci araştırması, Temmuz ve Kasım ayları arasında yaklaşık iki milyon isteği benzersiz web bağlantıları ve kimlik bilgileriyle besledi. Daha sonra bu belirteçlerin kullanımını izledi. Bu yöntem, gizli bir bilginin yalnızca tek bir yerde öğrenilebileceği ilkesine dayanır. Bu nedenle, herhangi bir kullanım, birinin ilgili isteği okuduğu anlamına gelir.
İhlallerin en eskisi Temmuz ortasında başladı. Yerleştirilen istekler yem olarak kullanıldı. Ancak bunlar gerçek müşteri istekleriyle birlikte işlendi. Bu durum, gerçek müşteri verilerinin de kopyalandığını gösteriyor. En büyük ihlal, Ekim sonunda birkaç kısa zaman diliminde gönderilen yüzlerce AWS anahtarını içeriyordu. Bu anahtarların her biri, tek bir sağlayıcıya yalnızca bir istekte gönderildi. Bu pencereler sırasında gönderilen her istek çalındı. Bazı istekler, model çalışmadan önce sağlayıcı tarafından reddedilmiş olsa bile çalındı. Bu durum, saldırganın trafiği çıkarım yığınının derinliklerinde değil, ilk varış noktasında kopyaladığını gösteriyor.
Saldırganların Yöntemleri ve Sonuçları
Hırsız, bazı durumlarda anahtarları birkaç saat içinde test etti. S3 kovalarını listeledi, Secrets Manager ve Parameter Store’u aradı. Ayrıca Bedrock API anahtarları oluşturmaya ve IAM kullanıcılarını erişimi sürdürmek için eklemeye çalıştı. Bu eylemler on binlerce AWS API çağrısına yol açtı. Bir saldırganın iki sağlayıcıyı aynı anda tehlikeye attığı düşünülüyor. Tek bir kiralık sunucudan her iki sağlayıcıdan da gizli bilgiler kullanıldı.
1 Kasım’da aynı saldırgan, ARTEX adlı yapay zeka destekli bir sızma testi çerçevesi kullandı. Bu çerçeveyi yalnızca zaten sahip olduğu anahtarların hala aktif olduğunu doğrulamak için kullandı. ARTEX’in artex-agent ve artex-judge-r121 kullanıcı aracıları, kamuya açık hiçbir gösterge listesinde bulunmuyor. Bu nedenle tespitlere eklenmesi öneriliyor.
Veri Saklama Politikalarının Önemi
Dragos Baş Araştırma Sorumlusu HD Moore, “Saldırgan zaten içerideyken bir gizlilik bayrağı yardımcı olmaz” dedi. İkinci bir bulgu ise herhangi bir ihlal gerektirmedi. Yapay zeka çıkarım pazarındaki satıcılar, modelleri en düşük fiyatlarla listeledi. İstek kaydını etkinleştirdi ve akıp giden verileri topladı. Bu kişiler, ev internet bağlantıları olan bireyler gibi görünüyordu. Örneğin, Fransa’da ev geniş bant bağlantısı kullanan bir Mac’ten çalışan bir kişi, iki istekten şifreleri aldı. Daha sonra SSH kök oturum açma denemelerini manuel olarak yazdı. Aynı makineyi kullanarak birkaç yerleştirilmiş AWS anahtarını test etti.
Bu anahtarlardan biri, trafiğinin bir kısmını sessizce pazara yönlendiren farklı bir yönlendirici üzerinden geçmişti. Müşterilere bu aktarım hakkında bilgi verilmedi. İlgili yönlendirici, bu işlemi durdurduğunu bildirdi. Yaklaşık 2.000 yol boyunca yapılan rota izleme, yüzlerce tanımlanamayan sistem buldu. Ayrıca, her isteğe sessizce yaklaşık 1.000 gizli belirteç ekleyen bir satıcı da tespit edildi.
Uluslararası Veri Akışı ve Güvenlik Önlemleri
Araştırmada adı geçmeyen bir Çin yapay zeka laboratuvarı, Temmuz ve Ekim ayları arasında modellerine gönderilen iki milyondan fazla isteğin yarısından fazlasındaki gizli bağlantıları aldı. Buna, veri toplama veya Sıfır Veri Saklama olarak işaretlenmiş isteklerin yaklaşık üçte ikisi dahildir. Laboratuvarın modellerini yeniden satan ABD barındırma sağlayıcılarına gönderilen istekler, aynı kazıyıcıyı tetikledi. Böylece veriler laboratuvara geri aktı.
Daha sonra başka bir bulut üzerindeki bir git istemcisi, isteklerde referans verilen özel depoları klonlamaya çalıştı. Ancak bu yalnızca o laboratuvarın modelleri için geçerliydi. Büyük bir ABD sağlayıcısı, arama uç noktasına yapılan tek bir isteğin ardından iki aydan fazla bir süre gizli bir bağlantıyı taramaya devam etti.
Bir isteğin gönderilmesinden yirmi dört gün sonra, gizli bağlantısı Çin’in iş yeri uygulaması Feishu’da (başka yerlerde Lark olarak bilinir) bir sohbete gönderildi. Bağlantı, Pekin ve Şanghay’daki üç masaüstü ve üç telefondan iki dakika içinde açıldı. Firma, sağlayıcının bağlantısının yalnızca ilk 8 karakterini açıklamıştı. Bu nedenle, bağlantıyı gönderen kişi, tam isteğin önbelleğe alınmış bir kopyasını okuyordu. Moore’un belirttiğine göre, işaretlenmiş istekler pratikte saklandı, diğer şirketlere iletildi ve insanlar tarafından okundu.
OpenRouter’ın Aldığı Tedbirler
OpenRouter, bir olay duyurusunda, Sıfır Veri Saklama uygunluğundan çıkarılan 125 uç noktanın, araştırmacılar tarafından işaretlenen sağlayıcıları ve önlem olarak kaldırılan diğerlerini kapsadığını belirtti. İnceleme sırasında kaldırılan herhangi bir uç nokta, durumunun geri döndürülmesi için güvenceler ve doğrulama gerektirecektir. Ağ geçidi, araştırmacıların test yaklaşımını sürekli olarak çalışacak şekilde uyarlıyor. Ayrıca, isteklerin ve yanıtların üçüncü taraflara iletilebileceği ağ yollarını doğruluyor.
Araştırmacılar şu anda yaklaşık bir düzine sağlayıcıyla çalışıyor. Yerleştirilen anahtarlara ve gizli bağlantılara, ilk hırsızlıklardan aylar sonra bile erişilmeye devam ediliyor. Railway adlı bir platform şirketi, Ekim ayında yaşadığı bir ihlalin, yapay zeka çıkarım sağlayıcılarını hedefleyen bir dizi saldırının parçası olduğunu belirtti. Ağ geçidi, etkilenen tüm kullanıcıları bilgilendirdiğini ancak tüm sağlayıcıların kamuya açıklama yapmadığını söyledi. Üç sağlayıcı kamuya açıklama yaptı.
Etkilenen Sağlayıcıların Açıklamaları
Phala’nın Ön Raporu
Phala, geçen hafta yayınladığı ön olay raporunda, bir saldırganın bir çıkarım sunucusunun kontrolünü ele geçirdiğini belirtti. Bu durum, istek verileri işlenirken görüntülenebildiği anlamına geliyor. Olay 8 Kasım’da kontrol altına alındı. Model hizmeti, ek korumalarla birlikte geri yüklendi. Rapora göre, 21 Ekim 00:00 UTC ile 8 Kasım 05:35 UTC arasında ağ geçidi üzerinden Phala’ya ulaşan DeepSeek V4 Flash 0731 modeline yapılan istekler ifşa edilmiş kabul edilmelidir. Bu isteklerdeki her anahtar, belirteç, şifre veya diğer gizli bilgiler değiştirilmelidir.
Üçüncü taraf bir araştırmacı, 1 Temmuz’dan bu yana isteklere benzersiz kanarya kimlik bilgileri yerleştiriyordu. Yalnızca 21 ve 22 Ekim’de gönderilenler daha sonra kötüye kullanıldı. Bu testler, her isteği izlemek yerine trafiği örnekledi. Bu nedenle sağlayıcı, daha geniş bir önleyici pencereyi sürdürüyor.
Together AI’ın Güvenlik Bildirimi
Together AI, dün yayınladığı güvenlik bildiriminde, yetkisiz bir tarafın müşteri isteklerinin depolanmış örneklerini indirdiğini duyurdu. Bir yapay zeka kodlama aracısı, şirketin genel GitHub deposuna bir kimlik bilgisi kaydetti. Örnekler rutin yazılım testi için toplanmıştı. Haziran ve Temmuz aylarında MiniMax M3, GLM-5.2 ve Kimi K2.6 modellerine yapılan isteklerle oluşturulmuştu. Yetkisiz taraf, diğer hizmetlere ait kimlik bilgilerini örneklerde aradı ve test etti. Test edilen beş kimlik bilgisi, araştırmacıların deneyinden gelen kanaryalardı. Şirket, verilerin daha ileriye gittiğine inanmak için bir neden olmadığını belirtti. Verilerin silindiğini anladığını ve yeni hesaplar için sıfır veri saklamayı varsayılan hale getirdiğini ifade etti.
Novita’nın Gizlilik Bildirimi
Ağ geçidindeki başka bir sağlayıcı olan Novita, bu hafta yayınladığı gizlilik bildiriminde, bir yönlendirme yapılandırma sorununun bazı MiniMax isteklerinin MiniMax’ın resmi API’sine gönderilmesine neden olduğunu doğruladı. Bu, müşteriler için amaçlananın ötesindeydi. Dragos, ihlal edilen üç sağlayıcının adını açıklamadı. OpenRouter da kaldırdığı üç sağlayıcının adını vermedi. İki şirket de bunların aynı üç sağlayıcı olup olmadığını kamuya açıklamadı.
Temmuz ortasındaki ihlalin arkasındaki sağlayıcı, başlangıçta dahili bir yanlış yapılandırmayı suçladı. Daha sonra bir iş ortağının veri işleme sürecini gösterdi. Kendi soruşturması, saldırganların dahili kimlik bilgilerini tehlikeye attığını ortaya koydu. Bu hafta itibarıyla olay hala kamuya açıklanmamıştı.
Kullanıcılar İçin Öneriler
Araştırmacıların tavsiyeleri bir sınırlamadan başlıyor: bir gizlilik bayrağı yalnızca ilk atlamayı bağlar. Moore’a göre, yapay zeka aracıları okuyabildikleri her şeyi, kimlik bilgileri dahil, gönderecektir. Bir isteğin nereye gideceği bir seçimdir. Müşteri bu seçimi yapmazsa, seçimi en düşük fiyata bırakır.
Kendi kendine barındırma, üçüncü bir tarafın bir isteği okumadığı tek seçenektir. Birinci sınıf bir sağlayıcıya doğrudan gitmek, kontrol edilecek tek bir şirket, tek bir sözleşme ve tek bir gizlilik politikası bırakır. Yönlendiriciler daha fazla dikkat gerektirir: varsayılan havuzu kabul etmek yerine yukarı akış sağlayıcılarını kendiniz seçin. Gizlilik ayarlarının isteklerin nereye gittiğini gerçekten değiştirdiğini doğrulayın. Ayrıca, kapasitesinin bir kısmı çalınan anahtarlar üzerinde çalışan bayi pazarlarından uzak durun.
Aracıların ve işlem hatlarının zaten gönderdiği bağlama yerleştirilmiş sahte bir kimlik bilgisi, herhangi bir kullanımının bir olay olarak ele alınması durumunda bir tuzak görevi görür. Ücretsiz bir Thinkst Canarytoken başlamak için yeterlidir. Bilinen kimlik bilgisi formatlarını isteklerden temizleyen ayarlar da yardımcı olur. Ancak bunlar, anahtar gibi şekillenmemiş hassas verileri kaçırabilir.

Yorumlar 0
Henüz yorum yapılmamış. İlk yorumu siz yazın.