35.000’den Fazla Grok Uygulaması Çevrimiçi Ortamda Açıkta, Bazıları Gizli Veri ve Şifreleri Sızdırıyor

35.000’den Fazla Grok Uygulaması Çevrimiçi Ortamda Açıkta, Bazıları Gizli Veri ve Şifreleri Sızdırıyor

Güvenlik şirketi Claroc’un çevrimiçi ortamda tespit ettiği 37.571 Grok tabanlı uygulamanın 35.578’i, araştırmacıların dün yaptığı açıklamaya göre, herhangi bir oturum açma işlemi gerektirmeden herkes tarafından erişilebilirdi.

Bu uygulamalar arasında, sosyal ağ X ve Grok yapay zeka asistanını üreten SpaceXSI şirketinin çalışanları tarafından geliştirilen 24 uygulama da bulunuyordu. Açık uygulamaların çoğu oyunlar, açılış sayfaları ve hesap makineleriydi, ancak yaklaşık her 10 uygulamadan biri dahili iş veya kişisel veriler içeriyordu.

Çalışan uygulamaları arasında yeni bir satış elemanı için gizli bir işe alım planı, 594 hesabı gösteren bir satış bölgesi haritası ve ABD federal bir kurumuna yönelik gizli olarak işaretlenmiş bir X reklam teklifi yer alıyordu. Eskiden xAI olarak bilinen SpaceXSI, o zamandan beri 24 çalışan uygulamasını kaldırdı, ancak diğer kullanıcıların uygulamalarını kaldırmadı.

Bu çalışan uygulamalarının yanı sıra, açık uygulamalar, araştırmacıların tespit edebildiği inşaat ve enerji sektörlerinden sağlık ve savunma sektörlerine kadar çeşitli alanlarda faaliyet gösteren 30 farklı kuruluşa ait dahili veriler içeriyordu. Bu kuruluşların 26’sının 1.000’den fazla çalışanı bulunuyordu ve 6’sı Fortune 500 şirketiydi.

Araştırmacıların raporlarındaki tahminlerine göre, açık uygulamaların yaklaşık %2’si yüksek veya kritik derecede ciddi materyal içeriyordu.

Açığa çıkan materyaller arasında bir hastane grubunun 3.500’den fazla çalışanının aranabilir listesi, tek bir hasta hakkında yoğun bakım brifingi, bir itfaiye departmanının canlı vardiya panosu ve kodunda her çalışanın şifresini düz metin olarak barındıran bir müteahhitin zaman çizelgesi bulunuyordu.

Grok, sohbetine yazılan bir açıklamadan çalışan bir uygulama oluşturabilir; bu özellik, üreticisi tarafından 19 Ağustos’ta tüm Grok planlarına açıldı. Bu sohbet oluşturucu, ayrı bir terminal kodlama aracı olan Grok Build adını paylaşıyor ve bu aracın depo yüklemeleri 14 Temmuz’da bildirilmişti.

Şirketin lansman duyurusuna göre, yayınlanan her uygulama grok.me’nin kendi alt alan adını alır ve yaratıcısı kimin açabileceğini seçer.

Araştırmacıların kullandığı ücretli hesapta, bir sonraki adımda 3 erişim ayarı sunuluyordu: “Bağlantıya sahip herkes”, “Davetli kullanıcılar” ve “Yalnızca siz”. “Bağlantıya sahip herkes” zaten seçiliydi.

Araştırmacılar, bir uygulamanın adresinin gizli kalmadığını belirtiyor. Bir uygulamayı açmak, ziyaretçinin bilgisayarının DNS’te alt alan adını aramasını sağlar. Pasif DNS hizmetleri bu aramaları kaydeder ve hesabı olan herkes bu kayıtları desene göre arayabilir.

Grok, her uygulama için 4 rastgele kelime önerir ve araştırmacıların bulduğu adların yaklaşık yarısı bu deseni takip ediyordu. Bu tür adları tahmin etmek zor olsa da, adı zaten aranabilir bir listede bulunan bir uygulamayı korumaz.

ChatGPT’nin uygulama oluşturucusu da her uygulamayı kendi alt alan adına yerleştirir. Ancak araştırmacılar orada bir uygulama paylaştıklarında, erişim ayarı değiştirene kadar “Yalnızca ben” olarak ayarlıydı. DNS verilerinde bulunan bir ChatGPT uygulama adresi, yalnızca sahibinin açabileceği bir uygulamaya yol açar.

Araştırmacılar, Grok uygulama adlarını yaygın alt alan adı keşif yöntemlerini kullanarak buldular ve her uygulamanın ilk sayfasını oturum açmadan bir kez yüklediler.

Grok’un kendi başına ne tür bir koruma eklediğini görmek için, araştırmacılar uydurma verilerle 2 test uygulaması oluşturdular ve her ikisini de önceden seçili olan “Bağlantıya sahip herkes” erişim ayarıyla yayınladılar.

İlk uygulama olan bir kişi listesi, bir veritabanına sahipti ancak oturum açma gerektirmiyordu. Oturum açmadan, araştırmacılar özel bir tarayıcı penceresinden bir satır eklediler ve bir sonraki ziyaretçi bunu gördü.

Dört kişilik bir satış ekibi için müşteri listesi olan ikinci uygulama, Grok’un kendi başına eklediği “Google ile devam et” ve “X ile devam et” oturum açma düğmelerine sahipti. Ancak Grok’un yazdığı kod, oturum açan her kişiyi ait olup olmadığını kontrol etmeden önce ekibe ekledi, bu yüzden kontrol her zaman başarılı oldu.

Sahibine ait olmayan davetsiz bir Google hesabı içeri girdi, her müşteriyi görüntüledi, bir kaydı düzenledi ve bir diğerini sildi.

Araştırmacılar bu testleri yalnızca kendi uygulamaları üzerinde gerçekleştirdiler. Buldukları açık uygulamalardan herhangi birinin bu tür değişiklikleri kabul edip etmeyeceğini test etmediler.

Araştırmacılar bulgularını Pazar günü SpaceXSI’ye güvenlik.txt dosyasındaki adres aracılığıyla bildirdiler ve buna 2 çalışan uygulamasını da dahil ettiler. Diğer 22 uygulamayı Pazartesi günü bildirdiler.

Araştırmacılar dün yayınladıklarında, şirket raporlarına henüz yanıt vermemişti, ancak araştırmayla ilgili bir muhabirin sorularını yanıtlamıştı.

Araştırmacıların belirttiği gibi, şirket Grok uygulamalarının yaratıcısı onları paylaşana kadar özel kaldığını söyledi. Yayınlama, “Yalnızca siz” ve “Bağlantıya sahip herkes” arasında seçim yapma ve yasal bir feragatname dahil olmak üzere birkaç adım gerektirir. Çalışan hesapları varsayılan olarak “Yalnızca siz” olarak ayarlanmıştır.

Yine de, şirketin ve X’in çalışanları tarafından oluşturulan 24 uygulama herkes tarafından erişilebilirdi.

Raporlarıyla birlikte araştırmacılar, şirketten “Yalnızca siz” ayarını varsayılan yapmasını ve bir uygulamayı bir şirketin kendi e-posta alan adıyla sınırlayan bir seçenek eklemesini istemişlerdi.

Araştırmacılara göre, şirketin yanıtı diğer açık uygulamaların sahipleriyle iletişime geçeceğini belirtmedi. Kendileri etkilenen kuruluşlara e-posta göndermeye başladılar ve yayınladıklarında 3 kuruluşa e-posta göndermişlerdi. Raporda her uygulama adresini ve başlığını gizli tuttular.

Kuruluşunuzun Grok Uygulamalarını Nasıl Kontrol Edersiniz?

Yapay zeka ile oluşturulan uygulamaları bulmak ve güvence altına almak için araçlar satan Claroc, şu kontrolleri öneriyor:

• Çalışanlarınızın hangi yapay zeka uygulama oluşturucularını kullandığını öğrenin. Grok, Lovable, Replit, v0, Bolt, Base44 ve Google AI Studio gibi oluşturucular, BT kurulumu veya şirket hesabı olmadan kullanılabilir.
• Pasif DNS verilerine erişiminiz varsa, oluşturucuların alan adlarını arayın ve herhangi bir sonucu özel bir tarayıcı penceresinde açın.
• Dahili veriler içeren herhangi bir Grok uygulamasının “Davetli kullanıcılar” veya “Yalnızca siz” olarak ayarlandığından ve bir yabancının hata sayfası aldığından emin olun.
• Şirketiniz dışından bir hesapla oturum açmayı deneyin. Eğer içeri girerse, uygulamanın kimlerin izinli olduğunu gösteren bir listeye ihtiyacı vardır.
• Her uygulamanın yüklediği komut dosyalarını adlar, e-posta adresleri ve şifreler açısından kontrol edin ve sahibi olmayan uygulamaları yayından kaldırın.

Araştırmacıların testlerinde, bir uygulamayı “Yalnızca siz” olarak ayarlamak, hem sayfa hem de verileri için bir yabancıya 401 hatası döndürmesine neden oldu ve yayından kaldırma, bir uygulamayı saniyeler içinde çevrimdışı hale getirdi.