Güvenlik Kurallarını İhlal Eden Yapay Zeka Aracısı Oluşturmaktan Öğrenilen Dersler

Güvenlik Kurallarını İhlal Eden Yapay Zeka Aracısı Oluşturmaktan Öğrenilen Dersler

Yapay zeka (YZ) aracılarının güvenliği konusunda müşterilere genellikle üç temel ilke önerilir: kendi kimliklerine sahip olmaları, verilen göreve uygun erişim yetkileri bulunması ve insanlardan ayrı izlenebilirliklerinin olması. Token olarak biz de bu ilkelere inanıyorduk. Ancak, varsayılan olarak bu üç kuralı da ihlal eden bir YZ aracısı geliştirdik.

Bu deneyim, bu tür aracıların nasıl savunulması gerektiği konusunda bize önemli düşünceler kazandırdı. Bir tarayıcı aracısı, kullanıcının kimliği doğrulanmış oturumu içinde çalıştığında, uygulama kullanıcıyı görebilir ancak aracıyı, yetki devrini veya görevin amaçlanan kapsamını göremeyebilir. Token, tüm güvenlik kurallarını çiğneyen bir aracı oluşturarak, özellikle aracı kullanımının ölçeklenmesiyle birlikte şirketlerin kontrol sağlamak için kimliği nasıl kullanması gerektiğini öğrendi. Standartlar henüz tam olarak oluşmamış olsa da, güvenlik ekiplerinin bugün atabileceği adımlar mevcut.

Güvenlik Ekiplerinin İşaretleyeceği Bir Aracı: Rehearsal

Geliştirdiğimiz aracıya Rehearsal adını verdik. Görevi, Token platformu içinde soruları sadece söylemek yerine yaparak yanıtlamaktır. Tarayıcı sekmesinde sayfaları özerk bir şekilde açar, filtreler ayarlar ve formları doldurur.

Güvenlik açısından bakıldığında, Rehearsal kullanıcının tarayıcısında çalışan tipik bir kullanıcı arayüzü (UI) aracıdır. Bu özelliği onu kullanışlı kılar. Ancak bu aynı zamanda aracının kullanıcının oturumu içinde çalıştığı ve kullanıcının erişim yetkilerine sahip olduğu anlamına gelir.

Dahası, sayfanın arkasındaki sunucu için, aracının tıklamaları kullanıcının tıklamalarından ayırt edilemez, çünkü bir oturum çerezinde oturumu kimin yönettiğine dair hiçbir bilgi bulunmaz.

Her İki Tarafı da Kontrol Etmenin Sağladığı İmkanlar

Token hem aracının hem de çalıştığı uygulamanın sahibi olduğu için, her boşluğu içeriden kapatabiliriz. Örneğin, Rehearsal kimin oturumu yönettiğini Token’a bildirdiği için Token bunu bilir.

YZ aracısının kendisini kontrol ettiğinizde uygulayabileceğiniz birden fazla en iyi uygulama olduğunu öğrendik:

• Aracı hareket ederken, uygulamayı karartın ve kilitleyin, kontrolün kimde olduğunu açıkça belirtin.
• Engellenenler de dahil olmak üzere her oturumdaki her hareketi kaydedin.
• Aracının erişimini kullanıcının erişiminin altına düşürün. Rehearsal için, kontrol panellerinin salt okunur olmasını sağlıyoruz. Kullanıcının onayı olmadan hiçbir şeyi kaydedemez, gizli alanları doldurmaz ve platformun reddettiği hiçbir çağrıyı göndermez. Ayrıca, sayfanın erişilebilirlik etiketleri aracılığıyla kontrol paneli kontrollerini anlar.

Bu, kendi aracımız için işe yarıyor, ancak yalnızca dışarıdan hiçbir aracının sahip olmadığı erişime dayanıyor.

Diğer Herkes İçin Kim Düzeltmeli?

Rehearsal’a bir aktör, bir kapsam ve bir sayfa haritası verebildik çünkü onu biz yazdık. CRM’inizi veya bulut konsolunuzu yöneten bir tarayıcı aracısının bunların hiçbiri yoktur. Uygulama onun orada olduğunu anlayamaz ve aracı hangi alanın bir sırrı tuttuğunu veya hangi düğmenin bir kaydı sildiğini bilemez. Oturumun kendisi kullanıcının kimliğini taşır.

Çözüm, aracılara insan kullanıcılarından ayrı kendi şeritlerini vermektir. Web bunları inşa etmeye başladı, ancak mutlaka bütünsel yaklaşımlara odaklanmıyor.

Tarayıcı, aracısının ne zaman çalıştığını işaretleyebilir ve buna göre kendini kısıtlayabilir. Örneğin, Chrome’un otomatik tarama özelliği, ödemeler veya toplu e-postalar gibi yüksek riskli eylemlerden önce bir kişinin onayını gerektirir, aracısını görevin gerektirdiği sitelerle sınırlar ve aracının ziyaret ettiği sayfaları kullanıcının geçmişinde etiketler. Microsoft, yöneticilerin site başına aracı tabanlı taramayı açmasına ve parolalar ve kart numaraları girilmeden önce duraklatmasına izin verir.

Uygulama, eylemlerini araç olarak yayınlayabilir. Google ve Microsoft’un bir W3C topluluk grubunda yazdığı bir taslak olan WebMCP, bir sitenin bir aracının doğrudan çağırabileceği eylemleri açığa çıkarmasına ve her birini salt okunur veya önemli olarak işaretlemesine olanak tanır. Bu sayede, aracının bir düğmenin ne işe yaradığını tahmin etmesine gerek kalmaz.

Aracı, isteklerini imzalayabilir. Şu anda bir IETF çalışma grubu taslağı olan Web Bot Auth, bir sitenin hangi aracının bir istek gönderdiğini doğrulamasına olanak tanır.

Eksik olan, bunları birbirine bağlayan bir katmandır. Her şerit, diğerlerinin bilmediği bir şeyi bilir ve hiçbiri bunu diğerine aktarmaz. Tarayıcı, aracısının çalıştığını bilir, ancak ne Chrome ne de Edge, diğer uçtaki uygulamaya nasıl bilgi verileceğini açıklamaz. Bir WebMCP aracı, kullanıcının oturumu içinde, kullanıcının haklarıyla çalışır, bu nedenle kendi başına aracının erişebileceği alanı daraltmaz. Web Bot Auth aracının adını verir, ancak taslak, yetki devrini kapsamadığını açıkça belirtir, bu nedenle aracının çalıştığı kişiyi atlar.

Uygulama, eyleme geçirilebilir bir şey sunmak yerine bağlam parçalarını elinde tutar.

Şimdi, aracıların standartlardan daha hızlı geldiğini düşünün. Aracı dostu olmak tek başına yeterli değildir. Aracılar için inşa edilen her şerit, aracının kimliğini, çalıştığı kişiye doğrulanabilir bir bağlantıyı ve o kişinin kapsamından daha dar bir kapsamı taşımalıdır. Bu üç sinyal bir araya geldiğinde, bir uygulamaya yetkilendirme kararı vermek için ihtiyaç duyduğu minimum bağlamı sağlar. Aksi takdirde, daha hızlı bir şerit, ayrıcalığın kötüye kullanılmasına giden daha hızlı bir yoldan ibarettir.

Standartlar Yetişmeden Önce Güvenlik Ekiplerinin Yapabilecekleri

Standardizasyonu beklemek bir seçenek değildir. Aracı tabanlı tarayıcıları ve uzantıları mümkün olan en kısa sürede keşfetmeye başlamanız, buna oturumlarını ödünç aldıkları kullanıcılar da dahil olmak üzere, gereklidir. Ve kimin tıkladığını söyleyemeseniz de, bir parola istemi gibi bir adım yükseltme kontrolü ekleyerek hangi tıklamaların bir kişi gerektirdiğini seçebilirsiniz.

• Tarayıcı aracılarını, aracı tabanlı uzantıları ve kimliği doğrulanmış oturumlar aracılığıyla hareket edebilen uç nokta aracılarını envanterleyin ve bunları kullanıcılara ve sahiplerine eşleyin.
• Her YZ aracısı tüketicisini izleyin, böylece her bir aracıyı hangi kişilerin (ve diğer aracıların) kullandığını bilirsiniz.
• Her bir aracının erişebildiği her kimliği gözden geçirin.
• Erişim kontrollerini atlamak için aracıları kullanan potansiyel saldırı yollarını belirleyin.
• Hassas veya geri döndürülemez uygulama eylemlerinden önce açık onay veya adım yükseltme kimlik doğrulaması gerektirin.
• Kritik SaaS satıcılarına, denetim kayıtlarının aracı etkinliğini insan etkinliğinden ayırıp ayırmadığını ve göreve özel yetki devrini destekleyip desteklemediklerini sorun.

Tarayıcılar ve uygulamalar aracı kimliğini, insan yetki devrini ve görev kapsamını birlikte taşıyana kadar, şirketler insan oturumu kullanan her aracıyı, keşfedilmesi, kısıtlanması ve denetlenmesi gereken yetki devredilmiş erişim olarak ele almalıdır.