Agentic Finans: Sorumluluk Açığını Kapatmak

Agentic Finans: Sorumluluk Açığını Kapatmak

Agentic Finans, yapay zeka (YZ) kullanımının finansal hizmetlerde yaygınlaşmasıyla birlikte yeni bir sorumluluk açığı yaratıyor. Bu durum, özellikle otonom YZ sistemlerinin artan rolü nedeniyle ortaya çıkıyor. İngiltere Merkez Bankası ve Finansal Yürütme Otoritesi (FCA) tarafından 2024 yılında yapılan bir ankete göre, Birleşik Krallık’taki finans firmalarının %75’i YZ kullanıyordu. Ancak bu kullanım durumlarının yalnızca %2’si tamamen otonomdu. Bu nedenle uyum ekipleri, YZ’yi insanların yönettiği bir araç olarak değerlendirebiliyor. Fakat otonom kullanım oranı arttıkça bu varsayımın geçerliliği azalıyor.

Her Kontrol Noktası Bir İnsan Varsayar

Bankaların uyguladığı kontrol süreçleri genellikle bir insan veya şirketin talimatıyla başlar. Örneğin, yeni bir müşterinin durum tespiti, işlemlerin izlenmesi, yaptırım taraması veya şüpheli faaliyet raporu düzenlenmesi gibi adımlar buna dahildir. Yazılımların talimat vermesiyle birlikte, kurumlar müşterilerini iyi tanısalar bile, aslında kimin veya neyin harekete geçtiğini belirlemede zorlanabilirler.

Binance’in Know Your Agent (Temsilcinizi Tanıyın) makalesi, bu olasılıkları detaylandırıyor. Talimat; müşteriden, yetkili bir temsilciden, güvenliği ihlal edilmiş bir temsilciden veya yetkisini aşan bir alt temsilciden gelmiş olabilir. Ayrıca OpenID Vakfı’nın belirttiği gibi, temsilciler genellikle insan kullanıcılardan ayırt edilemez şekilde hareket ederler. Otomasyon, birçok kişinin fark ettiğinden daha fazla karar alma sürecine dahil olmuştur. Aynı ankette, YZ kullanım durumlarının %55’i otomatik karar almayı içeriyordu ve bunların %24’ü yarı otonomdu. Bankalar, bu durumun uyum süreçlerine de ulaşmasını bekliyor.

Accenture araştırmasına göre, bankacılık yöneticilerinin %57’si YZ temsilcilerinin risk, uyum ve denetim fonksiyonlarına tam olarak entegre olmasını bekliyor. Binance Küresel Politika Başkanı Steven McWhirter, “Finansal suç uyumunun büyük kısmını müşteriyi tanımak üzerine kurduk. Ancak agentic bir dünyada bu artık yeterli değil” diye belirtiyor. McWhirter ayrıca, “Yazılımın araştırma yapabildiği, karar verebildiği ve para transfer edebildiği durumlarda, hangi temsilcinin kimin yetkisiyle hareket ettiğini ve kimin sorumlu olduğunu güvenle söyleyebilmeliyiz. Know Your Agent, yazılıma yasal kişilik kazandırmakla ilgili değildir; otonomi ölçeklendikçe sorumluluğu korumakla ilgilidir. Otonomi, doğrulama, sınırlama ve gerektiğinde iptal etme yeteneğimizi asla aşmamalıdır.” ifadelerini kullanıyor.

Asıl endişe, sorumlu bir tarafa atfedilemeyen bir talimattır. İngiltere Merkez Bankası ve FCA anketinde, katılımcıların %84’ü YZ çerçeveleri için sorumlu bir kişiye sahipti. Ancak bu, her bir temsilci için bir ismin olmasından çok farklıdır. Firmaların %46’sı, kullandıkları YZ’yi yalnızca kısmen anladıklarını belirtiyor.

Finansta Know Your Agent (KYA) Nedir?

KYA, basitçe yazılımlar için önerilen bir sorumluluk katmanıdır. KYA yaklaşımına göre, bir finansal hizmet sağlayıcısı bir YZ temsilcisini tanımlar, kimliğini doğrular, ne yapabileceğine yetki verir ve hareket ettiği sürece onu yönetir. Müşteri durum tespiti ortadan kalkmaz; KYA, bunun yanında yer almayı amaçlar.

Uygulamadaki fark şöyledir: KYC ile bir banka kim olduğunuzu öğrenir. KYA ise sizin yerinize gönderdiğiniz bot hakkında bilgi ister. Bot nereden geliyor? Kim onu destekliyor? Ne yapmasına izin veriliyor ve nerede durması gerekiyor? Bu süreçte dört taraf devreye girer ve makale bunların bağlantılı kalmasını ister:

• Temsilci ve çalıştığı ana sorumlu.
• Temsilciyi çalıştıran sağlayıcı veya dağıtıcı.
• Temsilciyi kabul eden taraf (banka, VASP veya ödeme sağlayıcısı).

Bunların üzerine beş kontrol katmanı eklenir:

• Kimlik ve köken.
• Sorumlu bir ana sorumluya bağlantı.
• Yetki ve izinler.
• Delegasyon ve izleme.
• İptal edilebilirlik ve denetlenebilirlik.

Tüm bunların temelinde, makalenin zekayı kontrolden ayırdığı basit bir ayrım yatar. Temsilci analiz eder, önceliklendirir ve önerilerde bulunur. Ancak önemli sonuçları olan her şeyde, sabit kurallara ve durumu gözlemleyen bir insana veya kuruma devredilir. Bu nedenle KYA, öncelikle bir atıf sistemi, ikinci olarak ise bir izin sistemidir. Bu, bir sektör katılımcısının önerisidir, bir düzenleme değildir. Uygulamadaki önemi, kurumların ve denetçilerin belirlediği dört rolü benimseyip benimsememesine bağlı olacaktır.

Kripto Ticareti İçin En İyi YZ Temsilcileri Hangileri?

En iyi ticaret yapan temsilciyi sormak yerine, eylemleri izlenebilen, sınırlanabilen ve durdurulabilen temsilciyi sormak daha önemlidir. Getiriler ancak sonradan ortaya çıkar. Sorumluluk, tek bir dolar hareket etmeden önce mevcut olmalıdır.

Binance’in Agent OS’u bunun iyi bir örneğidir. Kullanıcılar, yapılandırdıkları sınırlar dahilinde temsilcilere yetki verir ve Binance, bu temsilcilerin oluşturduğu ticaret faaliyetlerini izler. Ancak temsilcinin karar alma süreci, kullanıcının seçtiği YZ uygulamasının içinde kalır ve Binance’in görüş alanının dışındadır. İşte sorumluluk açığı tam da buradadır. Platform emri görür ancak gerekçeyi görmez. Dolayısıyla sorumluluk, kimlik ve izinlerle birlikte, bunları ayarlayan kişiyle birlikte hareket etmelidir.

Kart ağları da benzer bir noktaya ulaşmıştır. Mastercard’ın Agent Pay sistemi kapsamında, temsilcilerin ödeme yapabilmeleri için kaydedilmesi ve doğrulanması gerekir. Tüketiciler, ihraççılar ve satıcılar, bir temsilcinin hangi işlemleri yaptığını belirleyebilirler. Tüketiciler ayrıca bir temsilcinin ne satın almasına izin verildiğine de karar verebilirler. Etiket ne olursa olsun, bu bir yetkidir. Sıkıca sınırlandırılmış bir temsilci kötü bir işlem yapabilir. Ancak bilinen bir temsilcinin, bilinen bir yetki dahilinde yaptığı kötü bir işlem, uyum ekiplerinin zaten nasıl başa çıkacağını bildiği bir sorundur.

Otonomiden Önce Atıf

Agentic finans, kurumların şu üç soruyu ne kadar hızlı yanıtlayabildiğine bağlı olarak büyüyecektir: Hangi temsilci hareket etti, kimin adına ve hangi yetkiyle? Know Your Agent, bir sektör katılımcısı tarafından yazılmış ve tartışmaya açık olan bu soruların ilk taslağıdır. Yanıtlar rutin hale gelene kadar, asıl sınırlama değişmeyecektir. Bu, yetenek değil, sorumluluktur.