ISS Türkiye CIO’su Ceyhan Demir, Agentic AI’nın güvenliği ve riskleri üzerine değerlendirmelerde bulundu.
Demir şunları söyledi:
Agentic AI teorisi gereğince kendi başına otonom plan yapabilip nasıl yapacağını bulduktan sonra gerçekleştirip size sonucu getiriyor. Çok güzel. Ama burada bir konu var. O sonucu nasıl elde ettiğini ispatlamak gerekecek.
Dolayısıyla hem bunun kurum içindeki verilerin analizi anlamında olabilir, servislerin nasıl çağrıldığı şeklinde olabilir. Aldığı tüm aksiyonları sebep-sonuç ilişkisiyle gösterebilmesi gerekiyor. Bunun bir ucu siber güvenlik olabilir. Çünkü acaba cloud’a mı çıkıyor, dışarı mı çıkıyor, başka bir kullanmaması gereken servisleri veya kullanmaması gereken verileri mi kullanıyor noktasında kendini açıklayabilen bir yapıda olması gerekiyor.
Bu sadece siber güvenlik değil aslında bir nevi risk yönetimi perspektifiyle de değerlendirilmesi gereken kritik bir nokta olacak Agentic AI’larda. Hizmet dalına bağlı olarak farklı riskler olabilir. Örneğin regülasyona tabi olan kurumlarda bankacılık, sigortacılık, responsible AI denen yeni bir regülasyon çıktı Avrupa’da. Buna uyumlu olması gerekiyor.
Dediğim gibi çok hızlı şekilde sonuç almanız iyi olabilir ama burada regülatör gelip “Siz bu sonuçları, bu iş sonuçlarını nasıl aldınız, nasıl elde ettiniz?” dediği noktada cevap verebilir durumda olması lazım. Kurumların bu riskleri yönetebiliyor olması lazım.
Çünkü vadedilen şeyler çok yüksek. Fakat bunun karşılığında da bir yönetişim kısmına yatırım yapmak gerekiyor. Bu riskleri bertaraf etmek için. Aksi halde öngörülemeyen ciddi cezalarla karşı karşıya kalabilir kurumlar.
