Agentic AI ile birlikte güvenliğimiz tehdit altında olabilir!

Lostar Genel Müdürü Murat Lostar Agentic AI ile ilgili konuştu.

Lostar şunları söyledi:

2025 yılında, evet 2023’ten beri olduğu gibi çok yoğun olarak yapay zekayı konuşmaya devam ettik. AI, her konuda olduğu gibi bu yıla da damgasını vurmaya devam etti teknoloji tarafında. Ama 2023’te konuştuğumuz AI ile bu yıl konuştuğumuz AI arasında çok önemli farklılıklar oluşmaya başladı. Hem genel olarak teknolojide hem de bilgi güvenliği, siber güvenlik tarafında. Teknoloji tarafını önce ele alalım, sonra biraz daha siber güvenlik tarafına memnuniyetle girerim. Teknoloji tarafında, artık düz AI dediğimizde, halklar, çalışanlar çoğu zaman AI’dan büyük dil modellerini, LLM’leri ve dar düzen güç modulları anlıyordu. Ama yavaş yavaş bunun artık yetmemeye başladığını, 2024’ün sonu ve 2025’in başı gibi iyice fark etmeye başladılar. 2025 yılına geldiğimizde, artık büyük dil modelleri (large language model) bize, ne çalışanlar tarafında ne bireyler tarafında yetmemeye başladı. O yüzden, 2025 ile beraber daha çok ajan tabanlı ya da İngilizce söylemiyle “agentic AI” çok yoğun bir şekilde gündemimize girmeye başladı. Tabii bunun güvenliğini konuşmaya başladık. Bugüne kadar daha çok büyük dil modellerinde karşılıklı yazışarak yaptığımız şeyde, ben bir soru soruyordum, cevabı geliyordu. Multimodel ile beraber ben sözlü olarak soruyordum, cevabı duyuyordum. Ama yapay zekanın gidip başka sistemlerde bir şeyler değiştirmesi, başka yerlerden veri alıp oraya veri eklemesi söz konusu değildi. Dolayısıyla güvenlikte hala insan bir katman olarak işe yarıyordu. Yapay zeka saçmaladığında, “Hadi canım, bu da olmaz,” deyip onu bir işleme almıyordu. Ama yavaş yavaş hem büyük dil modellerinin önüne ajanlar eklendikçe hem de dil modellerinden bağımsız eğitilmiş yapay zekalarla çeşitli işlemlerin daha da yoğun bir şekilde ele alınmasıyla, aslında kendi işimizi, kararlarımızı, iş yapış biçimlerini yoğun bir şekilde yapay zekaya bırakmaya başladık. Bu da biz güvenlikçileri çok fazla rahatsız etmeye, çünkü korkutmaya başladı. Riskler artmaya başladı. Riski düşündüğümüz zaman, hep iki başlıkta düşünürüz: O risk -her neyse o- gerçekleştiğinde etkisi bizim için ne olur? Bu birinci kısmı. Bir de bunun gerçekleşme olasılığı nedir? Yani etki ve olasılık. Buraya baktığımızda, artık hem agent’lar sayesinde otomatik olarak işlem yapabilme imkanı ortaya çıktığı için etkisi çok büyümeye başladı yapay zekanın olumsuz bir şeyi olduğunda. Hem de işin içinden insanı çıkarttığımız için bu doğrultuda da yoğun bir şekilde olasılığın da artmaya başladığını görüyoruz. Evet, yapay zeka gelişiyor, dil modelleri gelişiyor, yeni modeller çıkıyor, her şey artıyor. Hatta iyi bir hale geliyor. Ancak hala mükemmel değil. Hala hata yapabiliyor. Hala bir insan aklını, insan zekasını buna bakıp “Ya burada bir şey ters gidiyor” demeyi çıkartmanın tehlikeli olduğu bir dönemdeyiz. Bu nedenle de bazı kurumlar yapay zekaya karşı farklı önlemler, farklı iptalleri ortaya koyuyor. Öbür tarafta da insanlar daha fazla kullanmayı istiyor. Şirket yasaklıyor, cep telefonundan kullanıyor. Multimodel sayesinde de şirket yasakladığı halde ekranından yazmak zorunda bile kalmıyor. Ekranının fotoğrafını çekiyor, yapay zekaya soruyor. Ama bilmeden, farkında olmadan belki şirketin değerli bilgilerini, belki kişisel verileri yapay zekaya göndermiş oluyor. Buradaki riskler artarak devam ediyor. Biz güvenlikçiler de buna karşı farkındalık ve teknolojik çözümlerle aslında savaşmaya çalışıyoruz.

Yapay Zeka ve Teknolojik Gelişmeler

2025 yılına geldiğimizde, yapay zeka teknolojileri hızla gelişmeye devam ediyor. 2023’ten bu yana, AI’nin etkisi her alanda hissedilirken, teknolojik yenilikler ve değişimler de dikkat çekiyor. Büyük dil modelleri, yapay zekanın temel taşlarından biri haline gelirken, ajan tabanlı yapılar da gündeme gelmeye başladı. Bu gelişmeler, teknolojinin sınırlarını zorlayarak yeni imkanlar sunuyor.

Büyük Dil Modellerinin Evrimi

Büyük dil modelleri, yapay zekanın en önemli bileşenlerinden biri olarak kabul ediliyor. Ancak, 2025 yılına gelindiğinde, bu modellerin yeterliliği sorgulanmaya başlandı. Çalışanlar ve bireyler, daha karmaşık ve etkili çözümler arayışına girdi. Bu noktada, ajan tabanlı yapılar devreye girerek, daha dinamik ve etkileşimli bir yapay zeka deneyimi sunmaya başladı.

Ajan Tabanlı Yapılar ve Etkileri

Ajan tabanlı yapılar, yapay zekanın daha özerk ve etkili bir şekilde çalışmasını sağlıyor. Bu yapılar, büyük dil modellerinin ötesine geçerek, daha karmaşık görevleri yerine getirebiliyor. Ancak, bu durum beraberinde yeni güvenlik risklerini de getiriyor. Yapay zekanın özerkliği, insan müdahalesini azaltırken, olası hataların ve risklerin artmasına neden olabiliyor.

Bilgi Güvenliği ve Siber Güvenlik

Yapay zekanın gelişimi, bilgi güvenliği ve siber güvenlik alanında da önemli değişikliklere yol açtı. Ajan tabanlı yapılar, veri güvenliği konusunda yeni tehditler oluşturuyor. Yapay zekanın başka sistemlerde değişiklik yapabilme yeteneği, güvenlik uzmanlarını endişelendiriyor. Bu nedenle, güvenlik önlemleri ve farkındalık çalışmaları büyük önem taşıyor.

Risk Yönetimi ve Olasılıklar

Yapay zeka ile ilgili riskler, iki temel başlık altında değerlendiriliyor: Etki ve olasılık. Ajan tabanlı yapılar sayesinde, yapay zekanın etkisi artarken, insan müdahalesinin azalması olasılıkları da artırıyor. Bu durum, güvenlik uzmanlarını daha dikkatli olmaya ve yeni stratejiler geliştirmeye yönlendiriyor.

Kurumların Önlemleri ve Kullanıcı Davranışları

Yapay zeka kullanımının artması, kurumların farklı önlemler almasına neden oluyor. Bazı şirketler, yapay zeka kullanımını sınırlarken, kullanıcılar bu sınırlamaları aşmanın yollarını arıyor. Multimodel teknolojileri sayesinde, kullanıcılar yapay zekayı daha etkili bir şekilde kullanabiliyor. Ancak, bu durum beraberinde veri güvenliği risklerini de getiriyor.

Geleceğe Bakış

Yapay zeka teknolojileri hızla gelişmeye devam ederken, güvenlik ve etik konuları da önem kazanıyor. Ajan tabanlı yapılar ve büyük dil modelleri, gelecekte daha fazla etkileşimli ve özerk sistemler sunacak. Ancak, bu gelişmelerin güvenli bir şekilde yönetilmesi, hem bireyler hem de kurumlar için büyük önem taşıyor.

Yapay zeka, teknolojik gelişmelerin öncüsü olmaya devam ederken, güvenlik ve etik konularının da dikkate alınması gerekiyor. Ajan tabanlı yapılar ve büyük dil modelleri, gelecekte daha fazla etkileşimli ve özerk sistemler sunacak. Ancak, bu gelişmelerin güvenli bir şekilde yönetilmesi, hem bireyler hem de kurumlar için büyük önem taşıyor. Yapay zeka teknolojilerinin sunduğu fırsatlar ve riskler, dikkatli bir şekilde değerlendirilmelidir.