AI ile yönetişim (governance) kültürü değişiyor mu?

Tam Finans CTO’su Yasin Çarkcı AI ile yönetişim (governance) kültürü değişiyor mu? sorusunu yanıtladı.

Çarkçı şunları söyledi:
Bu konu aslına bakarsanız, böyle son dönemde yapay zeka hype olduğu gibi ele alınan bir konu. Yapay zeka, evet şu anda bir hype ama siber güvenlikle bir araya geldiği zaman, siber güvenlikler için aynı zamanda eğlendirici olduğu kadar riskler barındıran bir konu. Yapay zeka, benim kendi tecrübelerimle 2018-19’larda işimizin biraz daha verimli olması için, verimliliği artırmak için kullandığımız basit bir öğeydi ve çok fazla iş yapışımıza riskler eklemiyordu açıkçası. Ama son dönemde, özellikle agent’ların, LLM’lerin gelmesiyle beraber yapay zeka ciddi anlamda bir risk teşkil etmeye başladı. Biz yapay zekayla, LLM’lerle hem savunma yapıyoruz hem de saldırı pratiklerini anlamaya çalışıyoruz. Aslına bakarsanız, yapay zekadan önce ve yapay zekadan sonra diye güvenliği, siber güvenliği ben biraz ayırıyorum. Aslında yapay zekadan önce biz ne yapıyorduk? Şu anda da onu yapıyoruz. Verinin korunmasını istiyorsak DLP ile, dışarı çıkmasını istemiyorsak DLP ile önlüyoruz. Eğer dışarı çıkacaksa da bir şekilde oluyor. Bunun en azından maskelenerek veya hash’lenerek anlamsız bir veri olması için uğraşıyoruz. Input output’ların log’lanmasını yapıyoruz. Korelasyon yapmaya çalışıyoruz. Mikrosegmentasyon, katmanlı mimari, güvenlik mimarileri oluşturuyoruz. Bunlar yapay zeka öncesinde vardı ve hala daha var yapay zekayla. Amma velakin yapay zeka ile beraber benim özellikle governance’a, yönetişime, bakış açım ciddi anlamda değişti. Bu işi ciddiye alan finans kurumları governance’a bir şekilde zorunlu olarak veyahut da istekli olarak uyum sağlıyorduk. Ama yapay zeka ile beraber kural koyucuların koymuş olduğu somut bu kurallara uyacaksınız kitabı olmadığı için, olsa da çok fazla uygulanmadığı için şu aşamada kurallar netleşmediği için biz kendi içimizde governance tarafına önem vermeye başladık ve bunu uygulamaya başladık. Kendi yapay zekanın etkileşimiyle gelişen bir iç, internal bir governance politikası geliştirmeye başladık. Burada bizim geliştirdiğimiz politika veya politikalar veyahut da diğer kurumların geliştireceği politikalar aslında çok basit bir mantığa dayanıyor. Şimdi yapay zeka var doğru ama bir de insan zekası var. Öncelikle bu governance’ın içerisinde insanı çok iyi bilinçlendirmek gerekiyor. Kural setlerini iyi oturtmak gerekiyor. Yapay zekanın kendisi zaten burada hem problemi yaratan hem de problemi çözen. Governance’a biraz yapay zeka koyarak onun gücünü kullanarak şeffaf politikalar oluşturarak karar vericileri, alınan kararları ve uygulayıcıları şeffaf bir şekilde ortaya koyarak riskleri minimize edebiliyoruz. Bu sayede governance’ın gücüyle yapay zekanın gücünü insanları bilinçlendirerek yapay zekayı daha efektif ve sağlıklı ve güvenli, bizim açımızdan güvenli kullanmalarını da sağlayarak by default yapmamız gereken güvenli mimariyi de kurarak yapay zekayla governance’ı bir şekilde birleştirip sağlıklı ve güvenilir bir ekosistemi biz kurmaya çalıştık. Yapılması gereken ve yapılacak olan da bu. Tabii burada en önemli nokta artık CISO’ların, güvenlik politikaları geliştiricilerin 10 sene önceki gibi statik değil, çok dinamik ve proaktif olması gerekiyor. Hani bir senede, iki senede değişen teknoloji veya yapılardan bahsetmiyoruz. Her an değişen, akşam yattığımızda A olan bir kural, sabah B oluyor. Buna hızlı adapte olan da bir şekilde bu kuralları ve governance politikalarını kendi kurumlarına uygulayabilen hatta bu kuralları yazan kişiler oluyor. Biz de onu yapmaya çalışıyoruz Tam Finans olarak. Teşekkür ediyorum.

Yapay Zeka ve Siber Güvenlik: Riskler ve Fırsatlar

Yapay zeka, son yıllarda teknolojik gelişmelerin ön saflarında yer alarak birçok sektörde devrim yaratmıştır. Ancak, bu hızlı gelişim, siber güvenlik alanında hem fırsatlar hem de riskler doğurmuştur. Yapay zeka, siber güvenlik uzmanlarına daha etkili savunma mekanizmaları sunarken, aynı zamanda kötü niyetli aktörler için de yeni saldırı yöntemleri geliştirme imkanı tanımaktadır. Bu makalede, yapay zekanın siber güvenlik üzerindeki etkilerini, bu alanda karşılaşılan zorlukları ve gelecekteki olası gelişmeleri ele alacağız.

Yapay Zekanın Siber Güvenlikteki Rolü

Yapay zeka, siber güvenlikte veri analizi, tehdit algılama ve yanıt verme süreçlerini hızlandırarak önemli bir rol oynamaktadır. Büyük veri setlerini hızlı bir şekilde işleyebilme kapasitesi sayesinde, potansiyel tehditleri önceden tespit edebilir ve bu tehditlere karşı proaktif önlemler alınmasını sağlar. Bu, özellikle büyük ölçekli ağlarda ve karmaşık sistemlerde güvenliği artırmak için kritik öneme sahiptir.

Yapay Zeka ile Gelen Riskler

Yapay zekanın siber güvenlikteki kullanımı, aynı zamanda yeni riskleri de beraberinde getirmektedir. Kötü niyetli aktörler, yapay zeka algoritmalarını manipüle ederek veya bu teknolojiyi kendi saldırı stratejilerini geliştirmek için kullanarak güvenlik açıkları yaratabilirler. Bu durum, siber güvenlik uzmanlarının sürekli olarak yeni tehditlere karşı tetikte olmalarını gerektirmektedir.

Yapay Zeka ve Yönetişim

Yapay zekanın siber güvenlikte etkin bir şekilde kullanılabilmesi için yönetişim politikalarının da güncellenmesi gerekmektedir. Kurumlar, yapay zekanın getirdiği yeniliklere uyum sağlamak için dinamik ve proaktif bir yaklaşım benimsemelidir. Bu, sadece teknolojik altyapının değil, aynı zamanda insan faktörünün de göz önünde bulundurulmasını gerektirir.

İnsan Faktörü ve Bilinçlendirme

Yapay zeka ile siber güvenlik stratejilerinin başarılı olabilmesi için insan faktörünün önemi büyüktür. Çalışanların ve kullanıcıların bilinçlendirilmesi, güvenlik politikalarının etkin bir şekilde uygulanabilmesi için kritik bir adımdır. Eğitim ve farkındalık programları, yapay zeka destekli güvenlik çözümlerinin etkinliğini artırabilir.

Gelecekte Yapay Zeka ve Siber Güvenlik

Yapay zeka ve siber güvenlik alanındaki gelişmeler, gelecekte daha da hızlanacaktır. Bu, hem yeni fırsatlar hem de yeni zorluklar anlamına gelmektedir. Kurumlar, bu değişimlere hızlı bir şekilde adapte olabilmek için esnek ve yenilikçi stratejiler geliştirmelidir. Yapay zeka, siber güvenlikte devrim yaratma potansiyeline sahip olsa da, bu potansiyelin tam anlamıyla kullanılabilmesi için dikkatli bir planlama ve uygulama gereklidir.

Sonuç

Yapay zeka, siber güvenlik alanında hem fırsatlar hem de riskler sunan bir teknoloji olarak karşımıza çıkmaktadır. Bu teknolojinin etkin bir şekilde kullanılabilmesi için, kurumların yönetişim politikalarını güncellemeleri ve insan faktörünü göz önünde bulundurmaları gerekmektedir. Yapay zeka, siber güvenlikte devrim yaratma potansiyeline sahip olsa da, bu potansiyelin tam anlamıyla kullanılabilmesi için dikkatli bir planlama ve uygulama gereklidir. Gelecekte, yapay zeka ve siber güvenlik alanındaki gelişmelerin hızlanması beklenmektedir ve bu değişimlere hızlı bir şekilde adapte olabilmek için esnek ve yenilikçi stratejiler geliştirilmelidir.