Yapay zeka asistanları saldırılara karşı dirençli mi?

Softtech Veri ve Yapay Zeka Uygulamaları Takım Lideri Mehmet Taşan, büyük dil modellerinin çok büyük veri setleriyle eğitildiğini ve bu süreçte bazen anlamsız veya yanlı verilerle karşılaşabileceğimizi belirtti.

Taşan, bu tür hataların önüne geçmek için gelen cevapları her zaman iki katlı bir doğrulama sürecinden geçirdiklerini vurguladı. Ayrıca, internet bankacılığı gibi uygulamalarda olduğu gibi, asistanları ve yazılımları devreye almadan önce sızma testlerinden geçirildiğini ve bu testlerin genellikle uzman üçüncü parti firmalar tarafından yapıldığını ifade etti.