World Economic Forum (WEF) tarafından yayımlanan makale, yapay zekâ çağında yanlış ve yanıltıcı bilgilerin yalnızca insanları değil, yapay zekâ sistemlerinin bilgi işleme ve karar verme süreçlerini de etkileyebileceğini ortaya koyuyor. Üretken yapay zekânın düşük maliyetle büyük miktarda metin, ses ve video üretebilmesi, dezenformasyonun yayılma hızını artırırken yapay zekâ ajanlarının gelişmesi, bu süreçlerin daha az insan müdahalesiyle yürütülmesine imkan tanıyor.
Makalenin öne çıkardığı risklerden biri, “AI swarm” olarak adlandırılan ve birden fazla yapay zekâ ajanının koordineli şekilde hareket ettiği sistemler. Aktarılan bir araştırmada, simüle edilmiş sosyal medya ortamındaki 500 yapay zekâ ajanının, bir siyasi adayı desteklemek amacıyla insan müdahalesi olmadan kendi aralarında koordinasyon sağladığı belirtiliyor. Bu tür sistemlerin gelişmesi, organize dezenformasyon kampanyalarının daha hızlı ve geniş ölçekte yürütülmesi riskini artırıyor.
Bu gelişmeler, şirketlerin kurumsal itibarı ve bilgi güvenliği açısından da yeni tehditler oluşturuyor. Hisse fiyatlarını etkileyebilecek asılsız haberler, şirket yöneticilerinin ses ve görüntülerini taklit eden yapay zekâ içerikleri ve kurumları hedef alan organize yanıltıcı bilgi kampanyaları, olası riskler arasında sıralanıyor. Yapay zekâ ajanlarının büyük ölçekte ve yüksek hızda hareket edebilmesi, şirketlerin uzun yıllarda oluşturduğu güvenin kısa sürede zarar görmesine neden olabilecek kampanyaları kolaylaştırabiliyor.
Riskler, yapay zekâ modellerinin kullandığı veri kaynaklarına da uzanıyor. Makalede aktarılan bir araştırmaya göre yalnızca 250 manipüle edilmiş belge, belirli koşullarda bir büyük dil modeline gizli bir güvenlik açığı yerleştirmek için yeterli olabiliyor. Yanıltıcı içeriklerin internete sistematik biçimde yerleştirilmesi ve daha sonra modellerin eğitim veya karar süreçlerinde kullanılması, dezenformasyonun hem insanların hem de yapay zekâ sistemlerinin kararlarını etkileyebilmesine yol açabiliyor.
WEF makalesi, bu tehditlere karşı çok katmanlı güvenlik ve doğrulama mekanizmalarının önemini vurguluyor. Kurumların yapay zekâ sistemlerini düzenli olarak test etmesi, karar süreçlerinde kullanılan bilgilerin güvenilirliğini kontrol etmesi ve organize bilgi manipülasyonunu tespit edebilecek izleme sistemleri oluşturması öneriliyor. Doğrulanmış veri kaynaklarının kullanılması ve insan gözetiminin sürdürülmesi, yapay zekâ destekli dezenformasyonun etkilerini azaltabilecek temel önlemler arasında gösteriliyor.
Makalenin tamamı: https://www.weforum.org/stories/artificial-intelligence/agentic-ai-human-machine-cognition/
Comments