“Etken Yapay Zekâ (Agentic AI)” Başlıklı Kişisel Verileri Koruma Kurumu Dokümanı Yayımlandı

Kişisel Verileri Koruma Kurumu (Kurum) tarafından yapay zekâ teknolojilerinde yaşanan gelişmeler dikkate alınarak “Etken Yapay Zekâ (Agentic AI)” başlıklı bir doküman yayımlandı. Dokümanda; etken yapay zekâ sistemlerinin temel özellikleri, bu sistemlerde kullanılan yapay zekâ aracıları, potansiyel kullanım alanları ile kişisel verilerin korunması bakımından doğurabileceği riskler ele alınır. Çalışma, etken yapay zekâ sistemlerinin yaşam döngüsü boyunca dikkate alınabilecek veri koruma hususlarına ilişkin genel bir değerlendirme sunmayı amaçlar. 

Aşağıda öne çıkan hususlar özetlenmiştir:

• Etken Yapay Zekâ (Agentic AI) sistemleri, belirli hedeflere ulaşmak amacıyla çevresel koşulları değerlendirebilen, planlama yapabilen ve değişen durumlara uyum sağlayarak belirli ölçüde otonom şekilde eylem başlatabilen bütünleşik yapılar olarak tanımlanır.
• Bu sistemler çoğunlukla “Yapay Zekâ Aracıları (AI Agents)” aracılığıyla çalışmakta olup söz konusu aracılar, çevreyi algılayarak hedef doğrultusunda karar alabilen ve gerekli eylemleri gerçekleştirebilen yazılımsal bileşenler olarak açıklanmaktadır.
• Araştırma ve geliştirme süreçleri, müşteri destek hizmetleri, finansal analiz, sağlık alanındaki karar destek sistemleri ve olay müdahalesi gibi alanlarda etken yapay zekâ sistemlerinin kullanım potansiyeli bulunduğu belirtilmektedir.
• Sistemlerin hedef odaklı ve çok adımlı işleyiş yapısı; öngörülebilirlik, şeffaflık ve açıklanabilirlik bakımından riskler doğurabilmekte, ayrıca hatalı veya yanlı çıktılar zincirleme etkiler yaratabilmektedir.
• Etken yapay zekâ sistemlerinin kullanımında kişisel verilerin farklı veri kaynaklarından toplanması ve birden fazla işlem aşamasında işlenmesi, veri minimizasyonu, amaçla sınırlılık ve veri güvenliği bakımından ek riskler doğurabilmektedir.
• Bu kapsamda insan gözetiminin sağlanması, açıklanabilirlik mekanizmalarının geliştirilmesi, veri doğruluğunun gözetilmesi, rollerin açık şekilde belirlenmesi ve tasarımdan itibaren mahremiyet yaklaşımının benimsenmesi önerilmektedir.