Etken Yapay Zeka Sistemlerine Genel Bakış

Dokümanda etken yapay zeka (Etken YZ) sistemleri, belirli hedeflere ulaşmak amacıyla çevresel koşulları değerlendirebilen, değişen durumlara uyum sağlayabilen ve farklı düzeylerde otonom biçimde eylem başlatabilen yapay zeka sistemleri olarak tanımlanmaktadır. Bu sistemlerin ayırt edici özelliği yalnızca kullanıcı girdilerine yanıt üretmekle sınırlı kalmayıp hedef belirleme, görev planlama, çok adımlı karar alma, farklı eylem seçeneklerini değerlendirme gibi süreçleri yönetebilmesidir.

Dokümanda ayrıca, bu sistemlerin genellikle “yapay zeka aracıları” (AI agents) aracılığıyla faaliyet gösterdiği ve bu aracılar arasında görev paylaşımı / eş güdüm sağlanmasının karmaşık iş akışlarının yürütülmesine imkan tanıdığı belirtilmektedir.

Bu kapsamda Etken YZ sistemlerini karakterize eden temel unsurlar aşağıdaki gibi tanımlanmıştır:

a. Otonom İşleyiş: Kural tabanlı otomasyonun ötesine geçerek, sürekli insan gözetimi ve müdahalesi olmaksızın görevleri yerine getirebilir.

b. Uyarlanabilirlik: Değişen koşullar ve çevresel girdiler doğrultusunda, davranışlarını gerçek zamanlı olarak uyarlayabilir.

c. Öğrenme: Geçmiş etkileşimleri ve deneyimlerden öğrenerek, gelecekteki karar alma süreçlerini ve performanslarını geliştirebilir.

d. Orkestrasyon/Eş Güdüm: Karmaşık ve daha kapsamlı hedeflere ulaşmak ve uçtan uca iş akışlarını yürütmek için birden fazla YZ Aracısını koordine edebilir ve çoklu görevleri yönetebilir.

Etken Yapay Zeka Sistemlerinin Potansiyel Kullanım Alanları

Kurum tarafından yayımlanan dokümanda etken yapay zeka sistemlerinin farklı sektörlerde çeşitli amaçlar ile kullanılabileceği ifade edilmektedir.

• Araştırma ve geliştirme süreçleri: literatür tarama, veri toplama ve analiz faaliyetlerinin yürütülmesi
• Müşteri destek süreçleri: müşteri davranışlarının değerlendirilmesi, destek adımlarının planlanması ve hibrit insan-YZ etkileşimi
• Finans ve yatırım hizmetleri: piyasa verilerinin sürekli izlenmesi ve değişen koşullara göre portföy stratejilerinin güncellenmesi
• Sağlık alanında karar destek mekanizmaları: karmaşık klinik verilerin değerlendirilmesine destek sağlanması
• Olay müdahale ve kriz yönetimi süreçleri: güvenlik olaylarının analiz edilmesi, müdahale adımlarının belirlenmesi ve koordinasyonun sağlanması

Etken Yapay Zeka Sistemlerinin Kullanımı ile İlişkili Temel Riskler

Dokümanda etken yapay zeka sistemlerinin sunduğu operasyonel faydaların yanında çeşitli riskler doğurabileceği de ifade edilmektedir. Özellikle sistemlerin artan otonomi düzeyi insan müdahalesi olmaksızın eylem başlatabilme kapasitesini artırmakta ve bu durum sistem davranışlarının öngörülebilirliğini azaltabilmektedir. Çok adımlı ve aracılar arası etkileşime dayalı karar mekanizmaları sistem çıktılarının hangi değerlendirme süreçleri sonucunda ortaya çıktığının anlaşılmasını zorlaştırabilmektedir. Ayrıca sistem çıktılarının başka yapay zeka süreçleri için girdi olarak kullanılması hatalı değerlendirmelerin zincirleme biçimde yayılmasına yol açabilmektedir.

Etken Yapay Zeka Sistemleri Bağlamında Kişisel Verilerin Korunmasına İlişkin Riskler

Dokümanda etken yapay zeka sistemlerinin kişisel verilerin korunması bakımından genel yapay zeka risklerine ek olarak bazı özgün riskler doğurabileceği vurgulanmaktadır.

Bu kapsamda özellikle aşağıdaki hususlara değinilmektedir;

ü veri işleme faaliyetlerinin çok adımlı ve dinamik bir yapı kazanması

ü başlangıçta işlenmesi öngörülmeyen verilerin süreçlere dahil edilebilmesi

ü farklı veri kaynaklarının bir araya getirilmesi sonucu kapsamlı profil çıkarımı yapılabilmesi

ü anonim olduğu varsayılan veri setlerinin yeniden ilgili kişi ile ilişkilendirilebilir hale gelmesi

ü veri işleme faaliyetlerine ilişkin sorumluluk paylaşımının belirsizleşmesi

ü sistem çıktılarının doğruluğunun zaman içerisinde zayıflaması riski

Ayrıca veri minimizasyonu, amaçla sınırlılık ve hukuki işleme şartlarının sürekliliği gibi veri koruma ilkeleri bakımından ilave değerlendirme ihtiyacı doğurabileceği de dokümanda ifade edilmektedir.

Kurum Tarafından Önerilen Yaklaşım

Dokümanda etken yapay zeka sistemlerinin tamamen yasaklanması yerine risk temelli ve insan merkezli bir yaklaşımının benimsenmesi gerektiği belirtilmektedir. Bu çerçevede yeterli insan gözetiminin sağlanması, sistem davranışlarının izlenilebilirliğinin artmasını sağlayacak mekanizmaların geliştirilmesi, verilerin güncelliğinin gözetilmesi, sürece dahil olan aktörlerin rollerinin ve sorumluluklarının netleştirilmesi, privacy by design ve privacy by default yaklaşımlarının benimsenmesi, çalışan farkındalığının artırılması gibi hususlara önem gösterilmesi tavsiye edilmektedir.

Sonuç

Kurum tarafından yayımlanan bu doküman, etken yapay zeka sistemlerinin teknolojik gelişimin önemli bir aşamasını temsil ettiğini ortaya koymakla birlikte, bu sistemlerin kişisel verilerin korunması, hesap verebilirlik ve kurumsal risk yönetimi perspektifinden dikkatli şekilde ele alınması gerektiğini vurgulamaktadır.

Bu kapsamda kuruluşların etken yapay zeka kullanım senaryolarını risk temelli bir bakış açısıyla değerlendirmesi, veri yönetişimi ve iç kontrol mekanizmalarını güncellemesi  ve insan gözetimi ve teknik sınırlamalar arasında dengeli bir yapı kurması önem arz etmektedir.

İlgili dokümanın tam metnine buradan ulaşabilirsiniz.