Yapay Zeka Otomasyonlarında İnsan Onayı Nerede Gerekir? İş Akışı Tasarım Rehberi

Yapay zeka otomasyonlarında insan onayı, her çıktının bir çalışan tarafından yeniden yazılması anlamına gelmez. Doğru tasarımda insan; yüksek riskli kararlarda son yetkiyi korur, düşük riskli ve kolayca geri alınabilen adımlarda ise otomasyonun hızından yararlanır. Konuyla doğrudan ilişkili resmî açıklama iso.org üzerinden incelenebilir.

Bir iş akışına kontrol noktası ekleyip eklememeye karar verirken üç soruya bakın: Hata kime zarar verir, hata ne kadar kolay geri alınır ve kararın etkisi ne kadar geniştir? Bu üç ölçüt, insan onayının nerede bulunması gerektiğini çoğu senaryoda netleştirir. Daha geniş bir karşılaştırma için Yapay Zeka Rehberleri kategorisindeki ilgili yazılar yazısına göz atabilirsiniz.

İnsan onayı gerekip gerekmediğini belirleyen üç ölçüt

İş akışını görev görev inceleyin; tüm süreci tek parça olarak değerlendirmeyin. Bir otomasyon aynı anda hem risksiz bir sınıflandırma hem de yüksek etkili bir karar üretebilir.

Bu değerlendirme, yalnızca modelin doğruluk oranına dayanmaz. Yüzde 95 doğrulukla çalışan bir sistem bile hatalı çıktısı doğrudan müşteriye gönderiliyor, ödeme başlatıyor veya işe alım kararını etkiliyorsa insan kontrolüne ihtiyaç duyabilir.

Hangi adımlarda insan onayı doğrudan gerekli?

İnsan onayını özellikle sonuç doğuran eylemin hemen öncesine yerleştirin. Modelin taslak üretmesi ile bu taslağın dış sistemde uygulanması aynı risk düzeyinde değildir.

• Para transferi ve ödeme: Tutar, alıcı veya sözleşme koşulu model tarafından oluşturuluyorsa son gönderimden önce yetkili kontrolü gerekir.
• İşe alım ve çalışan değerlendirmesi: Aday eleme, terfi, disiplin veya performans puanı gibi kararlar yalnızca model çıktısına bırakılamaz.
• Hukuki ve sözleşmesel işlemler: Sözleşme kabulü, fesih bildirimi veya resmi yanıt gönderilmeden önce sorumlu kişi inceleme yapmalıdır.
• Müşteriye verilen taahhütler: İade, tazminat, fiyat değişikliği veya özel koşul içeren yanıtlar otomatik olarak yayımlanmamalıdır.
• Güvenlik ve erişim: Kullanıcı hesabını kapatma, ayrıcalıklı erişim verme veya güvenlik olayını bildirme gibi eylemler geri dönüş maliyeti yüksek işlemlerdir.

Avrupa Birliği Yapay Zeka Yasası’nın 14. maddesi, yüksek riskli AI sistemlerinde insan gözetiminin etkili olmasını; gözetimin risk, özerklik düzeyi ve kullanım bağlamıyla orantılı kurulmasını öngörür. Bu yaklaşım, yalnızca mevzuata tabi sistemler için değil, kurumsal iş akışı tasarımı için de sağlam bir başlangıç noktasıdır. AB Yapay Zeka Yasası’nın insan gözetimi hükümleri insanın gerektiğinde müdahale edebilmesini, sistemi durdurabilmesini ve çıktıyı değerlendirebilmesini esas alır.

İnsan onayının gerekli olmadığı adımlar nasıl seçilir?

Her düşük riskli görevi manuel incelemeye açmak, otomasyonun faydasını azaltır ve çalışanlarda onay yorgunluğu oluşturur. İnsan onayı yerine otomatik kontrol kullanabileceğiniz görevlerde şu özellikleri arayın:

• Çıktı yalnızca taslak veya öneri niteliğindedir.
• Yanlış sonuç kullanıcıya veya üçüncü kişilere doğrudan zarar vermez.
• İşlem kolayca geri alınabilir ya da yeniden çalıştırılabilir.
• Girdi biçimi ve beklenen sonuç açıkça tanımlanmıştır.
• Otomasyon bir karar vermek yerine veri taşır, etiketler veya önceliklendirir.

Örneğin gelen e-postaları konu başlığına göre sınıflandırmak, toplantı notlarını taslak hâline getirmek veya yinelenen kayıtları işaretlemek çoğu kurumda otomatik yürütülebilir. Yine de sistemin hata oranı belirli bir eşiği aşarsa, yeni bir veri türüyle karşılaşırsa veya güven puanı düşerse kayıt insan incelemesine yönlendirilmelidir.

En kullanışlı model: istisnada insan, rutinde otomasyon

Pratik iş akışlarında en dengeli yaklaşım, her işlem için sürekli onay istemek yerine istisna tabanlı denetim kurmaktır. Sistem yalnızca belirlenmiş koşullarda işlemi durdurur ve yetkili kişiye gönderir.

1. Normal akışı tanımlayın: Kabul edilebilir veri aralığını, standart işlem tutarını ve beklenen çıktı biçimini belirleyin.
2. İstisna koşullarını yazın: Eksik bilgi, düşük güven puanı, alışılmadık tutar, yeni müşteri profili veya çelişkili belge gibi tetikleyiciler ekleyin.
3. Onay sahibini atayın: Bildirim herkese gitmemeli; kararı değerlendirecek yetki ve bilgiye sahip kişiye ulaşmalıdır.
4. Karar süresini ölçün: Onay bekleme süresi iş akışını kilitliyorsa eşikleri ve görev dağılımını yeniden düzenleyin.
5. İşlem kaydı tutun: Model çıktısı, insan kararı, değişiklik gerekçesi ve nihai işlem birlikte saklanmalıdır.

İnsan onayı yalnızca bir düğme olmamalıdır. Onay veren kişi hangi veriye dayanarak karar verdiğini görebilmeli, modelin belirsizliğini anlayabilmeli ve gerektiğinde işlemi durdurabilmelidir. ISO/IEC 42001, yapay zeka sistemleri için risk yönetimi, sorumluluk, izlenebilirlik ve sürekli iyileştirme temelli bir yönetim yaklaşımı sunar. ISO/IEC 42001 yapay zeka yönetim sistemi standardı iş akışlarının kurum çapında politika ve sorumluluklarla birlikte ele alınmasını öneren bir çerçevedir.

Onay ekranında hangi bilgiler bulunmalı?

İnsan denetimi, model çıktısını ekranda göstermekten ibaret değildir. Onay verecek kişiye kararın bağlamını ve müdahale seçeneklerini kısa biçimde sunun.

• Modelin önerdiği işlem ve işlem gerekçesi
• Kullanılan temel veri veya belge kaynakları
• Güven puanı ya da belirsizlik uyarısı
• İşlemin olası etkisi ve geri alma seçeneği
• Onay, düzeltme, reddetme ve durdurma düğmeleri
• Kararı kimin, ne zaman ve hangi değişiklikle verdiği

Modelin önerisini ilk sırada ve büyük biçimde göstermek, çalışanı düşünmeden onay vermeye yöneltebilir. Alternatif verileri, uyarıları ve geçmiş örnekleri görünür tutmak otomasyon yanlılığını azaltır. İnsan kontrolü, yetkili kişinin gerçekten değerlendirme yapabildiği bir tasarım olduğunda anlamlıdır.

İş akışını yayına almadan önce kontrol listesi

Aşağıdaki sorulara net cevap veremiyorsanız otomasyonu tam yetkiyle çalıştırmayın:

• Model yanlış karar verdiğinde en kötü sonuç nedir?
• Bu sonucu işlemden sonra geri almak mümkün mü?
• Onay verecek kişinin gerekli yetkisi ve alan bilgisi var mı?
• Sistem hangi koşullarda otomatik olarak duracak?
• Modelin kullandığı veri ve ürettiği çıktı denetlenebilir mi?
• İnsan onayı yalnızca formaliteye dönüşmüş mü?
• Hata veya itiraz durumunda kullanıcıya açıklama yapılabiliyor mu?

Bu sorular, insan onayının iş akışında gerçekten risk azaltıp azaltmadığını gösterir. Onay noktası yalnızca sorumluluğu çalışana aktarıyor, fakat gerekli bilgiyi ve müdahale yetkisini vermiyorsa güvenli bir tasarım kurulmuş sayılmaz.

Son karar: Onayı işlemin etkisine göre yerleştirin

Yapay zeka otomasyonlarında insan onayı için en doğru yer, modelin her çıktı ürettiği nokta değil; hatanın geri dönüşü zorlaştığı ve insan hayatını, hakkını, parasını veya itibarını etkileyebileceği son kritik adımdır. Taslak, sınıflandırma ve geri alınabilir işlemleri otomatik bırakın; yüksek etkili kararları istisna kuralları, yetkili onay ve kayıt mekanizmasıyla sınırlandırın.