AI Çıktılarında İnsan Onayı: Finans ve İK Kararlarında Kontrol Noktaları Nasıl Kurulur?

Yapay zekâ önerileri finans ve insan kaynakları gibi etkisi yüksek alanlarda hızla karar akışlarına girerken, asıl soru “öneri üretiliyor mu?” değil, “bu öneri kimin onayıyla, hangi kayıtla ve hangi sınırlar içinde uygulanıyor?” sorusudur. Bu yazıda AI çıktısı insan onayı kontrol noktası yaklaşımını, uygulanabilir ölçütler ve bir örnek senaryo üzerinden ele alıyoruz. Aşağıdaki senaryo tamamen örnek amaçlıdır; gerçek bir şirketi, verisini veya sonucunu temsil etmez ve hukuki danışmanlık yerine geçmez.

AI Destekli Karar Süreçlerinde İnsan Onayının (Human Oversight) Önemi

Bir yapay zekâ sistemi kötü bir öneri ürettiğinde, sorun çoğu zaman öneriyi üretmesinde değil, öneriyi kimsenin sorgulamadan sisteme işlemesindedir. Özellikle ödeme, bordro, işe alım veya personel verisi gibi konularda yapılan bir hata, düzeltilmesi zor ve kişileri doğrudan etkileyen sonuçlar doğurabilir. Bu nedenle insan onayı bir “son aşamada basılan düğme” değil, karar zincirinin tasarım parçasıdır.

Burada kritik ayrım, öneri ile işlemi birbirinden ayırmaktır. Bir AI aracının bir faturayı kategorize etmesi ya da bir adayı sıralaması başka, bu kararın ödeme başlatması ya da bir kaydı silmesi başkadır. Neyfa’nın yapay zekâ ajanlarında insan onayı rehberi, geri döndürülemez, yüksek etkili veya dış tarafa giden işlemlerde yetkili kişiye anlamlı bağlam sunulmasını ve bu işlemlerin ayrı bir onay kapısından geçmesini önermektedir. Bu yaklaşım, finans ve İK için de geçerli bir değerlendirme ölçütüdür.

Hangi Kararlar Mutlaka İnsan Onayından Geçmeli? (Risk Sınıflandırması)

Her kararı aynı sıkılıkta kontrol etmek hem vakit kaybettirir hem de gerçek riskli noktaların gözden kaçmasına yol açar. Önerilen yöntem, kararları etki, geri döndürülebilirlik ve veri hassasiyeti eksenlerinde sınıflandırmaktır. Aşağıdaki tablo bir başlangıç ölçütüdür; kurumun kendi risk iştahına göre yeniden düzenlenmelidir.

Tablodaki son satır, KVKK’nın üretken yapay zekâ konusunda veri sorumlularına yönelik rehberinde vurgulanan yaşam döngüsü boyunca kişisel veri işleme yaklaşımıyla birlikte okunmalıdır. Hangi verinin hangi sisteme gittiği sorusu, onay mekanizmasından önce cevaplanmalıdır.

Finans ve İK Kararları İçin İnsan Onayı ve Kontrol Noktası Mimarisi

Kontrol noktası mimarisi, bir önerinin hangi aşamalardan geçerek nihai karara dönüştüğünü tanımlar. Pratikte şu beş aşama yeterli bir başlangıç sunar:

1. Girdi doğrulaması: AI’a verilen verinin kaynağı, tarihi ve kapsamı kayda geçer. Eksik veya çelişkili girdi varsa öneri üretilmez, uyarı verilir.
2. Öneri ve gerekçe: Sistem öneriyi, dayandığı kayıtları ve belirsizlik durumunu birlikte sunar. Yalnız bir sonuç değil, neden o sonucun önerildiği de görünmelidir.
3. Önizleme: Yüksek etkili işlemde değişiklik farkı (önce-sonra), etkilenen kayıt sayısı ve geri dönüş yolu gösterilir.
4. Manuel geçersiz kılma (override): Yetkili kişi öneriyi reddedebilir, değiştirebilir veya işlemi tamamen durdurabilir. Override, yalnız bir düğme değil, gerekçe alanı zorunlu bir işlemdir.
5. Çift kontrol ve kayıt: Yüksek riskli kararlarda ikinci bir yetkili onayı istenir ve tüm adımlar değiştirilemez bir kayda yazılır.

Manuel override tasarımında iki hata sık görülür. Birincisi, override’ın yalnız teknik olarak mümkün olması ama günlük akışta zor bulunması; ikincisi ise reddedilen önerilerin ayrıca kaydedilmemesidir. Her iki durum da sistemin gerçek performansını ölçmeyi imkânsız kılar.

Karar Log Kaydı ve Denetim İzi (Audit Trail) Oluşturma

Denetim izi, “kim, ne zaman, hangi öneriye dayanarak, ne yaptı” sorularına cevap verebilen kayıt setidir. Bu kayıt yalnız yasal uyum için değil, öğrenme ve iyileştirme için de gerekir. Bir ay sonra bir fark fark edildiğinde, hatanın girdi mi, model önerisi mi yoksa insan onayı mı kaynaklı olduğunu ayırt edebilmek için kayıt şarttır.

Log kayıtlarında dikkat edilmesi gereken ilkeler şunlardır: kayıtlar sonradan düzenlenemez olmalı, yetkisiz erişime kapalı tutulmalı ve kişisel veri içeriyorsa minimum veriyle tutulmalıdır. Örneğin bir bordro önerisinin log’una çalışanın tam maaş bilgisini yazmak yerine, değişen alanın türü ve farkın kategorisi yazılabilir. Bu yaklaşım hem gizliliği hem de denetlenebilirliği korur.

Pratikte masraf ve banka mutabakatı gibi süreçlerde, öneri ile nihai kayıt arasındaki farkın izlenmesi özellikle değerlidir. Masraf ve avans yönetimi ile banka ekstresi ve mutabakat akışlarını bu mantıkla değerlendirmek, hangi önerinin kabul edildiğini ve hangisinin düzeltildiğini görünür kılar.

Karar Kayıt Şablonu: Öneriden Nihai Onaya İzlenebilirlik

Aşağıdaki şablon, her yüksek etkili karar için asgari alanları tanımlar. Şablon bir ekran değil, veri yapısı düşüncesidir; kurum kendi sistemine göre alan adlarını uyarlayabilir.

1. Karar kimliği ve tarih-saat damgası
2. Karar türü ve risk sınıfı (örneğin düşük, orta, yüksek)
3. Kullanılan araç veya modül adı ve sürüm bilgisi
4. Girdi kaynağı ve veri kapsamı (kayıt sayısı, dönem)
5. Önerinin özeti ve güven/belirsizlik notu
6. Önce-sonra farkı ve etkilenen kayıt sayısı
7. Onaylayan veya reddeden kişinin kimliği ve rolü
8. Override gerekçesi (zorunlu alan)
9. Geri dönüş yolu ve geri alma durumu
10. Gözden geçirme tarihi ve sorumlu kişi

Örnek senaryo: Bir KOBİ’de finans ekibi, banka hareketlerinin açık alacak kayıtlarıyla eşleştirilmesi için AI önerisi kullanıyor. Eşleşme önerileri düşük riskli kabul edilir ve toplu gözden geçirmeye açılır. Ancak bir tedarikçiye yapılacak ödeme önerisi, ayrı bir kontrol kapısından geçer ve iki kişilik onay ister. Üç ay sonra gözden geçirmede, reddedilen önerilerin çoğunun aynı açıklama kalıbından kaynaklandığı görülür. Bu bulgu, girdi kurallarının iyileştirilmesi için somut bir veri olur.

Logitera Cockpit ile Yapay Zekâ Destekli Süreçlerde Şeffaflık ve Yönetişim

Yukarıda anlatılan yaklaşımı uygulamak için hangi araçların ne kadar destek verdiğini değerlendirmek gerekir. Cockpit, Logitera’nın bir ürünüdür ve CRM, finans, proje, insan kaynakları, iş zekâsı, pazarlama ve müşteri desteğini bir araya getiren modüler bir işletme yönetim platformudur. Bu yazının odağı bir ürün tanıtımı değil, değerlendirme ölçütleridir; ancak platformun doğrulanmış kapsamı bu ölçütleri somutlaştırmak için kullanılabilir.

Doğrulanmış kapsama göre AI özellikleri modüllere, sağlayıcı yapılandırmasına ve kullanılabilir veriye bağlıdır ve son karar kullanıcıdadır. Bu, bir kurumun ihtiyacını netleştirmeden “AI her şeyi halleder” beklentisine girmemesi gerektiği anlamına gelir. Cari ekstre, masraf ve avans, banka CSV veya XLSX aktarımı ile mutabakat önerileri gibi kapsamlar, kontrol noktası mimarisinin hangi kısmının hangi modülde karşılanacağını planlamak için bir başlangıç noktasıdır. Ayrıca Cockpit platform kapsamı ve Cockpit AI sayfası üzerinden, hangi özelliklerin hangi koşullarda geçerli olduğu güncel olarak kontrol edilmelidir. Fiyat, kurulum ve entegrasyon kapsamı ihtiyaç görüşmesinde belirlendiğinden, bu konularda sabit bir beklenti oluşturulmamalıdır.

Son olarak, uygulamaya başlamadan önce şu kontrol listesini bir pilot değerlendirme olarak kullanabilirsiniz:

1. Her AI önerisinin hangi risk sınıfına girdiğini yazılı olarak tanımladınız mı?
2. Yüksek etkili her işlem için onay yetkilisini ve ikinci kontrol adımını belirlediniz mi?
3. Manuel override’ın nasıl ve kimin tarafından kullanılacağını test ettiniz mi?
4. Log kayıtlarında kişisel veriyi minimum düzeyde tutuyor musunuz?
5. Reddedilen önerileri de kaydediyor ve düzenli olarak gözden geçiriyor musunuz?
6. Pilotun başarı ölçütünü ve geri dönüş adımını baştan yazılı hale getirdiniz mi?

Unutulmamalıdır ki bu liste bir reçete değil, bir değerlendirme aracıdır. Her kurumun veri yapısı, risk iştahı ve yasal yükümlülükleri farklıdır. Sonuçta AI çıktısı insan onayı kontrol noktası, bir teknik özellikten çok, karar kültürünün bir parçası olarak ele alınmalıdır.