Yapay zeka veriyi tarayabilir, örüntüleri bulabilir, olası sonuçları karşılaştırabilir. Karar ise bundan fazlası. Kurumun amacı, değerleri, ilişkileri, risk iştahı ve kararın insanlara etkisi işin içine giriyor. Model bir öneri üretebilir, fakat o önerinin hesabını kimse ondan soramaz.
Çıktıların kendisi de sorunsuz değil. Halüsinasyon, eksik bağlam, güncellik sorunu ve veri kaynaklı yanlılık sık görülen hata biçimleri. İnsanın hata listesi de kısa sayılmaz: doğrulama yanlılığı, aşırı güven, otorite etkisi, alışkanlıklar. Human-in-the-loop yaklaşımını, insanı kusursuz hakem saymadan, iki tarafın hata biçimlerini tanıyan kontrollü bir karar düzeni olarak ele alıyorum.
Bu düzende insanın sorumluluğu sonradan başlamıyor. Problemi tanımlarken, veri sınırlarını sorgularken, modelin varsayımlarına bakarken ve gerektiğinde öneriyi reddederken devam ediyor. Etkisi yüksek kararlarda bağımsız ikinci görüş, karşı senaryo ve izlenebilir bir karar kaydı arayışı da ekleniyor.
Hız ile özen birlikte gözetilmeli. Düşük riskli ve geri alınabilir kararlarda otomasyona daha fazla yer açılabilir. İnsan hayatı, itibar, haklar, finansal kayıp veya stratejik yön söz konusuysa insan yargısının daha erken ve daha güçlü devreye girmesi gerekir.
Kendinize sorun
- Bu kararda AI'ın göremediği hangi bağlam var?
- Modelin ve karar vericinin hangi yanlılıkları birbirini güçlendirebilir?
- Yanlış kararın etkisini kim taşır ve kararı kim açıklayabilir?
Düzeni kurmaya kararları etki, belirsizlik ve geri alınabilirlik düzeyine göre sınıflandırarak başlamak mümkün. Her sınıf için insan müdahalesinin nerede başlayacağını, hangi kanıtın aranacağını ve kimin hesap vereceğini baştan yazmak gerekiyor. Karar alındıktan sonra sonucu, sapmayı ve gerekçeyi birlikte incelemek ise bir sonraki kararda hangi işaretlere bakılacağını netleştiriyor.
