PERSPEKTİF / AI güvenilirliği
Bir eylem ne zaman tamamlanmış sayılır?
Yanıt üretmek, işi yürütmek ve sonucu doğrulamak arasındaki ilişki.
Bir eylemin tamamlandığını gösteren kanıt, görevin ve kabul ölçüsünün içinde tanımlanmalıdır.
Yanıt, eylem ve sonuç ayrı aşamalardır.
Bir sistem doğru bir yanıt üretebilir ama işi gerçekleştirmemiş olabilir. Bir araç çağrısı yapılmış olması da beklenen sonucun gerçekleştiğini göstermez. Tamamlanma, yetkili sistemdeki sonuçla değerlendirilmelidir.
Doğrulama tasarımın içinde yer alır.
Bir görevin beklenen sonucu baştan tanımlanmalıdır. Hangi kaydın değişeceği, hangi kontrolün yapılacağı ve bir istisna halinde kimin karar vereceği açık olmalıdır.
Kanıtla öğrenmek.
Doğrulanmış sonuçlar, başarısızlıklar ve istisnalar sistemin sonraki iyileştirmelerine temel oluşturur. Yalnızca başarı örnekleri üzerinden yapılan değerlendirme gerçek sınırları görünmez kılar.
Tamamlanma ölçüsü görevden önce tanımlanır.
Bir kayıt güncellemesi, bir rapor hazırlığı veya bir operasyonel koordinasyon işi farklı kanıtlar gerektirir. Bu kanıtın ne olduğu görev tamamlandıktan sonra yorumla belirlenmemelidir.
Önce beklenen çıktı, kaynak sistem, kontrol yöntemi ve kabul sahibi açıklanır. Böylece eylem ile başarı arasında ölçülebilir bir bağ kurulur.
Örnek: kayıt güncellemesinin tamamlanması.
Bir araç çağrısının başarılı yanıt vermesi ilk sinyaldir. Ancak hedef kaydın doğru alanda, doğru değerle ve uygun yetki altında değiştiğini tek başına göstermez.
Bu kavramsal senaryoda sonuç, hedef sistemdeki kayıtla tekrar karşılaştırılır. Beklenen değişiklik gerçekleşmemişse görev tamamlandı olarak işaretlenmemeli; istisna yolu işletilmelidir.
Olumsuz sonuç da sistem bilgisidir.
Doğrulama, yalnızca olumlu bir işaret üretmek için kurulmaz. Kısmi tamamlanma, çelişen kayıt ve beklenmeyen davranış gibi durumları görünür kılmalıdır.
Bu kayıtlar bir sonraki değerlendirme setine, mimari değişikliğine veya çalışma kuralına bilgi sağlayabilir. Sınırları belgelemek, sistemin hangi işleri taşıyabileceğini daha iyi anlamayı sağlar.


Bizimle konuşun