وجهة نظر / موثوقية الذكاء الاصطناعي
متى يُعدّ الإجراء مكتملاً؟
العلاقة بين إنتاج إجابة وتنفيذ العمل والتحقق من النتيجة.
يجب تعريف الدليل على اكتمال الإجراء ضمن المهمة ومعيار القبول.
الإجابة والإجراء والنتيجة مراحل منفصلة.
قد ينتج النظام إجابة صحيحة دون أن ينجز العمل. كما أن استدعاء أداة لا يدل على تحقق النتيجة المتوقعة. يجب تقييم الاكتمال وفق النتيجة في النظام المعتمد.
التحقق جزء من التصميم.
يجب تحديد النتيجة المتوقعة للمهمة منذ البداية. ويجب أن يتضح أي سجل سيتغير، وأي تحقق سيُجرى، ومن سيقرر عند حدوث استثناء.
التعلم بالدليل.
تشكل النتائج التي تم التحقق منها وحالات الفشل والاستثناءات أساس التحسينات اللاحقة للنظام. والتقييم القائم على أمثلة النجاح وحدها يحجب الحدود الحقيقية.
يُحدَّد معيار الاكتمال قبل المهمة.
يتطلب تحديث سجل أو إعداد تقرير أو تنسيق عملية تشغيلية أدلة مختلفة. ولا ينبغي تحديد هذه الأدلة بالتفسير بعد اكتمال المهمة.
تُوضَّح أولاً المخرجات المتوقعة ونظام المصدر وطريقة التحقق والمسؤول عن القبول. وبذلك تنشأ علاقة قابلة للقياس بين الإجراء والنجاح.
مثال: اكتمال تحديث سجل.
استجابة استدعاء الأداة بنجاح إشارة أولى. لكنها لا تثبت وحدها أن السجل المستهدف تغير في الحقل الصحيح، بالقيمة الصحيحة، وضمن الصلاحية المناسبة.
في هذا السيناريو المفاهيمي، تُقارَن النتيجة مجدداً بالسجل في النظام المستهدف. إذا لم يتحقق التغيير المتوقع، فلا ينبغي وضع علامة اكتمال المهمة، بل تفعيل مسار الاستثناء.
النتيجة السلبية معرفة عن النظام أيضاً.
لا يُصمَّم التحقق لإنتاج إشارة إيجابية فقط. بل يجب أن يكشف حالات مثل الاكتمال الجزئي وتعارض السجلات والسلوك غير المتوقع.
يمكن أن تفيد هذه السجلات مجموعة التقييم التالية أو تغيير البنية أو قواعد العمل. وتوثيق الحدود يتيح فهماً أفضل للأعمال التي يستطيع النظام إنجازها.


تحدث معنا