ما الضوابط (guardrails)؟

تعليمات التوجيه وحدها ليست ضوابط. هي اقتراحات يتبعها النموذج عادةً، و«عادةً» ليست تحكّماً حين يكون الموضوع حدّ استرجاع مالي أو سؤالاً سريرياً. فالضوابط الحقيقية تُفرَض خارج النموذج، في شيفرة تفحص المخرجات قبل أن تصل إلى المتصل أو إلى الواجهة البرمجية.

والنافع منها يميل إلى أن يكون مملّاً ومحدّداً: لا تذكر سعراً خارج هذه القائمة، لا تعطِ نصيحة جرعة، لا تسترجع مالاً فوق هذه القيمة، صعّد دائماً إن قال المتصل هذه الكلمات. فالقواعد المحدّدة قابلة للاختبار؛ أمّا التعليمات العامّة بـ«كن حذراً» فلا.

وهي تحتاج أيضاً أن تكون قابلة للتدقيق لاحقاً. فحين يسوء شيء يكون السؤال دائماً أي قاعدة انطبقت وماذا فعل الوكيل، وهذا يعني أن القرار يحتاج تسجيلاً، لا نصّ المحادثة وحده.