AI Guardrails: เมื่อ Prompt ไม่พอที่จะควบคุม AI
ถ้าอยากให้ AI ทำงานถูกต้อง ก็แค่เขียน Prompt ให้ดีขึ้น?
แต่ในระบบ Production จริง ๆ Prompt อย่างเดียวอาจไม่พอ
เพราะ LLM เป็นระบบที่มีความไม่แน่นอน และสามารถสร้าง Output ที่คาดไม่ถึงได้ แม้จะกำหนดคำสั่งไว้อย่างละเอียด
เป็นเหตุผลที