AI Guardrails: เมื่อ Prompt ไม่พอที่จะควบคุม AI
ถ้าอยากให้ AI ทำงานถูกต้อง ก็แค่เขียน Prompt ให้ดีขึ้น?
แต่ในระบบ Production จริง ๆ Prompt อย่างเดียวอาจไม่พอ
เพราะ LLM เป็นระบบที่มีความไม่แน่นอน และสามารถสร้าง Output ที่คาดไม่ถึงได้ แม้จะกำหนดคำสั่งไว้อย่างละเอียด
เป็นเหตุผลที่ระบบ AI ต้องมี Guardrails
Guardrails คืออะไร?
Guardrails คือ ชั้นควบคุมที่อยู่รอบ ๆ AI เพื่อกำหนดว่า
AI รับอะไรได้ > ทำอะไรได้ > ตอบอะไรได้
โดยไม่ได้พึ่งพา Prompt เพียงอย่างเดียว
ตัวอย่าง Architecture อย่างง่าย
User → Input Guardrail → LLM → Output Guardrail → User
และมี Policy คอยกำหนดกติกาของระบบ
1. Input Guardrail
ตรวจสอบข้อมูล ก่อนส่งเข้า Model
ตัวอย่างเช่น
- ตรวจ PII / ข้อมูลส่วนบุคคล
- ตรวจ Prompt Injection
- ตรวจ Input ที่ไม่เหมาะสม
- ตรวจ Schema ของข้อมูล
- จำกัดความยาวหรือรูปแบบของ Request
2. Output Guardrail
ตรวจสอบสิ่งที่ Model สร้างขึ้น ก่อนส่งกลับ User
เช่น
- ตรวจข้อมูลต้องห้าม
- ตรวจ Hallucination บางประเภท
- ตรวจ Format
- ตรวจคำตอบตาม Business Rules
- ตรวจว่ามีข้อมูลส่วนบุคคลหลุดออกมาหรือไม่
3. Policy
Guardrail จะทำงานได้ดีเมื่อมี Policy ที่ชัดเจน
ตัวอย่าง Policy
- Discount > 20% → ห้ามอนุมัติ
- Refund > 10,000 บาท → ต้องมี Human Approval
- Customer PII → ห้ามส่งออก
ซึ่งสำคัญมาก เพราะ Policy ไม่ควรอยู่ใน Prompt อย่างเดียว
ควรอยู่ใน Application Logic / Policy Engine ที่ตรวจสอบได้และเปลี่ยนแปลงได้โดยไม่ต้องแก้ Model
4. Validation
Validation คือ การตรวจว่า Output ของ AI ตรงตามสิ่งที่ระบบต้องการหรือไม่
เช่น AI ต้องคืน
{
"intent": "refund",
"confidence": 0.92
}
ระบบสามารถตรวจว่า
- JSON ถูกต้องหรือไม่
- Field ครบหรือไม่
- Type ถูกต้องหรือไม่
- confidence อยู่ระหว่าง 0–1 หรือไม่
- intent อยู่ในรายการที่อนุญาตหรือไม่
ถ้าไม่ผ่าน > Reject / Retry / Fallback
Prompt ≠ Guardrail
Prompt บอก AI ว่า
“ควรทำอะไร”
แต่ Guardrail บอกระบบว่า
“อะไรทำได้ และอะไรทำไม่ได้”
ดังนั้น Production AI ไม่ควรมีแค่
Prompt → LLM → Response
แต่ควรเป็น
Input → Guardrail → LLM → Validation → Policy → Output
เมื่อ AI กลายเป็นส่วนหนึ่งของ Business Process
คำถามไม่ได้มีแค่
“AI ตอบเก่งแค่ไหน?”
แต่ต้องถามด้วยว่า
“ถ้า AI ตอบผิด ระบบของเราจะหยุดมันได้หรือไม่?”
เป็นสิ่งที่ AI Engineering ต่างจากการเขียน Prompt ธรรมดา