Modern AI Stack: AI ไม่ได้มีแค่ LLM

Modern AI Stack: AI ไม่ได้มีแค่ LLM

ในการสร้าง AI Application ไม่ได้จบที่การเลือก LLM

Modern AI Stack ประกอบไปด้วย

1. Infrastructure

GPU, Cloud, Storage, Model Serving ทำให้ AI รันได้

2. Model

LLM, SLM, Multimodal Model, Embedding เป็น “สมอง” ของระบบ

3. Knowledge & Data

Data, Vector DB, RAG, Knowledge Base ใส่ข้อมูลภายนอกให้ Model 

4. Context & Memory

Conversation, Context, Working Memory, Long-term Memory ทำให้ AI รู้ว่า “กำลังทำอะไร” และ “เคยเกิดอะไรขึ้น” 

5. Tools & Actions

API, Search, Database, Code, MCP ทำให้ AI ไม่ได้แค่ตอบ แต่สามารถลงมือทำ

6. Application & Agent

Planner, Workflow, Agent Runtime เชื่อม Model + Knowledge + Tools ให้ทำงานหลายขั้นตอน 

มี 3 สิ่งที่ควร ครอบคลุมทุก Layer

  • Security & Governance ควบคุมสิทธิ์ ความปลอดภัย และ Policy
  • Evaluation วัดว่า AI ตอบถูก มีคุณภาพ และทำงานตามเป้าหมายหรือไม่
  • Observability ติดตาม latency, cost, tool calls, errors และพฤติกรรมของ Agent 

สรุป

  • LLM = สมอง
  • RAG = ความรู้
  • Memory = บริบท
  • Tools = มือ
  • Agent = คนจัดการงาน
  • Observability = ระบบติดตาม

Modern AI Stack คือ การออกแบบ ทั้งระบบให้ AI ทำงานได้จริง ปลอดภัย และวัดผลได้