AI Cache

ในการทำ AI ให้เร็วขึ้น เรามักคิดถึง Model ที่เร็วขึ้น หรือ GPU ที่แรงขึ้น แต่ใน Production จริง ๆ วิธีที่เร็วที่สุดอาจเป็นการ ไม่ต้องรัน Model เลย เป็นแนวคิดของ AI Cache แทนที่จะส่งคำถามเดิมเข้