AI Cold Start: ทำไม AI บางครั้ง คิดนาน ก่อนตอบ
บางครั้ง เรา Prompt ไปแล้ว AI เงียบไปหลายวินาที ก่อนจะเริ่มตอบ ทั้งที่ Request ครั้งต่อไปกลับเร็วขึ้นมาก
อาจไม่ใช่เรื่องของ Model ที่คิดช้า แต่เป็นปัญหาที่เรียกว่า AI Cold Start
1. Model Loading
ก่อนที่ Model จะเริ่ม Inference