ติดตั้งบน Linux¶
ทดสอบแล้วบน: Ubuntu 22.04 / 24.04, Fedora 40, Debian 12, Arch
สิ่งที่ต้องมีก่อน¶
ดิสโทรส่วนใหญ่มี git และ curl มาให้อยู่แล้ว หากของคุณไม่มี:
# Debian / Ubuntu
sudo apt install git curl
# Fedora / RHEL
sudo dnf install git curl
# Arch
sudo pacman -S git curl
GPU NVIDIA / AMD¶
ตัวติดตั้งจะตรวจจับอัตโนมัติผ่าน nvidia-smi / rocm-smi การ์ดระดับ datacenter (A100, H100, MI300+) จะได้ vLLM เป็น engine ที่แนะนำ ส่วนการ์ดระดับผู้ใช้ทั่วไปจะได้ Ollama (NVIDIA) หรือ Lemonade (AMD)