AI ส่วนตัว บนอุปกรณ์ส่วนตัวของคุณ¶

เกี่ยวกับคู่มือฉบับภาษาไทยนี้

คู่มือฉบับนี้แปลจากเอกสารต้นฉบับภาษาอังกฤษของโครงการ OpenJarvis เพื่ออำนวยความสะดวกให้ผู้ใช้ชาวไทย ที่สนใจทดลองใช้งาน OpenJarvis สามารถเริ่มต้นและเรียนรู้การใช้งานได้ง่ายขึ้นด้วยภาษาไทย หากพบข้อความส่วนใดคลาดเคลื่อนจากต้นฉบับ กรุณาอ้างอิงเอกสารภาษาอังกฤษต้นฉบับเป็นหลัก

OpenJarvis คือเฟรมเวิร์กวิจัยสำหรับระบบ AI แบบ on-device ที่ประกอบกันได้ (composable) สร้าง AI ส่วนตัวที่รันบนฮาร์ดแวร์ของคุณเอง Cloud API เป็นเพียงตัวเลือกเสริมเท่านั้น

ดูตัวอย่างการใช้งานจริงจากผู้ใช้อื่น

แกลเลอรีการตั้งค่าใช้งานจริง — ตั้งแต่บรีฟตอนเช้าที่สรุป Slack และอีเมลข้ามคืน, Discord companion ที่รู้ตารางนัดหมายของคุณ, ไปจนถึงตัวรีวิวโค้ดที่มองภาพรวมระดับสูง เน้นผลลัพธ์เป็นหลัก พร้อมลิงก์ไปยังเอกสารที่อธิบายวิธีสร้างแต่ละแบบ

ดู Showcase

ทำไมต้อง OpenJarvis?¶

เอเจนต์ AI ส่วนตัวกำลังได้รับความนิยมอย่างรวดเร็ว แต่เกือบทั้งหมดยังคงส่งการประมวลผลผ่าน cloud API อยู่ดี AI ที่เรียกว่า "ส่วนตัว" ของคุณจึงยังต้องพึ่งเซิร์ฟเวอร์ของคนอื่นอยู่เสมอ ในขณะเดียวกัน งานวิจัย Intelligence Per Watt ของเราแสดงให้เห็นว่าโมเดลภาษาแบบ local สามารถรองรับคำถามแบบสนทนารอบเดียว (single-turn) และการให้เหตุผลได้แล้วถึง 88.7% โดยประสิทธิภาพด้านสติปัญญาต่อพลังงาน (intelligence efficiency) ดีขึ้นถึง 5.3 เท่า ตั้งแต่ปี 2023 ถึง 2025 โมเดลและฮาร์ดแวร์พร้อมมากขึ้นเรื่อยๆ สิ่งที่ยังขาดอยู่คือซอฟต์แวร์สแต็กที่จะทำให้ local-first personal AI ใช้งานได้จริง

OpenJarvis คือซอฟต์แวร์สแต็กนั้น เป็นเฟรมเวิร์กสำหรับ local-first personal AI ที่สร้างขึ้นบนแนวคิดหลัก 3 อย่าง ได้แก่ primitive ที่ใช้ร่วมกันสำหรับสร้างเอเจนต์แบบ on-device, การประเมิน (evaluation) ที่นับพลังงาน, FLOPs, latency และต้นทุนเป็นเงื่อนไขสำคัญเทียบเท่าความแม่นยำ และลูปการเรียนรู้ (learning loop) ที่พัฒนาโมเดลด้วยข้อมูล trace ในเครื่อง เป้าหมายเรียบง่าย: ทำให้สร้างเอเจนต์ AI ส่วนตัวที่รันในเครื่องได้เป็นค่าเริ่มต้น และเรียกใช้ cloud เฉพาะเมื่อจำเป็นจริงๆ OpenJarvis ตั้งใจเป็นทั้งแพลตฟอร์มวิจัยและรากฐานสำหรับใช้งานจริงของ local AI ในจิตวิญญาณเดียวกับ PyTorch

เริ่มต้นใช้งาน¶

แอปในเบราว์เซอร์แอปเดสก์ท็อปPython SDKCLI

รัน UI แชทแบบเต็มรูปแบบในเครื่องด้วยสคริปต์เดียว:

git clone https://github.com/open-jarvis/OpenJarvis.git
cd OpenJarvis
./scripts/quickstart.sh

คำสั่งนี้จะติดตั้ง dependency, เริ่ม Ollama พร้อมโมเดลในเครื่อง, เปิด backend และ frontend แล้วเปิด http://localhost:5173 ในเบราว์เซอร์ของคุณ

แอปเดสก์ท็อปคือหน้าต่างเนทีฟ (native window) สำหรับ UI ของ OpenJarvis backend (Ollama + inference) รันอยู่บนเครื่องของคุณ — เริ่ม backend ก่อน แล้วค่อยเปิดแอป

ขั้นตอนที่ 1 เริ่ม backend:

git clone https://github.com/open-jarvis/OpenJarvis.git
cd OpenJarvis
./scripts/quickstart.sh

ขั้นตอนที่ 2 ดาวน์โหลดและเปิดแอปเดสก์ท็อป:

ดาวน์โหลดสำหรับ macOS

มีให้ดาวน์โหลดสำหรับ Windows, Linux (DEB) และ Linux (RPM) ด้วย ดูรายละเอียดเพิ่มเติมที่หน้า Downloads

แอปจะเชื่อมต่อ http://localhost:8000 โดยอัตโนมัติ

การเปิดใช้งานครั้งแรกบน macOS

รัน xattr -cr /Applications/OpenJarvis.app หากแอปแสดงข้อความว่า "damaged" (เสียหาย)

from openjarvis import Jarvis

j = Jarvis()                              # auto-detect engine
response = j.ask("Explain quicksort.")
print(response)

หากต้องการควบคุมมากขึ้น ใช้ ask_full() เพื่อดึงสถิติการใช้งาน ข้อมูลโมเดล และผลลัพธ์จาก tool:

result = j.ask_full(
    "What is 2 + 2?",
    agent="orchestrator",
    tools=["calculator"],
)
print(result["content"])       # "4"
print(result["tool_results"])  # [{tool_name: "calculator", ...}]

jarvis ask "What is the capital of France?"

jarvis ask --agent orchestrator --tools calculator "What is 137 * 42?"

jarvis serve --port 8000

jarvis memory index ./docs/
jarvis memory search "configuration options"

Primitive ทั้งห้าสำหรับ Personal AI¶

OpenJarvis สร้างขึ้นจากเลเยอร์ที่ประกอบกันได้ (composable) ห้าชั้น แต่ละชั้นมี interface ที่ชัดเจนและสลับเปลี่ยนได้อย่างอิสระ

Intelligence — เลือกโมเดลเอง หรือให้ OpenJarvis เลือกให้เหมาะกับฮาร์ดแวร์ของคุณ จัดการแคตตาล็อกโมเดล local ทั้งหมดจากทุกผู้ให้บริการ
Engine — runtime สำหรับการอนุมาน (inference): Ollama, vLLM, SGLang, llama.cpp, cloud API และอื่นๆ ตรวจจับฮาร์ดแวร์ของคุณโดยอัตโนมัติและแนะนำตัวเลือกที่เหมาะสมที่สุด
Agents — การให้เหตุผลแบบหลายขั้นตอนร่วมกับการใช้ tool มีเอเจนต์ในตัว 8 ประเภท ตั้งแต่แชทธรรมดาไปจนถึงเวิร์กโฟลว์แบบ orchestrated
Tools & Memory — ค้นหาเว็บ, เครื่องคิดเลข, file I/O, ตัวแปลผลโค้ด (code interpreter), การดึงข้อมูล (retrieval), state ที่คงอยู่ถาวรในเครื่อง (persistent local state) และ MCP server ภายนอกใดๆ
Learning — AI ของคุณจะดีขึ้นเรื่อยๆ ตามเวลา ทุกการโต้ตอบจะสร้าง trace ที่นำไปใช้พัฒนาโมเดล (model weights), prompt และพฤติกรรมของเอเจนต์โดยอัตโนมัติ

ฟีเจอร์เด่น¶

Engine Backend กว่า 10 ตัว

Ollama, vLLM, SGLang, llama.cpp, MLX, Exo, LiteLLM, cloud (OpenAI/Anthropic/Google) และอื่นๆ ใช้ interface InferenceEngine เดียวกัน สลับได้อย่างอิสระ
เวิร์กโฟลว์อัตโนมัติ

เอเจนต์ที่ทำงานตามตาราง cron คอยมอนิเตอร์ สรุป และดำเนินการ ไม่ว่าจะเป็นรีวิวโค้ด, คัดกรองอีเมล, สรุปงานวิจัย — รันตลอด 24/7 บนฮาร์ดแวร์ของคุณ
รู้จักฮาร์ดแวร์ (Hardware-Aware)

ตรวจจับยี่ห้อ GPU, รุ่น และ VRAM โดยอัตโนมัติ แนะนำ engine ที่เหมาะสมที่สุดสำหรับฮาร์ดแวร์ของคุณ
ทำงานแบบออฟไลน์เป็นหลัก (Offline-First)

ฟังก์ชันหลักทั้งหมดทำงานได้โดยไม่ต้องเชื่อมต่อเครือข่าย Cloud API เป็นเพียงส่วนเสริมทางเลือก
API ที่เข้ากันได้กับ OpenAI

jarvis serve เริ่มเซิร์ฟเวอร์ FastAPI พร้อม SSE streaming ใช้แทน OpenAI client ได้ทันทีโดยไม่ต้องแก้โค้ด
ติดตามพลังงานและต้นทุน

มีเทเลเมทรีในตัวสำหรับวัดการใช้พลังงาน GPU, ต้นทุน token และ latency ดูได้ชัดเจนว่าแต่ละคำถามมีต้นทุนกี่วัตต์และกี่ดอลลาร์

เอกสาร¶

เริ่มต้นใช้งาน

ติดตั้ง OpenJarvis ตั้งค่า engine แรกของคุณ และรันคำถามแรก
คู่มือผู้ใช้

CLI, Python SDK และคู่มือสำหรับ Morning Digest, Deep Research, Code Assistant, Scheduled Monitor, Simple Chat, Evaluations, เอเจนต์, memory, tools และ telemetry
สถาปัตยกรรม

การออกแบบแบบ five-primitive, รูปแบบ registry (registry pattern), query flow และการเรียนรู้แบบ cross-cutting
อ้างอิง API

เอกสารอ้างอิงที่สร้างขึ้นอัตโนมัติสำหรับทุกโมดูล
การ Deploy

Docker, systemd, launchd และ container image ที่เร่งความเร็วด้วย GPU
การพัฒนา

คู่มือการร่วมพัฒนา, รูปแบบการต่อยอด (extension pattern), roadmap และ changelog

งานวิจัย¶

OpenJarvis เป็นส่วนหนึ่งของ Intelligence Per Watt โครงการวิจัยที่ศึกษาประสิทธิภาพของระบบ AI แบบ on-device พัฒนาโดย Hazy Research และ Scaling Intelligence Lab ที่ Stanford SAIL

อ่าน บทความบล็อก สำหรับแรงจูงใจในการวิจัยแบบเต็ม รายละเอียดสถาปัตยกรรม และผลการทดลอง

การอ้างอิง (Citation)¶

@misc{saadfalcon2026openjarvispersonalaipersonal,
      title={OpenJarvis: Personal AI, On Personal Devices}, 
      author={Jon Saad-Falcon and Avanika Narayan and Robby Manihani and Tanvir Bhathal and Herumb Shandilya and Hakki Orhun Akengin and Gabriel Bo and Andrew Park and Matthew Hart and Caia Costello and Chuan Li and Christopher Ré and Azalia Mirhoseini},
      year={2026},
      eprint={2605.17172},
      archivePrefix={arXiv},
      primaryClass={cs.LG},
      url={https://arxiv.org/abs/2605.17172}, 
}

ผู้สนับสนุน¶

Laude Institute • Stanford Marlowe • Google Cloud Platform • Lambda Labs • Ollama • IBM Research • Stanford HAI

ติดตาม @OpenJarvisAI บน X เพื่อรับข่าวสารอัปเดต