13 พฤศจิกายน 2569
ที่มา: Hugging Face Blog (ggml-org)
หมวด: เครื่องมือนักพัฒนา
llama.cpp โปรแกรมโอเพนซอร์สที่ทำให้รันโมเดลภาษาขนาดใหญ่บนคอมพิวเตอร์ทั่วไปได้ และอยู่เบื้องหลังแอป AI แบบออฟไลน์จำนวนมาก ออกรุ่น 1.0.0 พร้อมไลบรารี ggml ที่อยู่ข้างใต้ ใจความหลักไม่ใช่ฟีเจอร์ใหม่ แต่เป็นคำสัญญาว่าต่อจากนี้การเปลี่ยนที่ทำให้โปรแกรมของผู้อื่นพังจะเกิดพร้อมการขึ้นเลขเวอร์ชันหลักเท่านั้น ทีมที่ฝัง llama.cpp ไว้ในระบบจึงวางแผนอัปเดตได้ง่ายขึ้น
ทีม ggml-org ให้เหตุผลว่าตลอด 3 ปีครึ่งตั้งแต่เริ่มโครงการ มีแอปพลิเคชันจำนวนมากพึ่งพาไลบรารีนี้ ทุกการเชื่อมต่อใหม่หมายถึงนักพัฒนาที่ผูกกับส่วนเชื่อมต่อของไลบรารีมากขึ้น API ที่ยืดหยุ่นแต่เสถียรจึงสำคัญที่สุด และรุ่น 1.0 คือการรับผิดชอบต่อนักพัฒนาเหล่านั้น
รุ่นนี้ออกพร้อมกันสองไลบรารี คือ libllama ของ llama.cpp และ libggml ของ ggml ทั้งคู่ใช้กติกา semantic versioning หรือการตั้งเลขเวอร์ชันสามส่วนที่บอกความหมายในตัว เลขหลักแรก (major) ขยับเมื่อ API ภาษา C ในโฟลเดอร์ include เปลี่ยนแบบเข้ากันไม่ได้ เลขกลาง (minor) ขยับเมื่อเพิ่มฟีเจอร์ backend หรือรองรับโมเดลใหม่โดยของเดิมยังใช้ได้ และเลขท้าย (patch) สำหรับแก้บั๊กที่ไม่แตะ API กติกานี้ครอบคลุมทั้ง API และ ABI ซึ่งคือความเข้ากันได้ระดับไฟล์ไบนารีที่คอมไพล์แล้ว และใช้กับทุกโครงการของ ggml-org
ด้านความสามารถ llama.cpp รองรับสถาปัตยกรรมโมเดลมากกว่า 150 แบบ และวิธี speculative decoding ซึ่งเป็นเทคนิคเร่งความเร็วการสร้างข้อความที่ใช้กันแพร่หลายทั้งหมด ggml ออกแบบให้ทำงานได้บนฮาร์ดแวร์แทบทุกแบบ และคอมไพล์ backend แต่ละตัวเป็นไลบรารีแยกแล้วโหลดตอนรันได้ ทีมกำลังเพิ่มเครื่องทดสอบอัตโนมัติบนฮาร์ดแวร์หลักโดยได้รับการสนับสนุนจาก NVIDIA, AMD, Qualcomm, Arm, IBM และ Intel
ช่องทางติดตั้งก็ครบขึ้น นอกจากไฟล์บน GitHub สำหรับ Linux, macOS, Windows, Android และ iOS แล้ว ยังมี Docker, Debian, Homebrew, conda-forge, MacPorts, Winget และ XCFramework สำหรับแอป Apple ประกาศไม่ได้ระบุรายการ API ที่ถูกถอดหรือขั้นตอนย้ายระบบ และไม่ได้ให้ตัวเลขประสิทธิภาพใหม่ จุดเปลี่ยนของรุ่นนี้จึงอยู่ที่กติกาการรักษาความเข้ากันได้เป็นหลัก
สำหรับองค์กรไทยที่เลือกรันโมเดล AI บนเซิร์ฟเวอร์ของตัวเองเพื่อไม่ให้ข้อมูลลูกค้าออกนอกองค์กรตาม PDPA ข่าวนี้ทำให้การดูแลระยะยาวง่ายขึ้น ควรล็อกเลขเวอร์ชันหลักไว้ในระบบ build อ่านบันทึกการเปลี่ยนแปลงก่อนขยับเลขหลัก และทดสอบอัตโนมัติทุกครั้งที่อัปเดตเลขรอง อ่านเพิ่มเรื่องการรันโมเดลไฟล์ GGUF บนเครื่องตัวเอง ได้ ทีมงาน Smart Cyber Tech พัฒนาระบบเฉพาะองค์กรที่ฝังโมเดล AI ให้ทำงานบนเครื่องของตัวเอง ปรึกษาได้ที่ แบบฟอร์มติดต่อ
แหล่งข่าว เรียบเรียงจาก Hugging Face Blog (ggml-org) —
อ่านต้นฉบับ ภาพปก: Hugging Face Blog (ggml-org) · ลิขสิทธิ์ภาพเป็นของเจ้าของต้นฉบับ ใช้ประกอบการรายงานพร้อมอ้างอิงแหล่งที่มา
เนื้อหาบนหน้านี้เป็นการสรุปและเรียบเรียงเพื่อผู้อ่านชาวไทย หากพบข้อผิดพลาดโปรดแจ้งที่
info@smart-cyber-tech.com
บริการที่เกี่ยวข้องจากทีมงาน Smart Cyber Tech
แบ่งปันข่าวนี้:
LINE
Facebook
X
คัดลอกลิงก์
ปรึกษาทีมของเรา