SCT

กำลังเตรียมประสบการณ์ดิจิทัล

llama.cpp ออกรุ่น 1.0 หลังพัฒนา 3 ปีครึ่ง สัญญาว่าจะบอกการเปลี่ยน API ด้วยเลขเวอร์ชัน ระบบที่ฝังโมเดล AI บนเครื่องตัวเองอัปเดตได้มั่นใจขึ้น

llama.cpp โปรแกรมโอเพนซอร์สที่ทำให้รันโมเดลภาษาขนาดใหญ่บนคอมพิวเตอร์ทั่วไปได้ และอยู่เบื้องหลังแอป AI แบบออฟไลน์จำนวนมาก ออกรุ่น 1.0.0 พร้อมไลบรารี ggml ที่อยู่ข้างใต้ ใจความหลักไม่ใช่ฟีเจอร์ใหม่ แต่เป็นคำสัญญาว่าต่อจากนี้การเปลี่ยนที่ทำให้โปรแกรมของผู้อื่นพังจะเกิดพร้อมการขึ้นเลขเวอร์ชันหลักเท่านั้น ทีมที่ฝัง llama.cpp ไว้ในระบบจึงวางแผนอัปเดตได้ง่ายขึ้น

llama.cpp โปรแกรมโอเพนซอร์สที่ทำให้รันโมเดลภาษาขนาดใหญ่บนคอมพิวเตอร์ทั่วไปได้ และอยู่เบื้องหลังแอป AI แบบออฟไลน์จำนวนมาก ออกรุ่น 1.0.0 พร้อมไลบรารี ggml ที่อยู่ข้างใต้ ใจความหลักไม่ใช่ฟีเจอร์ใหม่ แต่เป็นคำสัญญาว่าต่อจากนี้การเปลี่ยนที่ทำให้โปรแกรมของผู้อื่นพังจะเกิดพร้อมการขึ้นเลขเวอร์ชันหลักเท่านั้น ทีมที่ฝัง llama.cpp ไว้ในระบบจึงวางแผนอัปเดตได้ง่ายขึ้น

ทีม ggml-org ให้เหตุผลว่าตลอด 3 ปีครึ่งตั้งแต่เริ่มโครงการ มีแอปพลิเคชันจำนวนมากพึ่งพาไลบรารีนี้ ทุกการเชื่อมต่อใหม่หมายถึงนักพัฒนาที่ผูกกับส่วนเชื่อมต่อของไลบรารีมากขึ้น API ที่ยืดหยุ่นแต่เสถียรจึงสำคัญที่สุด และรุ่น 1.0 คือการรับผิดชอบต่อนักพัฒนาเหล่านั้น

รุ่นนี้ออกพร้อมกันสองไลบรารี คือ libllama ของ llama.cpp และ libggml ของ ggml ทั้งคู่ใช้กติกา semantic versioning หรือการตั้งเลขเวอร์ชันสามส่วนที่บอกความหมายในตัว เลขหลักแรก (major) ขยับเมื่อ API ภาษา C ในโฟลเดอร์ include เปลี่ยนแบบเข้ากันไม่ได้ เลขกลาง (minor) ขยับเมื่อเพิ่มฟีเจอร์ backend หรือรองรับโมเดลใหม่โดยของเดิมยังใช้ได้ และเลขท้าย (patch) สำหรับแก้บั๊กที่ไม่แตะ API กติกานี้ครอบคลุมทั้ง API และ ABI ซึ่งคือความเข้ากันได้ระดับไฟล์ไบนารีที่คอมไพล์แล้ว และใช้กับทุกโครงการของ ggml-org

ด้านความสามารถ llama.cpp รองรับสถาปัตยกรรมโมเดลมากกว่า 150 แบบ และวิธี speculative decoding ซึ่งเป็นเทคนิคเร่งความเร็วการสร้างข้อความที่ใช้กันแพร่หลายทั้งหมด ggml ออกแบบให้ทำงานได้บนฮาร์ดแวร์แทบทุกแบบ และคอมไพล์ backend แต่ละตัวเป็นไลบรารีแยกแล้วโหลดตอนรันได้ ทีมกำลังเพิ่มเครื่องทดสอบอัตโนมัติบนฮาร์ดแวร์หลักโดยได้รับการสนับสนุนจาก NVIDIA, AMD, Qualcomm, Arm, IBM และ Intel

ช่องทางติดตั้งก็ครบขึ้น นอกจากไฟล์บน GitHub สำหรับ Linux, macOS, Windows, Android และ iOS แล้ว ยังมี Docker, Debian, Homebrew, conda-forge, MacPorts, Winget และ XCFramework สำหรับแอป Apple ประกาศไม่ได้ระบุรายการ API ที่ถูกถอดหรือขั้นตอนย้ายระบบ และไม่ได้ให้ตัวเลขประสิทธิภาพใหม่ จุดเปลี่ยนของรุ่นนี้จึงอยู่ที่กติกาการรักษาความเข้ากันได้เป็นหลัก

สำหรับองค์กรไทยที่เลือกรันโมเดล AI บนเซิร์ฟเวอร์ของตัวเองเพื่อไม่ให้ข้อมูลลูกค้าออกนอกองค์กรตาม PDPA ข่าวนี้ทำให้การดูแลระยะยาวง่ายขึ้น ควรล็อกเลขเวอร์ชันหลักไว้ในระบบ build อ่านบันทึกการเปลี่ยนแปลงก่อนขยับเลขหลัก และทดสอบอัตโนมัติทุกครั้งที่อัปเดตเลขรอง อ่านเพิ่มเรื่องการรันโมเดลไฟล์ GGUF บนเครื่องตัวเองได้ ทีมงาน Smart Cyber Tech พัฒนาระบบเฉพาะองค์กรที่ฝังโมเดล AI ให้ทำงานบนเครื่องของตัวเอง ปรึกษาได้ที่ แบบฟอร์มติดต่อ

แหล่งข่าวเรียบเรียงจาก Hugging Face Blog (ggml-org) — อ่านต้นฉบับ
ภาพปก: Hugging Face Blog (ggml-org) · ลิขสิทธิ์ภาพเป็นของเจ้าของต้นฉบับ ใช้ประกอบการรายงานพร้อมอ้างอิงแหล่งที่มา
เนื้อหาบนหน้านี้เป็นการสรุปและเรียบเรียงเพื่อผู้อ่านชาวไทย หากพบข้อผิดพลาดโปรดแจ้งที่ info@smart-cyber-tech.com
บริการที่เกี่ยวข้องจากทีมงาน Smart Cyber Tech

ข่าวอื่นที่น่าสนใจ

ข่าวที่เกี่ยวข้อง

รันโมเดล AI บนเครื่องตัวเองง่ายขึ้น: ไลบรารี Transformers ของ Hugging Face อ่านไฟล์โมเดลย่อขนาดแบบ llama.cpp ได้แล้ว ความเร็วใกล้เคียงกัน ปัญญาประดิษฐ์

รันโมเดล AI บนเครื่องตัวเองง่ายขึ้น: ไลบรารี Transformers ของ Hugging Face อ่านไฟล์โมเดลย่อขนาดแบบ llama.cpp ได้แล้ว ความเร็วใกล้เคียงกัน

การรันโมเดลภาษาบนเครื่องของตัวเองแทนการส่งข้อมูลออกไปใช้บริการ AI ภายนอกกำลังง่ายขึ้นอีกขั้น Hugging Face เพิ่มความสามารถให้ไลบรารี Transformers ซึ่งนักพัฒนา AI ใช้กันแพร่หลายที่สุด อ่านไฟล์โมเดลแบบ GGUF ได้โดยตรง GGUF คือรูปแบบไฟล์ที่ย่อขนาดโมเดลด้วยการลดความละเอียดของตัวเลข (quantization) จนรันบนโน้ตบุ๊กได้ และเดิมผูกอยู่กับโปรแกรม llama.cpp ผลทดสอบบน MacBook Pro พบว่าความเร็วสร้างข้อความของ Transformers ตามหลัง llama.cpp เพียงราว 1 token ต่อวินาที

อ่านข่าวนี้
โมเดล AI ขนาดใหญ่ที่องค์กรติดตั้งบนเครื่องของตัวเองได้ Reflection เปิด Beam 501B แบบโอเพนซอร์ส เน้นงานเขียนโค้ดและเอเจนต์ ใช้งานเชิงพาณิชย์ได้ฟรี ปัญญาประดิษฐ์

โมเดล AI ขนาดใหญ่ที่องค์กรติดตั้งบนเครื่องของตัวเองได้ Reflection เปิด Beam 501B แบบโอเพนซอร์ส เน้นงานเขียนโค้ดและเอเจนต์ ใช้งานเชิงพาณิชย์ได้ฟรี

องค์กรที่อยากใช้ AI ระดับแนวหน้าแต่ไม่อยากส่งข้อมูลออกไปให้บริการภายนอกมีตัวเลือกใหม่ Reflection ห้องวิจัย AI จากสหรัฐฯ เปิดโมเดล Beam ขนาด 501,000 ล้านพารามิเตอร์ให้ดาวน์โหลดบน Hugging Face เมื่อ 16 ตุลาคม 2026 ภายใต้สัญญาอนุญาต Apache 2.0 ซึ่งนำไปใช้เชิงพาณิชย์และดัดแปลงได้ โมเดลเน้นงานเขียนโปรแกรมและงานแบบเอเจนต์ที่ AI ทำหลายขั้นตอนเอง จุดขายคือองค์กรติดตั้งบนเซิร์ฟเวอร์หรือคลาวด์ของตัวเอง และฝึกเพิ่มให้เข้ากับงานของตัวเองได้

อ่านข่าวนี้
NVIDIA ปล่อย Cosmos 3 โมเดลเปิด 4 ตัว จำลองโลกเสมือนให้รถไร้คนขับและหุ่นยนต์ฝึกในวิดีโอที่ตอบสนองต่อการควบคุมแบบต่อเนื่อง ใช้เชิงพาณิชย์ได้ ปัญญาประดิษฐ์

NVIDIA ปล่อย Cosmos 3 โมเดลเปิด 4 ตัว จำลองโลกเสมือนให้รถไร้คนขับและหุ่นยนต์ฝึกในวิดีโอที่ตอบสนองต่อการควบคุมแบบต่อเนื่อง ใช้เชิงพาณิชย์ได้

รถไร้คนขับและหุ่นยนต์ต้องฝึกกับสถานการณ์จำนวนมหาศาล ซึ่งเก็บจากโลกจริงทั้งหมดไม่ไหว ทั้งแพงและบางเหตุการณ์อันตรายเกินกว่าจะรอให้เกิดขึ้นจริง NVIDIA จึงปล่อยโมเดลเปิด Cosmos 3 ชุดใหม่ 4 ตัว ที่สร้างวิดีโอโลกเสมือนต่อเนื่องไปทีละช่วงตามคำสั่งควบคุม เช่น หุ่นยนต์ขยับแขนหรือรถเลี้ยว ให้ระบบได้ฝึกและทดสอบในโลกจำลองที่ดูเหมือนจริง โมเดลทั้งหมดดาวน์โหลดได้จาก Hugging Face และใช้เชิงพาณิชย์ได้ตามเงื่อนไขของสัญญาอนุญาต

อ่านข่าวนี้

ติดต่อเพื่อสอบถามข้อมูลเพิ่มเติม

ทีมของเรายินดีให้คำแนะนำว่าเรื่องนี้กระทบระบบของคุณอย่างไร และควรเตรียมตัวอย่างไร

สอบถามทีมงาน