ที่มา: The New Stack
หมวด: ปัญญาประดิษฐ์
ทีมที่เลือกโมเดล AI จากป้ายราคาอย่างเดียวอาจตัดสินใจพลาด GPT-6 Astra ของ OpenAI คิด 10 ดอลลาร์ต่อล้านโทเคนขาเข้า และ 50 ดอลลาร์ต่อล้านโทเคนขาออก แพงกว่า GPT-5.6 Sol (4 และ 20 ดอลลาร์) 2.5 เท่า แต่ผลวัดจาก OpenAI นักพัฒนาอิสระ และ ARC Prize ต่างพบว่าค่าใช้จ่ายต่องานที่ทำเสร็จหนึ่งชิ้นมักต่ำกว่า เพราะโมเดลใหม่ใช้รอบเรียกและโทเคนน้อยกว่า ตัวแปรที่กระทบบิลมากที่สุดจึงกลายเป็นระดับการคิดที่ทีมเลือกตั้ง ไม่ใช่ราคาต่อโทเคน
คำที่ต้องเข้าใจก่อนคือ reasoning effort หรือระดับการคิด เป็นค่าที่นักพัฒนากำหนดได้ว่าจะให้โมเดลใช้แรงคิดภายในมากแค่ไหนก่อนตอบ Astra มีตั้งแต่ low, medium, high, xhigh ถึง max ซึ่งไม่เปลี่ยนราคาต่อโทเคน แต่เปลี่ยนปริมาณโทเคนที่ใช้และจำนวนครั้งที่ต้องลองกว่างานจะจบ ซึ่ง OpenAI เขียนไว้ในคำแนะนำการย้ายรุ่นว่า Astra ใช้โทเคนขาออกน้อยกว่าเดิมมาก
ตัวเลขฝั่ง OpenAI มาจากสองชุดทดสอบ บน Terminal-Bench 4.0 ซึ่งวัดงานผ่านบรรทัดคำสั่ง Astra ได้ 57.9% ต่อ 37.3% ของ Sol แต่ต้นทุนต่องานยังต่ำกว่าราว 9% ส่วน GPQA Diamond ชุดคำถามวิทยาศาสตร์ระดับยาก คะแนนแทบเสมอกัน (94.9% กับ 94.6%) โดยต้นทุนของ Astra ต่ำกว่าราว 37% หัวหน้าทีมวิศวกรรมของ Codex ยังโพสต์บน X ว่า Astra ระดับ low เก่งกว่า Sol ระดับ high สอดคล้องกับ Intelligence Index ของ Artificial Analysis ที่ให้ Astra-low 49 คะแนน Sol-high 48 คะแนน และ Astra-low ตอบโทเคนแรกใน 2.53 วินาที เทียบกับ 11.87 วินาทีของ Sol-high
นักพัฒนาอิสระรายหนึ่งลองให้โมเดลทำงานบนโค้ดเบสเดียวกันครบสามขั้น คือวิเคราะห์ เขียนโค้ด และรีวิว เมื่อเทียบตลอดทั้งงาน Astra ระดับ medium ใช้ราว 51 นาทีและประมาณ 25.67 ดอลลาร์ ส่วน Sol ระดับ high ใช้ราว 75 นาทีและ 31.79 ดอลลาร์ ส่วนต่างอยู่ที่ขั้นเขียนโค้ด Astra ปิดงานส่วนนี้ด้วย 80 คำขอและโทเคนขาเข้า 11.1 ล้าน ขณะที่ Sol ต้องใช้ 238 คำขอและ 37.8 ล้านโทเคน
จุดที่สวนความรู้สึกคือ เมื่อดัน Astra ขึ้นไปที่ high งานเดียวกันกลับยืดเป็น 77 นาที ค่าใช้จ่ายขึ้นเป็น 37.23 ดอลลาร์ และขั้นรีวิวยังมองข้ามบั๊กตอนเริ่มระบบที่รอบ medium จับได้ การลองครั้งเดียวยังตั้งเป็นกฎไม่ได้ แต่เตือนว่ายิ่งคิดมากไม่ได้แปลว่ายิ่งคุ้ม
ARC Prize องค์กรที่จัดการแข่งขันวัดความสามารถแก้โจทย์ของ AI กลับได้ภาพกลับด้าน บนชุดทดสอบ ARC-AGI-3 ซึ่งให้เอเจนต์ (AI ที่ลงมือทำงานหลายขั้นต่อเนื่องเอง) แก้โจทย์ในสภาพแวดล้อมแบบโต้ตอบ คะแนนของ Astra ไต่จาก 17.5% ที่ low เป็น 38.6% ที่ medium, 54.8% ที่ high และ 62.7% ที่ max แต่ค่าใช้จ่ายไม่ได้ไต่ตาม low ใช้ 38,166 ดอลลาร์ medium 48,090 ดอลลาร์ high 40,705 ดอลลาร์ และ max ถูกที่สุดที่ 26,098 ดอลลาร์ เพราะที่ระดับ max โมเดลคิดหนักขึ้นต่อการตัดสินใจหนึ่งครั้งแต่ลงมือน้อยครั้งลง ในงานเอเจนต์ ก้าวผิดหนึ่งก้าวลากไปสู่การเรียกเครื่องมือและการลองใหม่อีกหลายรอบ ซึ่งแพงกว่าค่าคิดที่ประหยัดได้
สองผลที่ขัดกันชี้ว่าระดับที่เหมาะขึ้นกับชนิดงาน Astra จึงมีกลไก configuration_update ให้แอปเปลี่ยนระดับการคิดระหว่างคำตอบแต่ละรอบ โดยไม่ต้องแก้การตั้งค่าของคำขอตั้งต้นและไม่เสียแคช งานปกติวิ่งที่ระดับต่ำได้ แล้วยกระดับเฉพาะรอบที่เทสต์ล้ม เครื่องมือตอบผิดคาด หรือเจอบั๊กยาก ผ่านแล้วค่อยลดลง ตอนนี้ใช้ได้กับ Astra เฉพาะคำขอมาตรฐานแบบเอเจนต์ตัวเดียว
สำหรับทีมพัฒนาในไทยที่จ่ายค่า API ในสกุลดอลลาร์ บทเรียนคือต้องวัดค่าใช้จ่ายต่องานที่เสร็จจริง ไม่ใช่ราคาต่อโทเคน และควรทดลองระดับ reasoning effort หลายระดับกับงานประเภทเดียวกันของตัวเองก่อนตั้งค่าเริ่มต้น งานเขียนโค้ดทั่วไปอาจเหมาะกับระดับกลาง ส่วนงานเอเจนต์ที่ต้องตัดสินใจหลายขั้นอาจถูกกว่าเมื่อเปิดระดับสูง ทีมงาน Smart Cyber Tech แนะนำให้บันทึกจำนวนคำขอ โทเคน และเวลาต่องานไว้ทุกครั้ง เพื่อให้เห็นว่าการเปลี่ยนโมเดลหรือระดับการคิดกระทบงบจริงอย่างไร ทีมงาน Smart Cyber Tech ช่วยออกแบบและเชื่อมต่อ API กับโมเดล AI ให้คุมต้นทุนและเลือกโมเดลได้เหมาะกับงาน ปรึกษาได้ที่ แบบฟอร์มติดต่อ
แหล่งข่าวเรียบเรียงจาก The New Stack —
อ่านต้นฉบับภาพปก: Second Breakfast / Unsplash · ลิขสิทธิ์ภาพเป็นของเจ้าของต้นฉบับ ใช้ประกอบการรายงานพร้อมอ้างอิงแหล่งที่มา
เนื้อหาบนหน้านี้เป็นการสรุปและเรียบเรียงเพื่อผู้อ่านชาวไทย หากพบข้อผิดพลาดโปรดแจ้งที่
info@smart-cyber-tech.com
บริการที่เกี่ยวข้องจากทีมงาน Smart Cyber Tech
แบ่งปันข่าวนี้:
LINE
Facebook
X
ปรึกษาทีมของเรา