SCT

กำลังเตรียมประสบการณ์ดิจิทัล

ให้เอเจนต์ AI แก้ระบบจริงอย่างไรไม่ให้เกินสิทธิ์: แนวทางขออนุญาตตามแผนงานจาก Vercel

ถ้าให้สิทธิ์เอเจนต์ AI กว้างเกินไป ความผิดพลาดครั้งเดียวอาจลามไปทั้งระบบ แต่ถ้าถามยืนยันทุกขั้น คนก็จะเผลอกดอนุมัติโดยไม่อ่าน Vercel เล่าวิธีแก้ในเอเจนต์ของตัวเอง คือให้เอเจนต์สืบปัญหาแบบอ่านอย่างเดียวก่อน แล้วเสนอแผนพร้อมสิทธิ์ที่ต้องใช้ให้คนอนุมัติครั้งเดียว บทความนี้สรุปกลไกดังกล่าว และสิ่งที่ทีมไทยนำไปใช้กับระบบอัตโนมัติของตัวเองได้

ถ้าให้สิทธิ์เอเจนต์ AI กว้างเกินไป ความผิดพลาดครั้งเดียวอาจลามไปทั้งระบบ แต่ถ้าถามยืนยันทุกขั้น คนก็จะเผลอกดอนุมัติโดยไม่อ่าน Vercel เล่าวิธีแก้ในเอเจนต์ของตัวเอง คือให้เอเจนต์สืบปัญหาแบบอ่านอย่างเดียวก่อน แล้วเสนอแผนพร้อมสิทธิ์ที่ต้องใช้ให้คนอนุมัติครั้งเดียว บทความนี้สรุปกลไกดังกล่าว และสิ่งที่ทีมไทยนำไปใช้กับระบบอัตโนมัติของตัวเองได้

ทำไมการอนุญาตทีละคำสั่งจึงไม่พอ

คำขออย่าง ช่วยแก้ deployment ที่พัง ไม่ได้บอกล่วงหน้าว่าเอเจนต์จะต้องทำอะไรหรือใช้สิทธิ์ใด ถ้าให้ token สิทธิ์เต็มตั้งแต่แรก การตัดสินใจผิดอาจกระทบโปรเจกต์อื่น ถ้าถามทีละขั้น ผู้ใช้ต้องอนุมัติคำสั่งย่อยโดยยังไม่รู้ว่าเอเจนต์จะแก้ปัญหาอย่างไร และไม่นานก็จะกดผ่านเป็นนิสัย Vercel จึงเปลี่ยนหน่วยของการอนุญาตจากคำสั่งเป็นแผนงาน

แผนงานผูกเจตนา งาน และสิทธิ์เข้าด้วยกัน

Vercel Agent เริ่มจากสืบปัญหาด้วยสิทธิ์อ่านอย่างเดียว เช่น ดู build log และเทียบ deployment ที่พังกับครั้งล่าสุดที่ผ่าน เมื่อพบทางแก้จึงเสนอแผน และผู้ใช้อนุมัติแผนทั้งชุดในครั้งเดียว โดยแต่ละแผนมีข้อมูล 4 ชั้นดังนี้

ความสัมพันธ์ระหว่างคำขอของผู้ใช้ แผนงาน และสิทธิ์ที่เอเจนต์ใช้ (ภาพจาก Vercel)
ความสัมพันธ์ระหว่างคำขอของผู้ใช้ แผนงาน และสิทธิ์ที่เอเจนต์ใช้ (ภาพจาก Vercel)
4 ชั้นของแผนงานที่เอเจนต์เสนอ
ชั้นความหมายตัวอย่าง
เจตนาผลที่ผู้ใช้ต้องการทำให้เว็บกลับมาใช้งานได้
งานขั้นตอนที่เอเจนต์เสนอredeploy build ล่าสุดที่ผ่าน
สิทธิ์scope ที่งานนั้นต้องใช้อ่าน deployment และเขียน deployment
การบังคับกลไกที่จำกัดสิทธิ์จริงtoken อายุสั้นและการตรวจของ API ทุกคำขอ

สิทธิ์ต้องไม่เกินคนที่อนุมัติ และต้องบังคับที่ API

เอเจนต์ทำงานในนามผู้ใช้ จึงมีสิทธิ์ได้ไม่เกินที่ผู้ใช้คนนั้นมี เมื่อแผนได้รับอนุมัติ ระบบจะออก token อายุสั้นที่มี scope ตรงกับแผน และ API ตรวจ token ทุกครั้ง ถ้าโมเดลพยายามทำนอกสิทธิ์ คำขอจะถูกปฏิเสธแม้โมเดลจะเห็นว่าจำเป็น ประเด็นนี้สำคัญที่สุด เพราะคำสั่งที่บอกโมเดลให้ขออนุญาตเป็นเพียงคำแนะนำ ส่วนขอบเขตที่แท้จริงต้องอยู่ในระบบที่โมเดลแก้ไม่ได้ Vercel ยังระบุตรง ๆ ว่า scope สำหรับเขียน deployment กว้างกว่าการ redeploy ชิ้นเดียว การเขียนชื่อ deployment ในแผนจึงไม่ได้จำกัด token ให้แตะได้แค่ชิ้นนั้น

ใช้ทะเบียนสิทธิ์ชุดเดียว และตรวจแผนซ้ำก่อนทำงานต่อ

เดิม Vercel มีรายการสิทธิ์ของเอเจนต์แยกต่างหาก ซึ่งอาจไม่ตรงกับบริการออก token เมื่อมีการเปลี่ยนชื่อหรือถอดสิทธิ์ จึงเปลี่ยนมาใช้ทะเบียนเดียวกัน และปฏิเสธแผนที่ขอ scope ไม่รู้จักตั้งแต่ขั้นวางแผน แทนที่จะถอยไปใช้สิทธิ์ที่กว้างกว่า อีกจุดคืองานที่ค้างข้ามช่วงเวลา ก่อนกลับมาทำต่อ ระบบจะโหลดแผนและตรวจว่ายังอยู่ในสถานะใช้งาน ถ้าผู้ใช้สั่งหยุดแล้ว งานจะไปต่อไม่ได้แม้ token ยังไม่หมดอายุ

ข้อจำกัดที่ต้องรู้

กลไกนี้ไม่ได้ทำให้เอเจนต์ปลอดภัยโดยสมบูรณ์ การอ่านอย่างเดียวก็เห็นข้อมูลอ่อนไหวได้ เอเจนต์อาจตัดสินใจผิด หรืออ่านเจอคำสั่งแฝงที่มุ่งร้ายใน build log และการกระทำที่ได้รับอนุญาตก็ยังก่อความเสียหายได้ Vercel จึงใช้แผนงานร่วมกับ sandbox นโยบายเครือข่าย การจัดการความลับ การจำกัดอัตรา และบันทึกการใช้งาน

นำไปใช้กับระบบอัตโนมัติของทีมอย่างไร

  • เริ่มจากสิทธิ์อ่านอย่างเดียวสำหรับการสืบปัญหา และทบทวนว่าสิทธิ์นั้นเห็นข้อมูลอะไรบ้าง
  • ให้ระบบแสดงแผนที่อ่านเข้าใจได้ว่าจะทำอะไร ไม่ใช่แค่รายชื่อสิทธิ์
  • ออก token อายุสั้นตามงาน และบังคับสิทธิ์ที่ API ไม่ใช่ใน prompt
  • แยกสิทธิ์ของงานที่ผลกระทบต่างกัน เช่น เตรียมกฎ firewall กับเผยแพร่กฎนั้น
  • เก็บว่าใครอนุมัติแผนใดเมื่อไร และให้สั่งหยุดได้จริง

สำหรับทีมพัฒนาไทย หลักการเดียวกันใช้ได้กับสคริปต์ deploy และ CI ที่มีอยู่แล้วโดยไม่ต้องรอใช้เอเจนต์ ควรเริ่มจากตรวจว่า token ที่ใช้อยู่มีสิทธิ์กว้างเกินงานหรือไม่ หากเพิ่งเริ่มศึกษา อ่านAgent harness คืออะไรประกอบได้ ทีมงาน Smart Cyber Tech วางระบบ DevOps และ CI/CDให้ทีมส่งงานได้เร็วโดยคุมสิทธิ์เข้าระบบจริงได้ ปรึกษาได้ที่ แบบฟอร์มติดต่อ

สรุปสาระสำคัญ

  • ทำไมการอนุญาตทีละคำสั่งจึงไม่พอ
  • แผนงานผูกเจตนา งาน และสิทธิ์เข้าด้วยกัน
  • สิทธิ์ต้องไม่เกินคนที่อนุมัติ และต้องบังคับที่ API
แหล่งอ้างอิงเรียบเรียงจาก Vercel Blog — อ่านบทความต้นฉบับ
ภาพปกและแผนภาพ: Vercel Blog · ลิขสิทธิ์ภาพเป็นของเจ้าของต้นฉบับ ใช้ประกอบการรายงานพร้อมอ้างอิงแหล่งที่มา
มีคำถามเพิ่มเติมเกี่ยวกับบทความนี้? เขียนหาเราได้ที่ info@smart-cyber-tech.com
บริการที่เกี่ยวข้องจากทีมงาน Smart Cyber Tech

บทความอื่นที่เกี่ยวข้อง

บทความที่เกี่ยวข้อง

Agent harness คืออะไร: ซอฟต์แวร์รอบโมเดล AI ที่ตัดสินว่าเอเจนต์ทำงานได้จริงแค่ไหน ข้อมูลและ AI

Agent harness คืออะไร: ซอฟต์แวร์รอบโมเดล AI ที่ตัดสินว่าเอเจนต์ทำงานได้จริงแค่ไหน

เอเจนต์ AI สองตัวที่ใช้โมเดลเดียวกันอาจทำงานได้ต่างกันมาก เพราะสิ่งที่ตัดสินว่าทำอะไรได้จริงคือซอฟต์แวร์ที่ห่อโมเดลไว้ เรียกว่า agent harness ก่อนซื้อหรือสร้างเอเจนต์ให้ธุรกิจ จึงควรถามว่าระบบเข้าถึงข้อมูลอะไร ทำอะไรได้บ้าง และหยุดเมื่อไร มากกว่าถามแค่ชื่อโมเดล บทความนี้เรียบเรียงจากคำอธิบายของ Nielsen Norman Group พร้อมตัวอย่างงานร้านค้าออนไลน์

อ่านบทความ
ทำ AI evaluation ให้ทำซ้ำได้ด้วย Docker Sandboxes: บันทึกว่าอะไรรันจริง ไม่ใช่แค่ตั้งใจจะรันอะไร DevOps

ทำ AI evaluation ให้ทำซ้ำได้ด้วย Docker Sandboxes: บันทึกว่าอะไรรันจริง ไม่ใช่แค่ตั้งใจจะรันอะไร

ถ้าผลประเมินโมเดลหรือเอเจนต์ AI ของทีมรันบนเครื่องอื่นแล้วได้ไม่เหมือนเดิม ตัวเลขนั้นก็ใช้ตัดสินใจไม่ได้ ต่อให้เลือกเกณฑ์วัดมาดีแค่ไหน บทความนี้ถอดแนวคิดจากโปรเจกต์โอเพนซอร์สของ Docker Captain ที่ใช้ Docker Sandboxes เป็นที่รันงานประเมิน แยกนิยามของงานออกจากที่รัน และเก็บบันทึกการรันที่ตรวจย้อนได้ พร้อมวิธีที่ทีม DevOps ไทยหยิบไปใช้กับงานอื่นนอกเหนือจาก AI

อ่านบทความ
รหัสลับหลุดในโค้ดตรวจยากเพราะอะไร: GitHub ใช้โมเดล AI ขนาดเล็กอ่านบริบทรอบโค้ด เจอรหัสลับจริงมากขึ้น เตือนผิดน้อยลง และตรวจได้ตั้งแต่ก่อน push ความปลอดภัย

รหัสลับหลุดในโค้ดตรวจยากเพราะอะไร: GitHub ใช้โมเดล AI ขนาดเล็กอ่านบริบทรอบโค้ด เจอรหัสลับจริงมากขึ้น เตือนผิดน้อยลง และตรวจได้ตั้งแต่ก่อน push

รหัสผ่านฐานข้อมูลหรือกุญแจ API ที่หลุดเข้าไปในโค้ดเป็นช่องทางที่ผู้โจมตีใช้บ่อย เพราะมีบอตคอยสแกนหาตลอดเวลา GitHub เล่าวิธีที่ใช้แก้ปัญหาเครื่องตรวจที่เตือนผิดบ่อยจนคนเลิกสนใจ โดยวางโมเดล AI ขนาดเล็กไว้หลังการค้นหาแบบรูปแบบตัวอักษร ให้อ่านบริบทรอบ ๆ ก่อนตัดสินว่าเป็นรหัสจริงหรือไม่ ผลคือผู้ใช้ยอมรับคำเตือนมากขึ้น 11.5% เวลาสแกนลดลง 86% และค่าประมวลผลลดลงกว่า 98% เมื่อเทียบกับระบบเดิมที่ใช้โมเดลภาษาขนาดใหญ่

อ่านบทความ

ติดต่อเพื่อขอรับคำปรึกษาจากทีมงาน

ตั้งแต่ประเมินระบบปัจจุบัน วางแผน จนถึงลงมือพัฒนา — คุยกับเราได้โดยไม่มีค่าใช้จ่าย

ปรึกษาทีมของเรา