ข้อเสนอการผสานรวม AI API ควรอธิบายว่าฟีเจอร์นี้เข้ากับเวิร์กโฟลว์ของคุณอย่างไร จะเกิดอะไรขึ้นเมื่อผู้ให้บริการหรือโมเดลไม่สามารถตอบสนองได้ และทีมของคุณควบคุมการเข้าถึง การใช้งาน ค่าใช้จ่าย และบันทึกอย่างไร เปรียบเทียบข้อเสนอโดยขอรายละเอียดการติดตั้งใช้งานและการทดสอบที่เฉพาะเจาะจง แทนการยอมรับคำมั่นสัญญากว้าง ๆ เช่น “ปลอดภัย” หรือ “ปรับขนาดได้”
กำหนดเวิร์กโฟลว์และการทำงานเมื่อเกิดข้อผิดพลาด
อธิบายงานที่ AI ต้องทำ ใครเป็นผู้เริ่มต้น ระบบได้รับข้อมูลอะไร และผลิตภัณฑ์ของคุณนำผลลัพธ์ไปใช้อย่างไร ตัวอย่างเช่น แยกให้ชัดระหว่างร่างที่พนักงานตรวจทานกับคำตอบที่แสดงให้ลูกค้าเห็นโดยตรง ความแตกต่างนี้ส่งผลต่อขั้นตอนการอนุมัติ การจัดการข้อผิดพลาด และสิ่งที่ต้องทดสอบ
ขอให้ผู้ให้บริการแต่ละรายแจกแจงเส้นทางตั้งแต่การดำเนินการของผู้ใช้ไปจนถึงผลลัพธ์ รวมถึงแอปพลิเคชันหรือแบ็กเอนด์ ผู้ให้บริการ AI ขั้นตอนการดึงข้อมูล (ถ้ามี) และส่วนติดต่อผู้ใช้ ระบุข้อมูลนำเข้าที่อาจมีข้อมูลส่วนบุคคล ข้อมูลลับ หรือข้อมูลอ่อนไหวทางธุรกิจ และตกลงกันว่าจะส่งข้อมูลใดให้ผู้ให้บริการ หากระบบต้องมีมุมมองสำหรับผู้ดูแลระบบหรือการควบคุมบทบาท ให้ชี้แจงว่าสิ่งเหล่านั้นอยู่ในขอบเขตการผสานรวมหรืออยู่ใน แผงผู้ดูแลระบบและแบ็กเอนด์แยกต่างหาก
ข้อเสนอควรอธิบายด้วยว่าผู้ใช้จะเห็นอะไรเมื่อคำขอหมดเวลา ถูกปฏิเสธ ได้คำตอบที่ใช้การไม่ได้ หรือส่งคำขอไม่ได้เนื่องจากถึงขีดจำกัดของผู้ให้บริการแล้ว แนวทางที่เป็นไปได้ ได้แก่ ตัวเลือกให้ลองใหม่อย่างชัดเจน ทางเลือกสำรองที่ไม่ใช้ AI การบันทึกร่างไว้ หรือการส่งต่อให้บุคคลดำเนินการ ทางเลือกที่เหมาะสมขึ้นอยู่กับเวิร์กโฟลว์ จึงควรกำหนดให้ผู้ให้บริการระบุแนวทาง แทนการสมมติว่า AI จะทำงานสำเร็จเสมอ
ระบุข้อกำหนดการจัดการคีย์และการเข้าถึง
ขอคำอธิบายเป็นลายลักษณ์อักษรว่าข้อมูลรับรองของผู้ให้บริการจัดเก็บไว้ที่ใด องค์ประกอบใดของแอปพลิเคชันเข้าถึงได้ และมีวิธีป้องกันไม่ให้ข้อมูลเหล่านี้อยู่ในโค้ดฝั่งไคลเอ็นต์ที่เปิดเผยต่อสาธารณะ ที่เก็บซอร์สโค้ด และบันทึกตามปกติอย่างไร สอบถามว่าทีมจะแยกข้อมูลรับรองสำหรับการพัฒนาและระบบจริง จำกัดการเข้าถึงเฉพาะบุคคลและระบบที่จำเป็น และเปลี่ยนคีย์เมื่อมีการเปิดเผยหรือมีการเปลี่ยนแปลงสิทธิ์การเข้าถึงอย่างไร
ชี้แจงเรื่องความเป็นเจ้าของด้วยว่าใช้บัญชีผู้ให้บริการของใคร ใครเป็นผู้ควบคุมการเรียกเก็บเงินและสิทธิ์เข้าถึงบัญชี และจะจัดการข้อมูลรับรองอย่างไรเมื่อส่งมอบงาน อย่าส่งคีย์ที่ใช้งานจริงในเอกสารข้อเสนอหรือข้อความโครงการทั่วไป ตกลงวิธีการที่ปลอดภัยสำหรับส่งข้อมูลเหล่านี้ระหว่างการติดตั้งใช้งาน และขอให้ผู้ให้บริการบันทึกขั้นตอนไว้โดยไม่แสดงค่าลับ
คำตอบที่น่าเชื่อถือจะอธิบายขั้นตอนการติดตั้งใช้งานและการส่งมอบ ไม่ใช่เพียงระบุคำเรียกด้านความปลอดภัย บริการผสานรวม AI APIระบุว่าการจัดการคีย์อย่างปลอดภัยอาจรวมอยู่ในขอบเขตการผสานรวมได้ โปรดยืนยันว่าข้อกำหนดนี้ใช้กับโมเดล สภาพแวดล้อม และข้อตกลงความเป็นเจ้าของที่เสนอให้คุณอย่างไร
ขอรายละเอียดขีดจำกัด การควบคุมค่าใช้จ่าย และบันทึกที่เป็นประโยชน์
สอบถามเกี่ยวกับการควบคุมทั้งในระดับผู้ให้บริการ AI และระดับแอปพลิเคชัน ขีดจำกัดของบัญชีผู้ให้บริการอาจช่วยจำกัดหรือแจ้งเตือนเมื่อมีการใช้งานโดยรวม ขณะที่การควบคุมในแอปพลิเคชันสามารถจำกัดผู้ที่เรียกใช้คำขอ ความถี่ และขนาดข้อมูลนำเข้าได้ ยืนยันว่าการควบคุมใดมีให้ใช้จริงกับผู้ให้บริการที่เลือก และข้อใดต้องสร้างขึ้นในระบบของคุณ
ประมาณการค่าใช้จ่ายควรระบุสมมติฐาน ได้แก่ ปริมาณคำขอที่คาดไว้ ขนาดข้อมูลนำเข้าและผลลัพธ์โดยทั่วไป การเลือกโมเดลหรือบริการ การลองใหม่ และค่าบริการอื่น ๆ ของผู้ให้บริการที่รวมอยู่ สอบถามว่าจะเกิดอะไรขึ้นเมื่อใกล้ถึงหรือถึงเกณฑ์การใช้งานที่ตกลงกันไว้ ใครจะได้รับการแจ้งเตือน และระบบจะหยุดชั่วคราว จัดคิว ลดระดับการทำงานอย่างเหมาะสม หรือกำหนดให้ผู้ดูแลระบบอนุมัติการใช้งานเพิ่มเติมหรือไม่ การประมาณการใด ๆ ควรระบุข้อมูลราคาและวันที่อ้างอิง ตรวจสอบราคาปัจจุบันกับผู้ให้บริการโดยตรงก่อนตัดสินใจ
บันทึกช่วยวินิจฉัยข้อผิดพลาดและตรวจสอบการใช้งานที่ผิดปกติ แต่การบันทึกพรอมป์ต์และคำตอบทั้งหมดอาจเปิดเผยข้อมูลที่ละเอียดอ่อนได้ ระบุว่าจะบันทึกเหตุการณ์และฟิลด์ใด ใครดูได้ เก็บบันทึกไว้นานเท่าใด และจะตัด ปกปิด หรือจัดเก็บเนื้อหาพรอมป์ต์หรือคำตอบเฉพาะเมื่อจำเป็นหรือไม่ ขอให้ผู้ให้บริการแยกความแตกต่างระหว่างบันทึกของแอปพลิเคชัน บันทึกฝั่งผู้ให้บริการ และแดชบอร์ดการใช้งานหรือการเรียกเก็บเงิน
| ข้อกำหนดที่ควรระบุในเอกสารขอบเขตงาน | สิ่งที่ข้อเสนอควรระบุ | วิธีตรวจสอบ |
|---|---|---|
| การจัดเก็บคีย์และการเข้าถึง | ตำแหน่งจัดเก็บ บทบาทการเข้าถึง การแยกสภาพแวดล้อม ขั้นตอนการหมุนเวียนหรือเปลี่ยนคีย์ และความเป็นเจ้าของเมื่อส่งมอบงาน | ตรวจสอบการออกแบบการติดตั้งใช้งานและการตั้งค่าการเข้าถึง ยืนยันว่าไม่มีคีย์ปรากฏในโค้ดฝั่งไคลเอ็นต์ ประวัติที่เก็บซอร์สโค้ด หรือตัวอย่างบันทึก |
| ขีดจำกัดการใช้งานและค่าใช้จ่าย | การควบคุมใดของผู้ให้บริการและแอปพลิเคชันที่ใช้ พฤติกรรมเมื่อถึงเกณฑ์ การแจ้งเตือน และสมมติฐานที่ใช้คำนวณค่าใช้จ่าย | ทดสอบการทำงานเมื่อถึงขีดจำกัดที่ตกลงกันไว้ ตรวจสอบการตั้งค่าหรือแดชบอร์ดที่เกี่ยวข้อง และยืนยันการตอบสนองที่คาดไว้ |
| บันทึกและการจัดการข้อมูล | เหตุการณ์และฟิลด์ที่บันทึก การเข้าถึง ระยะเวลาจัดเก็บ และวิธีจัดการเนื้อหาพรอมป์ต์และคำตอบ | เรียกใช้คำขอทดสอบและตรวจสอบตัวอย่างบันทึกเพื่อดูว่ามีข้อมูลที่ใช้วินิจฉัยได้และไม่มีข้อมูลละเอียดอ่อนที่ไม่ควรบันทึก |
| การทำงานเมื่อเกิดข้อผิดพลาด | พฤติกรรมเมื่อหมดเวลา เกิดข้อผิดพลาดจากผู้ให้บริการ คำขอถูกปฏิเสธ ผลลัพธ์ใช้การไม่ได้ และถึงขีดจำกัด | เรียกใช้สถานการณ์ข้อผิดพลาดที่ตกลงกันไว้ และยืนยันผลลัพธ์ที่ผู้ใช้เห็นรวมถึงการส่งต่อให้พนักงาน (ถ้ามี) |
| เอกสารการทดสอบและการส่งมอบงาน | กรณีทดสอบ หลักฐานการยอมรับงาน ซอร์สโค้ด และเอกสารการปฏิบัติงานที่รวมอยู่ในการส่งมอบ | ตรวจสอบผลการทดสอบและเอกสารส่งมอบก่อนยอมรับงาน |
กำหนดการทดสอบและเกณฑ์การยอมรับก่อนเปรียบเทียบข้อเสนอ
เปลี่ยนข้อกำหนดให้เป็นการตรวจสอบผ่านหรือไม่ผ่านที่สังเกตได้ รวมคำขอปกติ ข้อมูลนำเข้าที่ขาดหายหรือผิดรูปแบบ ผู้ให้บริการไม่พร้อมใช้งาน การหมดเวลา การปฏิเสธจากผู้ให้บริการ คำตอบที่ใช้การไม่ได้ เหตุการณ์ถึงขีดจำกัดการใช้งาน และความพยายามจากผู้ใช้ที่ไม่มีสิทธิ์ หากระบบควรกำหนดให้บุคคลตรวจทานผลลัพธ์ ให้ทดสอบขั้นตอนการอนุมัตินั้นด้วย
สำหรับแต่ละกรณี ให้กำหนดประสบการณ์ที่ผู้ใช้ควรได้รับว่าจะลองส่งคำขอใหม่หรือไม่ มีการบันทึกอะไร และตัวนับค่าใช้จ่ายหรือการใช้งานเปลี่ยนแปลงหรือไม่ ขอให้ผู้ให้บริการระบุวิธีทดสอบการผสานรวม หลักฐานที่จะส่งมอบ และสิ่งที่ไม่รวมอยู่ หลีกเลี่ยงเกณฑ์อย่าง “AI ทำงานได้ดี” แต่ให้กำหนดรูปแบบผลลัพธ์ ฟิลด์ที่จำเป็น วิธีจัดการความไม่แน่นอน และกรณีที่ต้องให้มนุษย์ตรวจทานผลลัพธ์
เปรียบเทียบข้อเสนอตามเวิร์กโฟลว์ การควบคุม และเกณฑ์การยอมรับเดียวกัน ข้อเสนอที่มีขอบเขตน้อยกว่าอาจไม่รวมการติดตามตรวจสอบ การควบคุมสำหรับผู้ดูแลระบบ เส้นทางรองรับข้อผิดพลาด หรือเอกสารส่งมอบงาน จึงควรขอให้ระบุสิ่งที่ไม่รวมและสมมติฐานเป็นลายลักษณ์อักษร ยืนยันว่าการส่งมอบรวมซอร์สโค้ด เอกสาร การทดสอบ และการสนับสนุนช่วงเปิดใช้งานหรือไม่ พร้อมระบุงานต่อเนื่องเกี่ยวกับบัญชีผู้ให้บริการหรือการบำรุงรักษาที่ทีมของคุณต้องรับผิดชอบ
คำถามที่พบบ่อย
ควรจัดเก็บคีย์ AI API ไว้ในแอปมือถือหรือเบราว์เซอร์หรือไม่
ขอให้ผู้ให้บริการอธิบายสถาปัตยกรรมและวิธีป้องกันไม่ให้ข้อมูลรับรองถูกเปิดเผยต่อผู้ใช้ปลายทาง อย่าสมมติว่าการซ่อนคีย์ไว้ในแอปหรือเบราว์เซอร์ทำให้คีย์เป็นส่วนตัว ให้ข้อเสนอระบุว่าองค์ประกอบที่เชื่อถือได้ใดเป็นผู้ส่งคำขอไปยังผู้ให้บริการ และจำกัดการเข้าถึงอย่างไร
เราควรบันทึกพรอมป์ต์และคำตอบจาก AI หรือไม่
ไม่ควรทำโดยอัตโนมัติ บันทึกควรรองรับการแก้ไขปัญหาและการตรวจสอบการใช้งาน โดยสอดคล้องกับข้อกำหนดในการจัดการข้อมูลของคุณ ตกลงกันว่าฟิลด์ใดจำเป็น จะตัดหรือปกปิดเนื้อหาหรือไม่ ใครเข้าถึงบันทึกได้ และจะเก็บไว้นานเท่าใด ทดสอบบันทึกที่ได้ด้วยข้อมูลตัวอย่างที่เป็นตัวแทนก่อนเปิดใช้งาน
เราจะเปรียบเทียบประมาณการค่าใช้จ่ายอย่างเป็นธรรมได้อย่างไร
ให้สมมติฐานการใช้งานเดียวกันแก่ผู้ให้บริการทุกราย และขอให้แสดงวิธีคำนวณ ผู้ให้บริการหรือโมเดลที่เลือก ค่าบริการที่รวมอยู่ สมมติฐานเกี่ยวกับการลองใหม่ และวันที่ของข้อมูลราคาอ้างอิง ให้ถือผลลัพธ์เป็นการประมาณการ ไม่ใช่การรับประกัน และยืนยันราคาและการควบคุมบัญชีปัจจุบันกับผู้ให้บริการ
เพื่อเตรียมเอกสารขอบเขตโครงการ ให้แจ้งงาน AI และเส้นทางการใช้งานของผู้ใช้ แอปหรือระบบเป้าหมาย ผู้ให้บริการที่ต้องการ (หากทราบ) สมมติฐานการใช้งานที่คาดไว้ ประเภทข้อมูลที่เกี่ยวข้อง ขีดจำกัดและพฤติกรรมการแจ้งเตือนที่ต้องการ แนวทางการบันทึก กรณีทดสอบ และผู้รับผิดชอบบัญชีผู้ให้บริการ รวมสถาปัตยกรรมเดิมที่เกี่ยวข้อง บทบาทการเข้าถึง และความต้องการในการส่งมอบงาน จากนั้น หารือเกี่ยวกับข้อกำหนดเพื่อกำหนดขอบเขตงานที่เสนอ