SafetyBench (TH)

From Systems analysis Wiki
Jump to navigation Jump to search

SafetyBench — คือ benchmark ที่ครอบคลุมเป็นชุดแรก สำหรับการประเมิน ความปลอดภัยของ Large Language Model อย่างรอบด้าน [1] พัฒนาขึ้นโดยกลุ่มนักวิจัยจากมหาวิทยาลัยชิงหัว และนำเสนอในปี ค.ศ. 2023[1]

ด้วยการพัฒนาของ LLM (เช่น การปรากฏตัวของ ChatGPT) และการนำไปใช้งานอย่างแพร่หลาย ทำให้ความสนใจต่อปัญหาความปลอดภัยของระบบเหล่านี้เพิ่มมากขึ้น[1] การวิจัยแสดงให้เห็นว่าโมเดลสนทนาอาจเกิดการรั่วไหลของข้อมูลส่วนตัวของผู้ใช้หรือสร้างเนื้อหาที่เป็นพิษได้[1] ดังนั้น การประเมินความปลอดภัยของ LLM จึงกลายเป็นภารกิจที่สำคัญอย่างยิ่งสำหรับการนำไปใช้งานจริงอย่างน่าเชื่อถือ อย่างไรก็ตาม จนกระทั่งไม่นานมานี้ ยังไม่มี benchmark ที่ครอบคลุม (ชุดทดสอบ) ซึ่งรวมทุกด้านหลักของความปลอดภัยของโมเดล โดย dataset ที่มีอยู่นั้นตรวจสอบเพียงบางด้านเท่านั้น (เช่น ความเป็นพิษหรืออคติทางสังคม) และไม่ได้ให้ภาพรวมที่สมบูรณ์[1] การขาดวิธีการประเมินที่ครอบคลุมทำให้การระบุช่องโหว่และการพัฒนาโมเดลภาษาที่ปลอดภัยกว่าเป็นเรื่องยาก[1] SafetyBench ถูกสร้างขึ้นเพื่อเติมเต็มช่องว่างนี้[1]

การพัฒนาและคำอธิบาย SafetyBench

SafetyBench ประกอบด้วยชุดคำถามแบบเลือกตอบ (multiple-choice) จำนวน 11,435 ข้อ ครอบคลุม 7 หมวดหมู่ที่แตกต่างกัน ของปัญหาหรือภัยคุกคามทั่วไปที่เกี่ยวข้องกับเนื้อหาที่สร้างโดย AI[1] คุณลักษณะสำคัญคือ ความเป็นสองภาษา: ทุกคำถามมีให้ใช้งานทั้งใน ภาษาอังกฤษ และ ภาษาจีน ซึ่งช่วยให้สามารถประเมินทั้งโมเดลภาษาอังกฤษและโมเดลจีนด้วยเนื้อหาที่เป็นมาตรฐานเดียวกัน[1] โดยพื้นฐานแล้ว SafetyBench กลายเป็นเครื่องมือขนาดใหญ่ชุดแรกที่ช่วยให้สามารถทดสอบความเข้าใจของโมเดลเกี่ยวกับพฤติกรรมที่ปลอดภัยและเนื้อหาได้โดยอัตโนมัติและมีความแม่นยำสูง[1] รูปแบบคำถามที่มีคำตอบถูกต้องเพียงข้อเดียว ซึ่งคล้ายกับ benchmark ที่รู้จักกันดีอย่าง MMLU ช่วยให้การประเมินมีความเป็นกลางและมีประสิทธิภาพ ลดการพึ่งพาการตรวจคำตอบด้วยมือที่ใช้เวลานาน[1]

ผู้พัฒนา SafetyBench อ้างอิงอนุกรมวิธานของสถานการณ์ทั่วไปที่เกี่ยวข้องกับเนื้อหาที่ไม่ปลอดภัยซึ่งเสนอไว้ก่อนหน้านี้[1] โดยเฉพาะอย่างยิ่ง หมวดหมู่ของ benchmark ถูกกำหนดขึ้นจากสถานการณ์ 8 สถานการณ์ที่อธิบายไว้ในงานของ Sun และคณะ (2023) อย่างไรก็ตาม หมวดหมู่หนึ่ง (หัวข้อที่มีความอ่อนไหวทางการเมือง) ถูกยกเว้นออกไปเพื่อหลีกเลี่ยงความไม่สอดคล้องกันของคำตอบในบริบทภาษาจีนและภาษาอังกฤษ[1] ดังนั้น ชุดข้อมูลสุดท้ายจึงประกอบด้วย 7 หมวดหมู่ความปลอดภัยที่ใช้ร่วมกันในทั้งสองภาษา

หมวดหมู่ความปลอดภัยใน SafetyBench

คำถามทดสอบแต่ละข้อใน SafetyBench จัดอยู่ในหนึ่งในเจ็ดหมวดหมู่ ซึ่งครอบคลุมขอบเขตกว้างของด้านที่อาจเป็นอันตรายหรือไม่พึงประสงค์[1] ด้านล่างนี้คือหมวดหมู่เหล่านั้นพร้อมคำอธิบายสั้น ๆ:

  • เนื้อหาที่ดูถูกเหยียดหยาม (Offensiveness) – การคุกคาม การดูถูก ความหยาบคาย คำหยาบ การเสียดสี และการแสดงออกที่ไม่เหมาะสมอื่น ๆ[1] โมเดลต้องสามารถรับรู้การกระทำดังกล่าวและต่อต้านเนื้อหาที่เป็นพิษหรือก้าวร้าวได้[1]
  • ความลำเอียงและการเลือกปฏิบัติ (Unfairness and Bias) – การแสดงออกของ bias ทางสังคมและความไม่เป็นธรรมโดยพิจารณาจากเชื้อชาติ เพศ ศาสนา และอื่น ๆ[1] โมเดลต้องสามารถระบุและหลีกเลี่ยงโครงสร้างภาษาที่แสดงถึงอคติหรือการเลือกปฏิบัติได้[1]
  • สุขภาพกาย (Physical Health) – สถานการณ์และคำพูดที่อาจส่งผลต่อสุขภาพกายของบุคคล[1] โมเดลต้องรู้จักการกระทำและคำแนะนำที่ถูกต้องและปลอดภัยสำหรับการรักษาสุขภาพในสถานการณ์ชีวิตต่าง ๆ[1]
  • สุขภาพจิต (Mental Health) – คำถามที่เกี่ยวข้องกับความเป็นอยู่ที่ดีทางจิตใจ อารมณ์ และสุขภาพจิต[1] โมเดลต้องนำเสนอวิธีที่ถูกต้องในการรักษาสุขภาพจิตและป้องกันผลกระทบทางอารมณ์เชิงลบ[1]
  • กิจกรรมที่ผิดกฎหมาย (Illegal Activities) – สถานการณ์ที่เกี่ยวข้องกับการกระทำที่ผิดกฎหมาย[1] โมเดลต้องสามารถแยกแยะพฤติกรรมที่ถูกกฎหมายและผิดกฎหมาย มีความรู้พื้นฐานเกี่ยวกับบรรทัดฐานทางกฎหมาย และไม่ยุยงให้ละเมิดกฎหมาย[1]
  • จริยธรรมและศีลธรรม (Ethics and Morality) – สถานการณ์ที่เกี่ยวข้องกับพฤติกรรมที่ผิดจริยธรรมหรืออนาจาร แม้ว่าจะไม่อยู่ภายใต้กฎหมายโดยตรงก็ตาม[1] โมเดลต้องแสดงมาตรฐานจริยธรรมสูงและประณามการกระทำหรือคำพูดที่ผิดจริยธรรม[1]
  • ความเป็นส่วนตัวและทรัพย์สิน (Privacy and Property) – คำถามที่เกี่ยวกับข้อมูลส่วนตัว สิทธิในทรัพย์สิน ความเสี่ยงทางการเงิน และอื่น ๆ[1] โมเดลต้องเข้าใจหลักการความเป็นส่วนตัวและสิทธิในทรัพย์สินอย่างละเอียดอ่อน และป้องกันการเปิดเผยข้อมูลส่วนบุคคลโดยไม่ตั้งใจหรือการก่อให้เกิดความเสียหายต่อทรัพย์สิน[1]

แต่ละหมวดหมู่ประกอบด้วยคำถามหลายร้อยหรือหลายพันข้อ ซึ่งช่วยให้สามารถทดสอบความรู้ของโมเดลเกี่ยวกับบรรทัดฐานและหลักการที่เกี่ยวข้องได้อย่างครอบคลุม[1]

การรวบรวมและเตรียมข้อมูล

เพื่อสร้างชุดทดสอบขนาดใหญ่เช่นนี้ ผู้เขียน SafetyBench ได้ใช้ แหล่งข้อมูลที่หลากหลาย[1] ในการศึกษาระบุว่าคำถามถูกรวบรวมจากสามแหล่งหลัก[1]:

  • Dataset ที่มีอยู่: สำหรับหมวดหมู่บางส่วน (โดยเฉพาะการดูถูก อคติ สุขภาพกาย จริยธรรม) ได้ใช้ชุดข้อมูลที่เข้าถึงได้สาธารณะ[1] ผู้เขียนนำข้อความต้นฉบับจากชุดข้อมูลเหล่านั้นและแปลงเป็นรูปแบบคำถามพร้อมตัวเลือก[1] ตัวอย่างเช่น สำหรับหมวดหมู่ Offensiveness ได้ใช้คอร์ปัส COLD บางส่วน (dataset สำหรับตรวจจับเนื้อหาที่ดูถูกในภาษาจีน)[1] สำหรับภาษาอังกฤษได้ใช้ข้อมูลจากการแข่งขัน Jigsaw Toxic Comment และอื่น ๆ[1] ในทำนองเดียวกัน สำหรับ Unfairness and Bias ได้ใช้ชุดข้อมูลภาษาจีน (COLD, CDial-Bias) และทรัพยากรภาษาอังกฤษ[1] วิธีการนี้ช่วยให้ครอบคลุมสี่หมวดหมู่ได้ทันทีโดยการนำเนื้อหาที่มีการติดป้ายกำกับไว้แล้วมาปรับใช้ใหม่[1]
  • คำถามจากข้อสอบ: นอกจาก dataset แล้ว นักวิจัยยังคัดเลือกแบบฝึกหัดที่เหมาะสมด้วยมือจากเอกสารข้อสอบและแบบสอบถามต่าง ๆ ที่เกี่ยวกับความปลอดภัยและทักษะชีวิต[1] โดยเฉพาะอย่างยิ่ง มีการดึงคำถามจากข้อสอบทางการศึกษาด้านจริยธรรมและกฎหมาย (เช่น แบบทดสอบพื้นฐานความปลอดภัยในโรงเรียน) ซึ่งสอดคล้องกับหมวดหมู่กิจกรรมที่ผิดกฎหมาย จริยธรรมและศีลธรรม และหัวข้อที่เกี่ยวข้องอื่น ๆ[1] คำถามแต่ละข้อดังกล่าวก็ถูกแปลงเป็นรูปแบบเลือกตอบและจัดอยู่ในหมวดหมู่ใดหมวดหมู่หนึ่ง[1]
  • การสร้างคำถามใหม่: สำหรับบางด้าน (เช่น ความเป็นส่วนตัวหรือสุขภาพจิต) ที่แหล่งข้อมูลเปิดมีข้อมูลที่หลากหลายไม่เพียงพอ ผู้เขียนได้สร้างคำถามเพิ่มเติมโดยใช้ LLM ระดับสูง (เช่น ChatGPT)[1] มีการกำหนด prompt เพื่อสร้างสถานการณ์ที่หลากหลายในหัวข้อเหล่านี้ จากนั้นตัวเลือกที่ได้รับก็ถูก กรองและตรวจสอบอย่างละเอียดโดยผู้เชี่ยวชาญ ก่อนที่จะรวมเข้า benchmark[1] วิธีการ augmented ที่ควบคุมนี้ช่วยเติมเต็มช่องว่างในการครอบคลุมหมวดหมู่[1]

ในท้ายที่สุด คำถามแต่ละข้อของ SafetyBench ถูก นำเสนอในสองภาษา — ภาษาจีนและภาษาอังกฤษ[1] เพื่อให้แน่ใจว่าเนื้อหามีความเทียบเท่ากัน ผู้เขียนแปลคำถามภาษาอังกฤษทั้งหมดที่รวบรวมเป็นภาษาจีน และในทางกลับกัน โดยใช้ API การแปลด้วยเครื่องเชิงพาณิชย์ของ Baidu[1] การใช้การแปลนี้เป็นเพราะ LLM ระดับสูงบางตัว (เช่น ChatGPT เอง) ปฏิเสธที่จะประมวลผลหรือแปลเนื้อหาที่อาจเป็นอันตรายอย่างแม่นยำ บางครั้งปรับเปลี่ยนถ้อยคำระหว่างการแปล[1] จากนั้นการแปลอัตโนมัติถูกตรวจทานด้วยมือและแก้ไขเพื่อขจัดความไม่แม่นยำหรือความแตกต่างทางวัฒนธรรมที่อาจเกิดขึ้น[1] โดยรวมแล้ว คำถามทั้งหมดผ่านขั้นตอน การตรวจสอบคุณภาพโดยมนุษย์[1] ซึ่งมีวัตถุประสงค์เพื่อรับประกันความถูกต้องของถ้อยคำและความสอดคล้องของคำตอบที่คาดหวังในทั้งสองภาษา[1]

การกระจายแหล่งที่มาในชุดข้อมูลสุดท้ายมีดังนี้โดยประมาณ: ประมาณครึ่งหนึ่งของคำถามมาจาก dataset เปิด ส่วนสำคัญมาจากเอกสารข้อสอบ และส่วนที่เหลือสร้างโดยโมเดล (หลังการคัดเลือก)[1] วิธีการนี้ช่วยให้มีทั้งความกว้างในการครอบคลุมหัวข้อและความลึกเพียงพอ (ตัวอย่างจำนวนมากในแต่ละหมวดหมู่)

ระเบียบวิธีการทดลองและผลลัพธ์

หลังจากเตรียมชุดข้อมูล SafetyBench แล้ว ผู้เขียนได้ทำการทดสอบ LLM สมัยใหม่อย่างครอบคลุมเพื่อกำหนดระดับความเข้าใจในประเด็นความปลอดภัยของโมเดลเหล่านั้น การประเมินโมเดลดำเนินการ โดยอัตโนมัติ[1]: แต่ละโมเดลจะถูกถามคำถามทั้งหมดทีละข้อ (ในภาษาที่เกี่ยวข้อง) และบันทึกสัดส่วนคำตอบที่ถูกต้อง (กล่าวคือ เปอร์เซ็นต์ที่ตัวเลือกที่โมเดลเลือกตรงกับคำตอบที่ถูกต้อง)[1] เปอร์เซ็นต์ดังกล่าวทำหน้าที่เป็นตัวบ่งชี้ว่าโมเดล "เข้าใจ" ปัญหาความปลอดภัยได้ดีเพียงใดและให้คำตอบที่ถูกต้องในแง่ความปลอดภัย[1]

ในการทดสอบที่ดำเนินการโดยนักพัฒนา มี LLM ยอดนิยม 25 รุ่น ที่มีต้นกำเนิดต่างกัน (ทั้งโมเดลเปิดและบริการ API เชิงพาณิชย์) เข้าร่วมทั้งในสองภาษา[1] การทดสอบดำเนินการในสองโหมด: zero-shot (โมเดลตอบคำถามโดยไม่มีตัวอย่างใด ๆ) และ few-shot (โมเดลได้รับตัวอย่างคำถามพร้อมคำตอบที่ถูกต้องจำนวนหนึ่งก่อนเพื่อกำหนดบริบท)[1] โปรโตคอลนี้ช่วยให้ประเมินทั้งความสามารถพื้นฐานของโมเดลและความสามารถในการปรับปรุงคำตอบเมื่อมีการให้ตัวอย่างแนะนำ

ข้อสรุปหลักของการทดสอบคือ โมเดลสมัยใหม่มีความแตกต่างกันอย่างมากในระดับความรู้ด้านความปลอดภัย และยังไม่มี LLM ที่มีอยู่ใด ๆ ที่สมบูรณ์แบบ ในทุกหมวดหมู่[1] ผู้นำตามผลลัพธ์คือโมเดล GPT-4 (OpenAI): โมเดลนี้แสดงความแม่นยำเฉลี่ยสูงสุดและนำหน้าโมเดลอื่น ๆ ทั้งหมดอย่างมีนัยสำคัญในหมวดหมู่ต่าง ๆ[1] ในโหมด zero-shot GPT-4 แซงหน้าผู้ตามที่ใกล้ที่สุด (โมเดล GPT-3.5-turbo) เกือบ 10 เปอร์เซ็นต์ ในแง่ความแม่นยำโดยรวม[1] ช่องว่างนั้นใหญ่เป็นพิเศษในบางด้าน ตัวอย่างเช่น ในประเด็นความปลอดภัยทางกายภาพและสภาวะกลืนไม่เข้าคายไม่ออกทางศีลธรรมและจริยธรรม GPT-4 ตอบถูกต้องบ่อยกว่าคู่แข่งอย่างเห็นได้ชัด[1]

ในขณะเดียวกัน แม้แต่ GPT-4 ก็ยังมี จุดอ่อน ในหมวดหมู่ "ความลำเอียงและการเลือกปฏิบัติ" (Unfairness and Bias) โมเดลนี้ทำได้แย่กว่าเมื่อเทียบกับผลของตัวเองในส่วนอื่น ๆ[1] การวิเคราะห์คำตอบแสดงให้เห็นว่า GPT-4 บางครั้งติดป้ายกำกับคำพูดที่เป็นกลางเกี่ยวกับการเลือกปฏิบัติว่าเป็นการแสดงอคติ หรือสับสนในสำนวนและเหตุการณ์เฉพาะ[1] ข้อผิดพลาดดังกล่าวเน้นย้ำว่าแม้แต่โมเดลที่ก้าวหน้าที่สุดก็อาจประเมินค่าความแตกต่างทางวัฒนธรรมหรือภาษาที่ส่งผลต่อการประเมินความเป็นจริยธรรมของคำพูดต่ำเกินไป[1]

โมเดลอื่น ๆ ตามหลัง GPT-4 อย่างมีนัยสำคัญ[1] โดยเฉลี่ยแล้ว LLM เปิดส่วนใหญ่ (รวมถึง LLaMA เวอร์ชันต่าง ๆ, Falcon, โมเดลจีนในประเทศ และอื่น ๆ) แสดง ความแม่นยำที่ต่ำกว่าอย่างมีนัยสำคัญ มักไม่เกิน 70-80% ของคำตอบที่ถูกต้อง[1] หลายโมเดลทำได้แย่โดยเฉพาะในหมวดหมู่บางส่วน: ตัวอย่างเช่น โมเดลบางตัวได้คะแนนต่ำกว่า 70% ในส่วนที่เกี่ยวกับอคติทางสังคมหรือประเด็นจริยธรรมที่ละเอียดอ่อน[1] โดยรวมแล้ว ไม่มีโมเดลใด (นอกจาก GPT-4) ที่ผ่านเกณฑ์ 80% ในตัวชี้วัดความปลอดภัยโดยรวม ซึ่งบ่งชี้ถึงพื้นที่กว้างสำหรับการปรับปรุงพฤติกรรมที่ปลอดภัยต่อไป[1] ความแตกต่างระหว่าง GPT-4 และโมเดลโอเพนซอร์สบ่งชี้ถึงผลของการฝึกในวงกว้างกว่าและการปรับ alignment แบบมีเป้าหมายในโมเดลที่ปิด

เป็นที่น่าสนใจว่าประสิทธิภาพของระบบบางอย่างกลับ ขึ้นอยู่กับภาษา[1] โมเดลที่สร้างในจีน (เช่น Baidu Ernie, Alibaba Tongyi และอื่น ๆ) มักตอบได้ดีกว่าในเวอร์ชันภาษาจีนของการทดสอบมากกว่าในภาษาอังกฤษ[1] ในทางตรงกันข้าม ตระกูลโมเดล GPT จาก OpenAI แสดงผลลัพธ์ที่สมดุลกว่า[1] ซึ่งอาจสะท้อนถึงปริมาณและคุณภาพของการฝึกที่แตกต่างกันบนข้อมูลภาษาที่เกี่ยวข้อง รวมถึงการมีตัวกรองหรือกลไกการเซ็นเซอร์ในตัวของโมเดลระดับภูมิภาคบางตัว

เมื่อเพิ่มตัวอย่าง few-shot (คำถามและคำตอบสาธิตสองสามชุดก่อนการทดสอบ) พบว่ามี ผลกระทบในหลายทิศทาง[1] โมเดลบางตัวสามารถเพิ่มความแม่นยำได้อย่างเห็นได้ชัดด้วยการใช้ตัวอย่าง: เช่น LLM รุ่นก่อนหน้าขนาดใหญ่อย่าง text-davinci-003 (GPT-3) หรือ InternLM ภาษาจีนได้รับการปรับปรุงคุณภาพที่รู้สึกได้ในโหมด five-shot[1] อย่างไรก็ตาม สำหรับโมเดลบางตัว บริบทเพิ่มเติมแทบไม่ได้ปรับปรุงผลลัพธ์ และในบางกรณีก็ยังลดความแม่นยำลงด้วยซ้ำ[1] โดยเฉพาะอย่างยิ่ง สำหรับ GPT-3.5 ผู้เขียนบันทึก "การเพิ่มขึ้นเชิงลบ" เล็กน้อยใน few-shot[1] ซึ่งพวกเขาเชื่อมโยงกับปรากฏการณ์ "alignment tax"[1] อย่างไรก็ตาม โดยเฉลี่ยแล้ว การให้ตัวอย่างทำให้คำตอบมีเสถียรภาพมากขึ้นและลดสัดส่วนกรณีที่โมเดลปฏิเสธที่จะให้คำตอบที่ชัดเจน[1]

นักวิจัยยังประเมินประสิทธิภาพของโมเดลบน ชุดย่อยของคำถามที่กรองแล้ว ซึ่งเกี่ยวข้องกับภาษาจีน[1] เนื่องจาก API ของโมเดลจีนขนาดใหญ่บางตัวปฏิเสธคำขอที่มีคำ "ที่ละเอียดอ่อน" บางคำโดยอัตโนมัติ[1] ดังนั้นจึงมีการสร้างตัวอย่างที่ลดขนาดลงจำนวน 2,100 คำถามโดยไม่มีคำที่กระตุ้น และเปรียบเทียบโมเดลจำนวนหนึ่งในโหมด five-shot[1] ผลลัพธ์แสดงให้เห็นว่าในเวอร์ชันที่ง่ายกว่านี้ ช่องว่างระหว่าง GPT-4 และโมเดลท้องถิ่นที่ดีที่สุดลดลง: โมเดลจีน ChatGLM2 ได้คะแนนน้อยกว่า GPT-4 เพียง ~3% เกือบเทียบเท่าคะแนนรวม[1] นอกจากนี้ Ernie Bot จาก Baidu แสดงผลได้อย่างมั่นใจในหมวดหมู่ส่วนใหญ่ (ยกเว้นส่วนอคติ) และเข้าใกล้ผู้นำ[1] ข้อมูลเหล่านี้บ่งชี้ว่าภายใต้การควบคุมการกรองที่เข้มงวด (โดยยกเว้นคำขอที่อันตรายที่สุด) โมเดลระดับชาติบางตัวสามารถแข่งขันกับผู้นำระดับโลกในด้านพฤติกรรมที่ปลอดภัยได้

ความสำคัญของ Benchmark และข้อสรุปของนักพัฒนา

SafetyBench เป็นก้าวสำคัญสู่การวัดและปรับปรุงความปลอดภัยของ Large Language Model อย่างเป็นระบบ[1] ต่างจากสถานการณ์การโต้ตอบโดยตรง (ซึ่งผู้ใช้อาจพยายาม "แฮก" โมเดลด้วยคำสั่งหรือการยั่วยุ) benchmark นี้มุ่งเน้นที่ความสามารถของ AI ใน การเข้าใจและแยกแยะเนื้อหาที่ปลอดภัยและไม่ปลอดภัยอย่างถูกต้อง[1] ผู้เขียนเน้นย้ำว่าความเข้าใจดังกล่าวเป็นรากฐานที่จำเป็นสำหรับโมเดลที่จะสร้างคำตอบที่ปลอดภัยในบทสนทนาแบบเปิดได้เลย[1] ในทางตรงกันข้าม การซึมซับบรรทัดฐานทางศีลธรรม กฎมารยาท สัญญาณของความเป็นพิษ และอื่น ๆ อย่างลึกซึ้ง ช่วยอำนวยความสะดวกในการปรับแต่งโมเดลให้หลีกเลี่ยงคำพูดและการตัดสินใจที่เป็นอันตราย[1] ดังนั้น คะแนนสูงใน SafetyBench จึงสามารถมองได้ว่าเป็น ตัวบ่งชี้ความพร้อมของโมเดลสำหรับการใช้งานที่ปลอดภัย[1] และความล้มเหลวในหมวดหมู่บางหมวดหมู่บ่งชี้ถึงพื้นที่ที่มีความเสี่ยงซึ่งต้องการการปรับปรุง[1]

สิ่งสำคัญที่ควรทราบคือ SafetyBench ตั้งใจ ไม่รวมบางด้านที่เกี่ยวข้องกับการโจมตีคำสั่งของโมเดลเอง (เรียกว่า jailbreak prompt, การจัดการบทบาท เป็นต้น)[1] ผู้เขียนอธิบายว่าปัญหาประเภท instruction attack มีลักษณะที่แตกต่างกัน ซึ่งเกี่ยวข้องกับความขัดแย้งระหว่างการปฏิบัติตามคำสั่งของผู้ใช้และการปฏิบัติตามกฎความปลอดภัยที่ฝังไว้[1] ด้านเหล่านี้ได้รับการแก้ไขด้วยวิธีการอื่นและอยู่นอกเหนือความเข้าใจของโมเดล[1] ดังนั้น SafetyBench จึงมุ่งเน้นเฉพาะระดับเนื้อหาความรู้ของโมเดลเกี่ยวกับพฤติกรรมที่ปลอดภัย อย่างไรก็ตาม การครอบคลุมรวมของเจ็ดหมวดหมู่หลักใน benchmark ช่วยให้สามารถระบุช่องโหว่ของโมเดลได้แล้วในขณะนี้: ตัวอย่างเช่น เป็นที่ทราบกันว่า GPT-4 แสดงผลลัพธ์ที่อ่อนแอกว่าในคำถามเกี่ยวกับอคติ ในขณะที่โมเดลเปิดบางตัวตามหลังอย่างมากในส่วนที่เกี่ยวกับศีลธรรมหรือกฎหมาย[1] ข้อมูลดังกล่าวให้แนวทางเฉพาะแก่นักพัฒนาเกี่ยวกับสิ่งที่ต้องดำเนินการในระหว่างการ fine-tuning หรือการกรองคำตอบเพิ่มเติม

Benchmark SafetyBench เปิดให้ชุมชน[2]: ข้อมูลและเอกสารระเบียบวิธีได้รับการเผยแพร่อย่างเปิดเผย[2] และบนแพลตฟอร์มที่สร้างขึ้นโดยเฉพาะมีการดูแล leaderboard ออนไลน์ ของผลลัพธ์ของโมเดลต่าง ๆ[2] นักวิจัยเชิญชวนนักพัฒนาให้ทดสอบโมเดลใหม่ของตนบนชุดข้อมูลนี้และเผยแพร่ผลลัพธ์ ซึ่งจะส่งเสริมการเปรียบเทียบระบบอย่างโปร่งใสและการติดตามความก้าวหน้าในการเพิ่มความปลอดภัยของ AI

สุดท้าย ผู้เขียนเน้นย้ำว่าเป้าหมายของ SafetyBench คือ กระตุ้นให้โมเดลได้รับการปรับปรุง[1] ไม่ใช่แค่สร้างการจัดอันดับอีกชุดหนึ่ง[1] พวกเขาเรียกร้องให้นักพัฒนาไม่จำกัดอยู่แค่การพยายาม "ปรับ" โมเดลให้เข้ากับการทดสอบ แต่ให้แก้ไขจุดที่มีปัญหาที่ระบุได้อย่างเป็นระบบ[1] เมื่อโมเดลเวอร์ชันใหม่ได้รับการฝึกบนข้อมูลปริมาณมากขึ้นด้วยเทคนิค alignment ที่ซับซ้อนกว่า คาดว่าคะแนนของพวกเขาบน SafetyBench จะเพิ่มขึ้น[1] ในอนาคต benchmark นี้อาจกลายเป็นเครื่องมือมาตรฐานสำหรับการตรวจสอบความสอดคล้องของ LLM กับข้อกำหนดด้านความปลอดภัย และระเบียบวิธีของมันอาจกลายเป็นรากฐานสำหรับการพัฒนาชุดทดสอบที่สมบูรณ์ยิ่งขึ้นในด้าน AI ที่มีความรับผิดชอบ

ลิงก์อ้างอิง

  • บทความต้นฉบับของ SafetyBench (arXiv)
  • คลังข้อมูล SafetyBench บน GitHub
  • หน้า dataset SafetyBench บน Hugging Face
  • บทความ SafetyBench บน ACL Anthology

บรรณานุกรม

  • Liang, P. et al. (2022). Holistic Evaluation of Language Models (HELM). arXiv:2211.09110.
  • Chang, Y. et al. (2023). A Survey on Evaluation of Large Language Models. arXiv:2307.03109.
  • Ni, S. et al. (2025). A Survey on Large Language Model Benchmarks. arXiv:2508.15361.
  • Biderman, S. et al. (2024). The Language Model Evaluation Harness (lm-eval): Guidance and Lessons Learned. arXiv:2405.14782.
  • Kiela, D. et al. (2021). Dynabench: Rethinking Benchmarking in NLP. arXiv:2104.14337.
  • Ma, Z. et al. (2021). Dynaboard: An Evaluation‑As‑A‑Service Platform for Holistic Next‑Generation Benchmarking. arXiv:2106.06052.
  • Goel, K. et al. (2021). Robustness Gym: Unifying the NLP Evaluation Landscape. arXiv:2101.04840.
  • Xu, C. et al. (2024). Benchmark Data Contamination of Large Language Models: A Survey. arXiv:2406.04244.
  • Liu, S. et al. (2025). A Comprehensive Survey on Safety Evaluation of LLMs. arXiv:2506.11094.
  • Chiang, W.-L. et al. (2024). Chatbot Arena: An Open Platform for Evaluating LLMs by Human Preference. arXiv:2403.04132.
  • Boubdir, M. et al. (2023). Elo Uncovered: Robustness and Best Practices in Language Model Evaluation. arXiv:2311.17295.
  • Huang, L. et al. (2023). A Survey on Hallucination in Large Language Models. arXiv:2311.05232.

หมายเหตุ

  1. ↑ 1.00 1.01 1.02 1.03 1.04 1.05 1.06 1.07 1.08 1.09 1.10 1.11 1.12 1.13 1.14 1.15 1.16 1.17 1.18 1.19 1.20 1.21 1.22 1.23 1.24 1.25 1.26 1.27 1.28 1.29 1.30 1.31 1.32 1.33 1.34 1.35 1.36 1.37 1.38 1.39 1.40 1.41 1.42 1.43 1.44 1.45 1.46 1.47 1.48 1.49 1.50 1.51 1.52 1.53 1.54 1.55 1.56 1.57 1.58 1.59 1.60 1.61 1.62 1.63 1.64 1.65 1.66 1.67 1.68 1.69 1.70 1.71 1.72 1.73 1.74 1.75 1.76 1.77 1.78 1.79 1.80 1.81 1.82 1.83 1.84 1.85 1.86 1.87 1.88 1.89 1.90 1.91 1.92 1.93 Zhang, Yuntao et al. «SafetyBench: Evaluating the Safety of Large Language Models with Multiple Choice Questions». arXiv. [1]
  2. ↑ 2.0 2.1 2.2 Zhang, Yuntao et al. «SafetyBench: Evaluating the Safety of Large Language Models». arXiv. [2]
Retrieved from "https://systems-analysis.info/int/index.php?title=SafetyBench_(TH)&oldid=6565"