---
title: "Explainable AI — ปัญญาประดิษฐ์ที่อธิบายได้"
source: "https://systems-analysis.info/int/Explainable_AI_%E2%80%94_%E0%B8%9B%E0%B8%B1%E0%B8%8D%E0%B8%8D%E0%B8%B2%E0%B8%9B%E0%B8%A3%E0%B8%B0%E0%B8%94%E0%B8%B4%E0%B8%A9%E0%B8%90%E0%B9%8C%E0%B8%97%E0%B8%B5%E0%B9%88%E0%B8%AD%E0%B8%98%E0%B8%B4%E0%B8%9A%E0%B8%B2%E0%B8%A2%E0%B9%84%E0%B8%94%E0%B9%89"
wiki: "systems-analysis.info/int"
article: "Explainable_AI_—_ปัญญาประดิษฐ์ที่อธิบายได้"
language: "th"
categories:
  - "Category:Large language models"
  - "Category:Machine learning"
  - "Category:Thai"
revision_id: 2076
wiki_created_at: 2026-09-06T22:58:15Z
wiki_modified_at: 2026-09-06T22:58:15Z
downloaded_at: 2026-09-07T22:49:13Z
---

# Explainable AI — ปัญญาประดิษฐ์ที่อธิบายได้

**ปัญญาประดิษฐ์ที่อธิบายได้** (**Explainable AI**, **XAI**) — คือสาขาการวิจัยและชุดวิธีการในด้านปัญญาประดิษฐ์ที่ช่วยให้การตัดสินใจและพฤติกรรมของโมเดล Machine Learning เข้าใจได้สำหรับมนุษย์<sup>[\[1\]](https://systems-analysis.info/int/Explainable_AI_%E2%80%94_%E0%B8%9B%E0%B8%B1%E0%B8%8D%E0%B8%8D%E0%B8%B2%E0%B8%9B%E0%B8%A3%E0%B8%B0%E0%B8%94%E0%B8%B4%E0%B8%A9%E0%B8%90%E0%B9%8C%E0%B8%97%E0%B8%B5%E0%B9%88%E0%B8%AD%E0%B8%98%E0%B8%B4%E0%B8%9A%E0%B8%B2%E0%B8%A2%E0%B9%84%E0%B8%94%E0%B9%89#cite_note-arrieta2020-1)</sup> เป้าหมายหลักของ XAI คือการเปลี่ยนโมเดลที่ซับซ้อนและทึบแสง ซึ่งมักเรียกว่า «กล่องดำ» ให้กลายเป็น «กล่องโปร่งใส» หรือ «กล่องแก้ว» ที่สามารถอธิบายได้ว่าตัดสินใจอย่างไร

ความต้องการด้านความสามารถในการอธิบายเพิ่มขึ้นอย่างรวดเร็วพร้อมกับการพัฒนาของโมเดลที่ซับซ้อน โดยเฉพาะโมเดลภาษาขนาดใหญ่ (LLM) ซึ่งแม้จะมีความแม่นยำสูง แต่กลไกภายในกลับไม่ชัดเจนสำหรับนักพัฒนาและผู้ใช้งาน การขาดความโปร่งใสก่อให้เกิดความเสี่ยง เนื่องจากโมเดลอาจมีข้อผิดพลาดที่ซ่อนอยู่ แสดงความลำเอียง หรือสร้างข้อมูลที่ไม่น่าเชื่อถือ ซึ่งไม่สามารถเข้าใจสาเหตุได้หากปราศจากคำอธิบายที่เหมาะสม<sup>[\[2\]](https://systems-analysis.info/int/Explainable_AI_%E2%80%94_%E0%B8%9B%E0%B8%B1%E0%B8%8D%E0%B8%8D%E0%B8%B2%E0%B8%9B%E0%B8%A3%E0%B8%B0%E0%B8%94%E0%B8%B4%E0%B8%A9%E0%B8%90%E0%B9%8C%E0%B8%97%E0%B8%B5%E0%B9%88%E0%B8%AD%E0%B8%98%E0%B8%B4%E0%B8%9A%E0%B8%B2%E0%B8%A2%E0%B9%84%E0%B8%94%E0%B9%89#cite_note-zhao2023-2)</sup>

## ความสำคัญและความจำเป็นของ XAI

ความจำเป็นของ AI ที่อธิบายได้ได้รับการยอมรับทั้งจากชุมชนวิทยาศาสตร์และหน่วยงานกำกับดูแล การพัฒนา XAI มีความสำคัญอย่างยิ่งต่อการทำความเข้าใจพฤติกรรม ข้อจำกัด และผลกระทบทางสังคมของระบบ AI ที่ซับซ้อน

- **ความเชื่อมั่นและการยอมรับเทคโนโลยี** ผู้ใช้งาน โดยเฉพาะในสาขาวิกฤตอย่างการแพทย์และการเงิน มีแนวโน้มที่จะไว้วางใจระบบที่สามารถให้เหตุผลสนับสนุนข้อสรุปของตนได้ คำอธิบายช่วยเพิ่มความโปร่งใสและความมั่นใจว่าโมเดลทำงานได้อย่างถูกต้องและมีจริยธรรม<sup>[\[3\]](https://systems-analysis.info/int/Explainable_AI_%E2%80%94_%E0%B8%9B%E0%B8%B1%E0%B8%8D%E0%B8%8D%E0%B8%B2%E0%B8%9B%E0%B8%A3%E0%B8%B0%E0%B8%94%E0%B8%B4%E0%B8%A9%E0%B8%90%E0%B9%8C%E0%B8%97%E0%B8%B5%E0%B9%88%E0%B8%AD%E0%B8%98%E0%B8%B4%E0%B8%9A%E0%B8%B2%E0%B8%A2%E0%B9%84%E0%B8%94%E0%B9%89#cite_note-ibm_xai-3)</sup>
- **การตรวจจับและลดความลำเอียง** ความสามารถในการอธิบายช่วยให้ตรวจพบได้ว่าโมเดลพึ่งพาความสัมพันธ์ที่ไม่พึงประสงค์หรือไม่มีจริยธรรมในข้อมูลหรือไม่ (เช่น ที่เกี่ยวกับเชื้อชาติ เพศ หรืออายุ) ซึ่งช่วยให้นักพัฒนาสามารถตรวจพบและแก้ไขความลำเอียงของอัลกอริทึมได้<sup>[\[1\]](https://systems-analysis.info/int/Explainable_AI_%E2%80%94_%E0%B8%9B%E0%B8%B1%E0%B8%8D%E0%B8%8D%E0%B8%B2%E0%B8%9B%E0%B8%A3%E0%B8%B0%E0%B8%94%E0%B8%B4%E0%B8%A9%E0%B8%90%E0%B9%8C%E0%B8%97%E0%B8%B5%E0%B9%88%E0%B8%AD%E0%B8%98%E0%B8%B4%E0%B8%9A%E0%B8%B2%E0%B8%A2%E0%B9%84%E0%B8%94%E0%B9%89#cite_note-arrieta2020-1)</sup>
- **ความน่าเชื่อถือและความทนทาน** การตีความได้ช่วยในการระบุจุดอ่อนของโมเดล รวมถึงความเสี่ยงต่อ *adversarial attacks* และช่วยเพิ่มความทนทานต่อการรบกวนเล็กน้อยในข้อมูลนำเข้า
- **การปฏิบัติตามข้อกำหนดทางกฎหมาย** กฎหมายอย่าง GDPR ในสหภาพยุโรปรับรองสิทธิ์ของบุคคลในการได้รับคำอธิบายสำหรับการตัดสินใจที่ดำเนินการโดยระบบอัตโนมัติ โครงการ **XAI** จาก DARPA (สำนักงานโครงการวิจัยขั้นสูงของกระทรวงกลาโหมสหรัฐอเมริกา) ที่เปิดตัวในปี 2017 ก็มุ่งเน้นการสร้างระบบ AI ที่สามารถให้คำอธิบายที่ตีความได้แก่ผู้ใช้งานเช่นกัน<sup>[\[4\]](https://systems-analysis.info/int/Explainable_AI_%E2%80%94_%E0%B8%9B%E0%B8%B1%E0%B8%8D%E0%B8%8D%E0%B8%B2%E0%B8%9B%E0%B8%A3%E0%B8%B0%E0%B8%94%E0%B8%B4%E0%B8%A9%E0%B8%90%E0%B9%8C%E0%B8%97%E0%B8%B5%E0%B9%88%E0%B8%AD%E0%B8%98%E0%B8%B4%E0%B8%9A%E0%B8%B2%E0%B8%A2%E0%B9%84%E0%B8%94%E0%B9%89#cite_note-darpa_xai-4)</sup>

## แนวทางสู่ความสามารถในการอธิบายของโมเดล

วิธีการ XAI สามารถแบ่งออกได้เป็นสองหมวดหมู่หลัก ได้แก่ โมเดลที่ตีความได้ซึ่งโปร่งใส «โดยการออกแบบ» และวิธีการแบบ post-hoc ที่อธิบายโมเดลประเภท «กล่องดำ» หลังจากการฝึกฝน

### โมเดลที่ตีความได้ («กล่องโปร่งใส»)

นี่คืออัลกอริทึมที่โครงสร้างภายในมีความเรียบง่ายและเข้าใจได้โดยธรรมชาติสำหรับมนุษย์ ได้แก่:

- การถดถอยเชิงเส้น (Linear Regression)
- การถดถอยโลจิสติก (Logistic Regression)
- ต้นไม้ตัดสินใจ (Decision Trees) ที่มีความลึกน้อย
- โมเดลที่ใช้กฎ (*Rule-based systems*)

โมเดลเหล่านี้ตีความได้ง่าย แต่มักมีความแม่นยำด้อยกว่าโมเดลที่ซับซ้อนกว่า (เช่น Neural Network เชิงลึก) เมื่อใช้กับข้อมูลที่มีความซับซ้อน มีการแลกเปลี่ยนระหว่างความแม่นยำและความสามารถในการตีความ<sup>[\[1\]](https://systems-analysis.info/int/Explainable_AI_%E2%80%94_%E0%B8%9B%E0%B8%B1%E0%B8%8D%E0%B8%8D%E0%B8%B2%E0%B8%9B%E0%B8%A3%E0%B8%B0%E0%B8%94%E0%B8%B4%E0%B8%A9%E0%B8%90%E0%B9%8C%E0%B8%97%E0%B8%B5%E0%B9%88%E0%B8%AD%E0%B8%98%E0%B8%B4%E0%B8%9A%E0%B8%B2%E0%B8%A2%E0%B9%84%E0%B8%94%E0%B9%89#cite_note-arrieta2020-1)</sup>

### วิธีการอธิบายแบบ Post-hoc («กล่องดำ»)

วิธีการเหล่านี้ถูกนำไปใช้กับโมเดลที่ซับซ้อนและได้รับการฝึกฝนแล้ว โดยไม่เปลี่ยนแปลงโครงสร้างภายใน วิธีการเหล่านี้สร้างข้อมูลเพิ่มเติมที่ช่วยให้เข้าใจตรรกะของการทำนาย คำอธิบายแบบ post-hoc แบ่งออกเป็นแบบท้องถิ่น (local) และแบบทั่วโลก (global)

#### คำอธิบายแบบท้องถิ่น (Local)

วิธีการแบบท้องถิ่นอธิบายการทำนายเฉพาะของโมเดลสำหรับตัวอย่างนำเข้าที่เฉพาะเจาะจง

- **LIME** (*Local Interpretable Model-agnostic Explanations*): หนึ่งในวิธีการที่ได้รับความนิยมมากที่สุด LIME สร้างโมเดลตัวแทนที่เรียบง่ายและตีความได้ (เช่น Linear Regression) ในบริเวณโดยรอบของการทำนายเฉพาะ โดยประมาณพฤติกรรมของโมเดล «กล่องดำ» ที่ซับซ้อน<sup>[\[1\]](https://systems-analysis.info/int/Explainable_AI_%E2%80%94_%E0%B8%9B%E0%B8%B1%E0%B8%8D%E0%B8%8D%E0%B8%B2%E0%B8%9B%E0%B8%A3%E0%B8%B0%E0%B8%94%E0%B8%B4%E0%B8%A9%E0%B8%90%E0%B9%8C%E0%B8%97%E0%B8%B5%E0%B9%88%E0%B8%AD%E0%B8%98%E0%B8%B4%E0%B8%9A%E0%B8%B2%E0%B8%A2%E0%B9%84%E0%B8%94%E0%B9%89#cite_note-arrieta2020-1)</sup>
- **SHAP** (*SHapley Additive exPlanations*): อิงจากค่า Shapley จากทฤษฎีเกมแบบร่วมมือ SHAP คำนวณการมีส่วนร่วมของแต่ละคุณลักษณะ (feature) ต่อผลการทำนายสุดท้าย โดยกระจาย «ผลกำไร» (ความแตกต่างระหว่างผลการทำนายและค่าเฉลี่ย) ออกระหว่างคุณลักษณะต่างๆ อย่างเป็นธรรม วิธีการนี้ให้คำอธิบายที่มีพื้นฐานทางทฤษฎีและสม่ำเสมอ<sup>[\[5\]](https://systems-analysis.info/int/Explainable_AI_%E2%80%94_%E0%B8%9B%E0%B8%B1%E0%B8%8D%E0%B8%8D%E0%B8%B2%E0%B8%9B%E0%B8%A3%E0%B8%B0%E0%B8%94%E0%B8%B4%E0%B8%A9%E0%B8%90%E0%B9%8C%E0%B8%97%E0%B8%B5%E0%B9%88%E0%B8%AD%E0%B8%98%E0%B8%B4%E0%B8%9A%E0%B8%B2%E0%B8%A2%E0%B9%84%E0%B8%94%E0%B9%89#cite_note-linardatos2021-5)</sup>
- **คำอธิบายแบบ Counterfactual**: สร้างสถานการณ์ «จะเกิดอะไรขึ้นถ้า?» โดยแสดงให้เห็นว่าการเปลี่ยนแปลงขั้นต่ำในข้อมูลนำเข้าจะนำไปสู่ผลลัพธ์ที่แตกต่างได้อย่างไร (เช่น «สินเชื่อของคุณจะได้รับการอนุมัติหากรายได้ต่อปีของคุณสูงกว่านี้ \$5,000»)<sup>[\[1\]](https://systems-analysis.info/int/Explainable_AI_%E2%80%94_%E0%B8%9B%E0%B8%B1%E0%B8%8D%E0%B8%8D%E0%B8%B2%E0%B8%9B%E0%B8%A3%E0%B8%B0%E0%B8%94%E0%B8%B4%E0%B8%A9%E0%B8%90%E0%B9%8C%E0%B8%97%E0%B8%B5%E0%B9%88%E0%B8%AD%E0%B8%98%E0%B8%B4%E0%B8%9A%E0%B8%B2%E0%B8%A2%E0%B9%84%E0%B8%94%E0%B9%89#cite_note-arrieta2020-1)</sup>

#### คำอธิบายแบบทั่วโลก (Global)

วิธีการแบบทั่วโลกมุ่งอธิบายตรรกะโดยรวมของโมเดลหรือความรู้ของโมเดลโดยรวม ซึ่งรวมถึงการวิเคราะห์ความสำคัญของคุณลักษณะทั่วทั้งชุดข้อมูล รวมถึงการแสดงภาพการแทนค่าภายในของโมเดล

## ความสามารถในการอธิบายสำหรับโมเดลภาษาขนาดใหญ่ (LLM)

โมเดลภาษาขนาดใหญ่นำเสนอทั้งความท้าทายพิเศษและโอกาสใหม่สำหรับ XAI ขนาดและความซับซ้อนมหาศาลของโมเดลเหล่านี้ทำให้การใช้วิธีการดั้งเดิมเป็นเรื่องยาก แต่ความสามารถในการทำงานกับภาษาธรรมชาติเปิดแนวทางใหม่สำหรับคำอธิบาย

### การวิเคราะห์กลไก Attention (Attention Visualization)

กลไก *self-attention* ในสถาปัตยกรรม Transformer ช่วยให้สามารถแสดงภาพได้ว่าโมเดล «ให้ความสนใจ» กับส่วนใด (token) ของข้อความนำเข้าระหว่างการสร้างคำตอบ แม้ว่าสิ่งนี้จะให้ความเข้าใจเชิงสัญชาตญาณเกี่ยวกับการทำงานของโมเดล แต่ในชุมชนวิทยาศาสตร์ยังมีการถกเถียงกันว่า attention เป็นคำอธิบายที่สมบูรณ์หรือไม่ เนื่องจากความสำคัญสูงตาม attention weights ไม่ได้หมายความถึงความสัมพันธ์เชิงเหตุและผลเสมอไป<sup>[\[6\]](https://systems-analysis.info/int/Explainable_AI_%E2%80%94_%E0%B8%9B%E0%B8%B1%E0%B8%8D%E0%B8%8D%E0%B8%B2%E0%B8%9B%E0%B8%A3%E0%B8%B0%E0%B8%94%E0%B8%B4%E0%B8%A9%E0%B8%90%E0%B9%8C%E0%B8%97%E0%B8%B5%E0%B9%88%E0%B8%AD%E0%B8%98%E0%B8%B4%E0%B8%9A%E0%B8%B2%E0%B8%A2%E0%B9%84%E0%B8%94%E0%B9%89#cite_note-attention_not_explanation_arxiv-6)</sup>

### การตีความเชิงกลไก (Mechanistic Interpretability)

นี่คือระดับความสามารถในการอธิบายที่ลึกที่สุด มุ่งเป้าไปที่การทำ reverse engineering อย่างสมบูรณ์ของการทำงานของ Neural Network นักวิจัยพยายามระบุและทำความเข้าใจ «วงจร» (*circuits*) เฉพาะ — กลุ่มของนิวรอนและการเชื่อมต่อของพวกมัน ที่ทำหน้าที่ด้านอัลกอริทึมเฉพาะเจาะจง (เช่น การรู้จำโครงสร้างทางไวยากรณ์หรือการค้นหาข้อเท็จจริง)<sup>[\[7\]](https://systems-analysis.info/int/Explainable_AI_%E2%80%94_%E0%B8%9B%E0%B8%B1%E0%B8%8D%E0%B8%8D%E0%B8%B2%E0%B8%9B%E0%B8%A3%E0%B8%B0%E0%B8%94%E0%B8%B4%E0%B8%A9%E0%B8%90%E0%B9%8C%E0%B8%97%E0%B8%B5%E0%B9%88%E0%B8%AD%E0%B8%98%E0%B8%B4%E0%B8%9A%E0%B8%B2%E0%B8%A2%E0%B9%84%E0%B8%94%E0%B9%89#cite_note-lan2023circuits-7)</sup>

### การอธิบายผ่านภาษาธรรมชาติ

ความสามารถพิเศษของ LLM คือการอธิบายตนเอง ด้วยการใช้เทคนิคการทำ prompt เช่น Chain-of-Thought สามารถทำให้โมเดลสร้างการให้เหตุผลทีละขั้นตอนที่นำไปสู่ข้อสรุปของมัน ซึ่งทำให้กระบวนการตัดสินใจโปร่งใสสำหรับผู้ใช้งาน อย่างไรก็ตาม คำอธิบายดังกล่าวอาจ**ไม่น่าเชื่อถือ** (*unfaithful*) — โมเดลอาจสร้างเหตุผลที่ดูน่าเชื่อแต่เป็นเท็จ ซึ่งไม่ได้สะท้อนกระบวนการภายในจริงของมัน<sup>[\[8\]](https://systems-analysis.info/int/Explainable_AI_%E2%80%94_%E0%B8%9B%E0%B8%B1%E0%B8%8D%E0%B8%8D%E0%B8%B2%E0%B8%9B%E0%B8%A3%E0%B8%B0%E0%B8%94%E0%B8%B4%E0%B8%A9%E0%B8%90%E0%B9%8C%E0%B8%97%E0%B8%B5%E0%B9%88%E0%B8%AD%E0%B8%98%E0%B8%B4%E0%B8%9A%E0%B8%B2%E0%B8%A2%E0%B9%84%E0%B8%94%E0%B9%89#cite_note-singh2024rethinking-8)</sup>

## ลิงก์ภายนอก

- หน้าเว็บอย่างเป็นทางการของโครงการ DARPA XAI
- ภาพรวม Explainable AI จาก IBM

## อ้างอิง

1.  <span id="cite_note-arrieta2020-1">↑ <sup>[1.0](https://systems-analysis.info/int/Explainable_AI_%E2%80%94_%E0%B8%9B%E0%B8%B1%E0%B8%8D%E0%B8%8D%E0%B8%B2%E0%B8%9B%E0%B8%A3%E0%B8%B0%E0%B8%94%E0%B8%B4%E0%B8%A9%E0%B8%90%E0%B9%8C%E0%B8%97%E0%B8%B5%E0%B9%88%E0%B8%AD%E0%B8%98%E0%B8%B4%E0%B8%9A%E0%B8%B2%E0%B8%A2%E0%B9%84%E0%B8%94%E0%B9%89#cite_ref-arrieta2020_1-0)</sup> <sup>[1.1](https://systems-analysis.info/int/Explainable_AI_%E2%80%94_%E0%B8%9B%E0%B8%B1%E0%B8%8D%E0%B8%8D%E0%B8%B2%E0%B8%9B%E0%B8%A3%E0%B8%B0%E0%B8%94%E0%B8%B4%E0%B8%A9%E0%B8%90%E0%B9%8C%E0%B8%97%E0%B8%B5%E0%B9%88%E0%B8%AD%E0%B8%98%E0%B8%B4%E0%B8%9A%E0%B8%B2%E0%B8%A2%E0%B9%84%E0%B8%94%E0%B9%89#cite_ref-arrieta2020_1-1)</sup> <sup>[1.2](https://systems-analysis.info/int/Explainable_AI_%E2%80%94_%E0%B8%9B%E0%B8%B1%E0%B8%8D%E0%B8%8D%E0%B8%B2%E0%B8%9B%E0%B8%A3%E0%B8%B0%E0%B8%94%E0%B8%B4%E0%B8%A9%E0%B8%90%E0%B9%8C%E0%B8%97%E0%B8%B5%E0%B9%88%E0%B8%AD%E0%B8%98%E0%B8%B4%E0%B8%9A%E0%B8%B2%E0%B8%A2%E0%B9%84%E0%B8%94%E0%B9%89#cite_ref-arrieta2020_1-2)</sup> <sup>[1.3](https://systems-analysis.info/int/Explainable_AI_%E2%80%94_%E0%B8%9B%E0%B8%B1%E0%B8%8D%E0%B8%8D%E0%B8%B2%E0%B8%9B%E0%B8%A3%E0%B8%B0%E0%B8%94%E0%B8%B4%E0%B8%A9%E0%B8%90%E0%B9%8C%E0%B8%97%E0%B8%B5%E0%B9%88%E0%B8%AD%E0%B8%98%E0%B8%B4%E0%B8%9A%E0%B8%B2%E0%B8%A2%E0%B9%84%E0%B8%94%E0%B9%89#cite_ref-arrieta2020_1-3)</sup> <sup>[1.4](https://systems-analysis.info/int/Explainable_AI_%E2%80%94_%E0%B8%9B%E0%B8%B1%E0%B8%8D%E0%B8%8D%E0%B8%B2%E0%B8%9B%E0%B8%A3%E0%B8%B0%E0%B8%94%E0%B8%B4%E0%B8%A9%E0%B8%90%E0%B9%8C%E0%B8%97%E0%B8%B5%E0%B9%88%E0%B8%AD%E0%B8%98%E0%B8%B4%E0%B8%9A%E0%B8%B2%E0%B8%A2%E0%B9%84%E0%B8%94%E0%B9%89#cite_ref-arrieta2020_1-4)</sup> Arrieta, A. B. et al. «Explainable Artificial Intelligence (XAI): Concepts, Taxonomies, Opportunities and Challenges toward Responsible AI». *Information Fusion*, 2020. <a href="https://ar5iv.labs.arxiv.org/html/1910.10045" class="external autonumber" rel="nofollow">[1]</a></span>
2.  <span id="cite_note-zhao2023-2">[↑](https://systems-analysis.info/int/Explainable_AI_%E2%80%94_%E0%B8%9B%E0%B8%B1%E0%B8%8D%E0%B8%8D%E0%B8%B2%E0%B8%9B%E0%B8%A3%E0%B8%B0%E0%B8%94%E0%B8%B4%E0%B8%A9%E0%B8%90%E0%B9%8C%E0%B8%97%E0%B8%B5%E0%B9%88%E0%B8%AD%E0%B8%98%E0%B8%B4%E0%B8%9A%E0%B8%B2%E0%B8%A2%E0%B9%84%E0%B8%94%E0%B9%89#cite_ref-zhao2023_2-0) Zhao, H. et al. «Explainability for Large Language Models: A Survey». *arXiv:2309.01512*, 2023. <a href="https://www.researchgate.net/publication/373686370_Explainability_for_Large_Language_Models_A_Survey" class="external autonumber" rel="nofollow">[2]</a></span>
3.  <span id="cite_note-ibm_xai-3">[↑](https://systems-analysis.info/int/Explainable_AI_%E2%80%94_%E0%B8%9B%E0%B8%B1%E0%B8%8D%E0%B8%8D%E0%B8%B2%E0%B8%9B%E0%B8%A3%E0%B8%B0%E0%B8%94%E0%B8%B4%E0%B8%A9%E0%B8%90%E0%B9%8C%E0%B8%97%E0%B8%B5%E0%B9%88%E0%B8%AD%E0%B8%98%E0%B8%B4%E0%B8%9A%E0%B8%B2%E0%B8%A2%E0%B9%84%E0%B8%94%E0%B9%89#cite_ref-ibm_xai_3-0) «What is Explainable AI (XAI)?». *IBM*. <a href="https://www.ibm.com/think/topics/explainable-ai" class="external autonumber" rel="nofollow">[3]</a></span>
4.  <span id="cite_note-darpa_xai-4">[↑](https://systems-analysis.info/int/Explainable_AI_%E2%80%94_%E0%B8%9B%E0%B8%B1%E0%B8%8D%E0%B8%8D%E0%B8%B2%E0%B8%9B%E0%B8%A3%E0%B8%B0%E0%B8%94%E0%B8%B4%E0%B8%A9%E0%B8%90%E0%B9%8C%E0%B8%97%E0%B8%B5%E0%B9%88%E0%B8%AD%E0%B8%98%E0%B8%B4%E0%B8%9A%E0%B8%B2%E0%B8%A2%E0%B9%84%E0%B8%94%E0%B9%89#cite_ref-darpa_xai_4-0) «Explainable Artificial Intelligence». *DARPA*. <a href="https://www.darpa.mil/research/programs/explainable-artificial-intelligence" class="external autonumber" rel="nofollow">[4]</a></span>
5.  <span id="cite_note-linardatos2021-5">[↑](https://systems-analysis.info/int/Explainable_AI_%E2%80%94_%E0%B8%9B%E0%B8%B1%E0%B8%8D%E0%B8%8D%E0%B8%B2%E0%B8%9B%E0%B8%A3%E0%B8%B0%E0%B8%94%E0%B8%B4%E0%B8%A9%E0%B8%90%E0%B9%8C%E0%B8%97%E0%B8%B5%E0%B9%88%E0%B8%AD%E0%B8%98%E0%B8%B4%E0%B8%9A%E0%B8%B2%E0%B8%A2%E0%B9%84%E0%B8%94%E0%B9%89#cite_ref-linardatos2021_5-0) Linardatos, P. et al. «Explainable AI: A Review of Machine Learning Interpretability Methods». *Entropy*, 2021. <a href="https://www.mdpi.com/1099-4300/23/1/18" class="external autonumber" rel="nofollow">[5]</a></span>
6.  <span id="cite_note-attention_not_explanation_arxiv-6">[↑](https://systems-analysis.info/int/Explainable_AI_%E2%80%94_%E0%B8%9B%E0%B8%B1%E0%B8%8D%E0%B8%8D%E0%B8%B2%E0%B8%9B%E0%B8%A3%E0%B8%B0%E0%B8%94%E0%B8%B4%E0%B8%A9%E0%B8%90%E0%B9%8C%E0%B8%97%E0%B8%B5%E0%B9%88%E0%B8%AD%E0%B8%98%E0%B8%B4%E0%B8%9A%E0%B8%B2%E0%B8%A2%E0%B9%84%E0%B8%94%E0%B9%89#cite_ref-attention_not_explanation_arxiv_6-0) Jain, S. & Wallace, B. C. «Attention is not Explanation». *arXiv:1902.10186*, 2019. <a href="https://arxiv.org/abs/1902.10186" class="external autonumber" rel="nofollow">[6]</a></span>
7.  <span id="cite_note-lan2023circuits-7">[↑](https://systems-analysis.info/int/Explainable_AI_%E2%80%94_%E0%B8%9B%E0%B8%B1%E0%B8%8D%E0%B8%8D%E0%B8%B2%E0%B8%9B%E0%B8%A3%E0%B8%B0%E0%B8%94%E0%B8%B4%E0%B8%A9%E0%B8%90%E0%B9%8C%E0%B8%97%E0%B8%B5%E0%B9%88%E0%B8%AD%E0%B8%98%E0%B8%B4%E0%B8%9A%E0%B8%B2%E0%B8%A2%E0%B9%84%E0%B8%94%E0%B9%89#cite_ref-lan2023circuits_7-0) Lan, Q. et al. «Towards Interpretable Sequence Continuation: Analyzing Shared Circuits in Large Language Models». *arXiv:2311.04131*, 2023. <a href="https://arxiv.org/html/2311.04131v5" class="external autonumber" rel="nofollow">[7]</a></span>
8.  <span id="cite_note-singh2024rethinking-8">[↑](https://systems-analysis.info/int/Explainable_AI_%E2%80%94_%E0%B8%9B%E0%B8%B1%E0%B8%8D%E0%B8%8D%E0%B8%B2%E0%B8%9B%E0%B8%A3%E0%B8%B0%E0%B8%94%E0%B8%B4%E0%B8%A9%E0%B8%90%E0%B9%8C%E0%B8%97%E0%B8%B5%E0%B9%88%E0%B8%AD%E0%B8%98%E0%B8%B4%E0%B8%9A%E0%B8%B2%E0%B8%A2%E0%B9%84%E0%B8%94%E0%B9%89#cite_ref-singh2024rethinking_8-0) Singh, C. et al. «Rethinking Interpretability in the Era of Large Language Models». *arXiv:2402.01761*, 2024. <a href="https://arxiv.org/abs/2402.01761" class="external autonumber" rel="nofollow">[8]</a></span>