Pagbabaluktot ng datos at bias

Pagkiling sa malalaking modelo ng wika (Ingles: bias in large language models) — ito ay sistematikong mga paglihis sa gawa ng malalaking modelo ng wika (LLM), na humahantong sa paglikha ng mga sagot na hindi makatarungan o hindi tumpak na sumasalamin sa katotohanan, at nagpaparami at nagpapalaki ng mga stereotipong umiiral sa lipunan. Hindi tulad ng mga random na pagkakamali, ang pagkiling ay may sistematikong katangian at dulot ng mga katangian ng datos sa pagsasanay at ng mga algorithm. Ang mga LLM ay maaaring magparami ng mga pangkasarian, etnikong, at iba pang stereotipo, na kumakatawan sa isang seryosong problema, lalo na sa mga responsableng larangan tulad ng medisina, batas, at pananalapi.

Mga Pinagmulan ng Pagkiling

Ang pagkiling sa mga LLM ay nagmumula sa dalawang pangunahing pinagmulan: nakabaluktot na datos at mga katangian ng mismong mga algorithm.

Nakabaluktot na datos sa pagsasanay

Ang pangunahing dahilan ng pagkiling ay ang datos sa pagsasanay, na sumasalamin sa mga makasaysayan, panlipunan, at pangkulturang pagkiling na umiiral sa mundo. Ang mga LLM ay sinasamahan sa napakalaking corpus ng teksto mula sa Internet, mga libro, at iba pang pinagkukunan na nilikha ng mga tao, at, bilang resulta, namana ang lahat ng mga stereotipong nilalaman ng mga ito.

• Hindi balanseng representasyon: Kung ang ilang partikular na pangkat ng demograpiko ay kulang na kinakatawan sa datos (halimbawa, mga etnikong minoridad, kababaihan sa ilang propesyon), nabubuo ng modelo ang isang nabaluktot na pananaw tungkol sa kanila. Halimbawa, ang mga LLM ay madalas na inuugnay ang salitang "doktor" sa kasarian ng lalaki, at "nars" sa kasarian ng babae, na nagpaparami ng mga makasaysayang pangkasariyang stereotipo.
• Makasaysayan at pangkulturang pagkiling: Ang datos ay madalas na sumasalamin sa nangingibabaw na mga pananaw sa kultura at mga makasaysayang pagkiling. Ang isang modelo na sinanay sa gayong mga teksto ay magpaparami ng mga pananawing ito, habang binabalewala ang mga alternatibong perspektibo.

Pagpapalaki ng algorithm

Ang arkitektura at algorithm ng pagsasanay ng mga LLM ay maaaring hindi lamang magparami kundi pati na rin magpalaki ng mga pagkiling na umiiral sa datos. Karamihan sa mga modernong LLM ay nakabatay sa mga transformer at hinuhulaan ang susunod na salita batay sa mga estadistikal na pattern. Ito ay humahantong sa modelo na kumiling sa pinaka-madalas na natutuklasang mga pattern, na nagpapatibay at nagpapalaki ng mga nangingibabaw na opinyon at stereotipo, habang ang mga bihira at hindi tipikal na kaso ay binabalewala. Ang mekanismong ito ay maaaring magbago ng maliit na pagkiling sa datos patungo sa hayag na pagkiling sa mga sagot ng modelo.

Mga Uri ng Pagkiling at Mga Halimbawa

Mga panlipunan at pangdemograpikong pagkiling

Ito ang pinaka-pag-aralan na uri ng pagkiling, na kinabibilangan ng mga stereotipong may kaugnayan sa kasarian, lahi, edad, relihiyon, at iba pang katangiang panlipunan.

• Mga pangkasariyang stereotipo: Ang mga LLM ay madalas na iniuugnay ang ilang partikular na propesyon at katangian sa isang tiyak na kasarian. Halimbawa, sa isang kahilingan tungkol sa isang "malakas na lider", ang modelo ay mas malamang na makabuo ng paglalarawan ng isang lalaki.
• Mga lahi at etnikong stereotipo: Ang mga modelo ay maaaring magparami ng mga negatibong stereotipo tungkol sa iba't ibang pangkat etniko. Ipinakita ng pananaliksik na ang mga algorithm ng moderasyon batay sa LLM ay maaaring mas mahigpit na suriin ang mga mensahe sa African American vernacular English (AAVE), na maling itinuturing na mas nakakasakit.
• Pangkatang pagkiling ("kami laban sa kanila"): Ipinakita ng isang pag-aaral noong 2024 na ang mga LLM ay nagpapakita ng malinaw na pangkatang pagkiling. Kapag binigyan ng prompt na iniuugnay ito sa isang partikular na grupo ("Kami..."), ang modelo ay may kiling na positibong magsalita tungkol sa grupong iyon at mapanghamak tungkol sa "mga iba".

Mga istruktura at kognitibong pagbabaluktot

Ang mga pagbabaluktot na ito ay may kaugnayan sa mga katangian ng arkitektura at pagpoproseso ng impormasyon.

• Positional bias: Natuklasan ng pananaliksik mula sa Massachusetts Institute of Technology (MIT) na ang mga modelo ay hindi proporsyonal na isinasaalang-alang ang impormasyon mula sa simula at katapusan ng dokumento, madalas na "nalilimutan" ang mga detalye mula sa gitna. Maaari itong makaapekto sa katumpakan kapag nagtatrabaho sa mahabang teksto.
• Kiling sa pag-average: Bilang mga probabilistikong modelo, ang mga LLM ay may kiling na bumuo ng pinaka-karaniwang (average) na mga sagot, na humahantong sa pagbabalewala ng bihira ngunit mahahalagang katotohanan, mga pagbubukod, at mga opinyon ng minoridad.
• Epekto ng pagpapatunay: Maaaring ipakita ng mga LLM ang kiling na magparami ng mga lohikal na pattern na naroroon sa datos ng pagsasanay, kahit na naglalaman ang mga ito ng mga pagkiling, at balewalain ang mga sumasalungat na impormasyon.

Halimbawa mula sa praktika

Natuklasan ng isang pag-aaral ng World Bank na sa pagsusuri ng mga panayam sa mga refugee, ang LLM ay sistematikong binabago ang kahulugan ng kanilang mga pahayag batay sa pinagmulan at kasarian. Maling binibigyang-kahulugan ng modelo ang pagnanais ng mga magulang na refugee para sa tagumpay ng kanilang mga anak, malamang dahil sa kawalan ng mga katulad na salaysay sa datos ng pagsasanay na binubuo pangunahin ng mga teksto ng "mga manunulat na puting nasa gitnang uri".

Mga Panganib at Kahihinatnan

• Pagpapalaki ng diskriminasyon: Sa mga larangang tulad ng pagkuha ng empleyado, pagpapautang, at batas, ang mga LLM na may pagkiling ay maaaring gumawa ng mga diskriminatoryong desisyon, na nagpapalala ng panlipunang kawalan ng pagkakapantay-pantay.
• Pagpapakalat ng mga stereotipo: Ang malawakang paggamit ng mga LLM sa mga search engine at chatbot ay maaaring humantong sa pagpaparami at pag-normalize ng mga mapanganib na stereotipo.
• Pagwasak ng tiwala sa teknolohiya: Kung ang mga gumagamit ay nahaharap sa sistematikong pagkiling, nasisira nito ang kanilang tiwala sa mga teknolohiya ng artificial intelligence sa kabuuan.
• Paglikha ng mga information bubble: Ang mga algorithm ay maaaring bumuo ng output upang tumugma sa inaakala nilang mga pananaw ng gumagamit, na nagsusuporta sa echo chambers at nagmamarginal sa mga opinyon ng minoridad.

Mga Pamamaraan ng Pagtuklas at Pagbabawas ng Pagkiling

Upang labanan ang mga pagbabaluktot, ang mga mananaliksik at developer ay gumagamit ng komprehensibong diskarte, na nagtatrabaho sa tatlong antas: datos, modelo, at post-processing.

Mga interbensyon sa antas ng datos

Ito ang pinaka-pundamental na diskarte. Kinabibilangan ito ng:

• Paglilinis at pagbabalanse: Pagtanggal ng nakakalason at nakabaluktot na nilalaman mula sa datos ng pagsasanay.
• Data Augmentation: Pagdaragdag ng mga halimbawa na may kulang na kinakatawang mga pangkat upang mapantay ang mga proporsyon.

Pagbabago sa antas ng modelo

Ang diskarteng ito ay naglalayong baguhin ang mismong algorithm ng pagsasanay:

• Mga limitasyon ng katarungan: Ang mga espesyal na limitasyon ay ipinakilala sa loss function na "pinarurusahan" ang modelo para sa pagpapakita ng ilang uri ng pagkiling.
• Pagbabago ng arkitektura: Sinisiyasat ang mga pagpipilian para sa pagbabago ng mga mekanismo ng attention o pagdaragdag ng mga kontroling module na sumusubaybay at nagwawasto ng mga nakabaluktot na asosasyon.

Post-processing ng mga resulta

Ang pamamaraang ito ay inilalapat na sa yugto ng paglikha ng mga sagot:

• Pag-filter at pagwawasto: Ang mga espesyal na algorithm ay sinusuri ang nabuong teksto at binabawasan o inaalis ang mga potensyal na diskriminatoryong pagbubuo.
• Fine-tuning gamit ang Reinforcement Learning from Human Feedback (RLHF): Ang modelo ay espesyal na muling sinasamahan upang magbigay ng mas neutral at mas ligtas na mga sagot batay sa mga pagtatasa na ibinibigay ng mga tao.

Sa kabila ng makabuluhang pag-unlad, hindi pa nagagawang ganap na alisin ang pagkiling sa mga LLM. Nananatili itong isa sa mga pangunahing larangan ng pananaliksik na naglalayong lumikha ng mas makatarungan at mas maaasahang mga sistema ng AI.

Mga Sanggunian

• Generative language models exhibit social identity biases — pananaliksik sa Nature Computational Science
• Unpacking the bias of large language models — artikulo sa MIT News

Panitikan

• Guo, Y. et al. (2024). Bias in Large Language Models: Origin, Evaluation, and Mitigation. arXiv:2411.10915.
• Gallegos, I. O. et al. (2023). Bias and Fairness in Large Language Models: A Survey. arXiv:2309.00770.
• Wu, X. et al. (2025). On the Emergence of Position Bias in Transformers. arXiv:2502.01951.
• Hu, T. et al. (2024). Generative Language Models Exhibit Social Identity Biases. Nature Computational Science, 5, 65-75. Full text.
• Sheng, E. et al. (2019). The Woman Worked as a Babysitter: On Biases in Language Generation. In EMNLP-2019. PDF.
• Bender, E. M. et al. (2021). On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?. In ACM FAccT 2021. DOI:10.1145/3442188.3445922.
• Bai, X. et al. (2024). Measuring Implicit Bias in Explicitly Unbiased Large Language Models. arXiv:2402.04105.
• Ma, C. et al. (2024). Debiasing Large Language Models with Structured Knowledge. In Findings of ACL 2024, pp. 10274-10287. [7].
• Mohammadi, B. (2024). Creativity Has Left the Chat: The Price of Debiasing Language Models. arXiv:2406.05587.
• Ayaz, A. et al. (2023). Taught by the Internet: Exploring Bias in OpenAI's GPT-3. arXiv:2306.02428.
• Benedetto, L. & Stella, M. (2023). Cognitive Network Science Reveals Bias in GPT-3, GPT-3.5-Turbo, and GPT-4 Mirroring Math Anxiety in High-School Students. Applied Sciences, 13(3). Open access.