Large language model (ID)

Model bahasa besar (large language model, LLM) — adalah jenis model machine learning yang diimplementasikan menggunakan deep neural network dengan jumlah parameter yang sangat besar (biasanya miliaran atau lebih) dan dilatih pada volume data teks yang besar. "Besar" dalam konteks ini merujuk sekaligus pada skala parameter dan pada volume korpus pelatihan, yang dalam sistem modern mencapai beberapa petabyte dan triliunan token. Model LLM dilatih terutama dengan metode self-supervised atau semi-supervised, dengan memprediksi token berikutnya dalam sebuah urutan sehingga menyerap pola statistik bahasa. Pertumbuhan parameter, data, dan langkah komputasi menghasilkan peningkatan kualitas yang dapat diprediksi, sebagaimana dikonfirmasi oleh scaling laws.

Setelah munculnya BERT (2017) dan terutama GPT-3 (2020), pendekatan LLM mulai mendominasi pemrosesan bahasa alami. Model-model modern (GPT-4o, Claude 3, Gemini 1.5, LLaMA 3, dan lain-lain) tanpa konfigurasi khusus mampu menulis teks dan kode program, menerjemahkan, meringkas, menjawab pertanyaan, dan membangun rantai penalaran; versi multimodal menganalisis gambar, suara, dan video. Adaptasi ke tugas terapan dilakukan melalui fine-tuning atau rekayasa prompt (prompt engineering, in-context learning). Seiring dengan pencapaiannya, LLM mewarisi bias dan kesalahan dari data sumber, rentan terhadap "halusinasi", dan membutuhkan sumber daya komputasi yang besar, sehingga penelitian saat ini terfokus pada penyelarasan perilaku, penyaringan korpus, dan arsitektur yang hemat energi.

Arsitektur

Dalam LLM modern hampir selalu digunakan arsitektur Transformer — jaringan dengan mekanisme self-attention. Model transformer pertama kali diusulkan dalam makalah Attention is All You Need oleh para pengembang Google pada tahun 2017.

Arsitektur Transformer adalah skema neural network dasar untuk bekerja dengan urutan, yang mencakup dua modul logis — encoder (mengodekan masukan) dan decoder (menghasilkan keluaran). Masukan berupa sebuah urutan, dibuat representasi vektornya (embedding), ditambahkan vektor positional encoding, setelah itu sekumpulan elemen tanpa memperhatikan urutan dalam urutan tersebut masuk ke komponen pengode (pemrosesan paralel), kemudian komponen pendekode menerima sebagian urutan tersebut dan keluaran dari komponen pengode sebagai masukan. Hasilnya adalah urutan keluaran yang baru.

Komponen pengode transformer terdiri dari beberapa lapisan encoder yang identik; komponen pendekode juga tersusun serupa. Transformer itu sendiri adalah rangkaian model attention yang mengubah urutan vektor awal menjadi urutan baru, di mana setiap elemen memperhitungkan konteks elemen lainnya. Encoder membentuk representasi tersembunyi dari data masukan, menyimpan informasi tentang hubungan antar elemen. Decoder berdasarkan representasi tersembunyi tersebut membuat urutan embedding baru untuk token keluaran. Kemudian berdasarkan embedding ini, elemen keluaran akhir dihasilkan menggunakan language model.

Karena transformer awalnya dikembangkan untuk tugas seperti penerjemahan mesin, arsitekturnya mencakup encoder (memproses teks masukan, misalnya kalimat sumber) dan decoder (menghasilkan keluaran, misalnya terjemahan). Namun, banyak language model hanya menggunakan bagian decoder, yang bekerja dalam mode autoregresif.

Transformer digunakan dalam tiga konfigurasi utama, yang masing-masing menggunakan encoder dan decoder secara berbeda dan berorientasi pada kelompok tugasnya sendiri:

• Encoder-transformer (bidirectional) belajar memulihkan fragmen teks yang sengaja disembunyikan, sehingga sangat cocok untuk tugas "pemahaman" — klasifikasi, ekstraksi fakta, pencarian semantik.
• Decoder-transformer (autoregresif) dioptimalkan untuk memprediksi token berikutnya dan digunakan di mana diperlukan keluaran streaming: agen dialog, pelengkap kode otomatis, generasi kreatif.
• Skema lengkap "encoder + decoder" menggabungkan kedua pendekatan: encoder membangun representasi seluruh teks masukan, sementara decoder, berdasarkan representasi tersebut, secara bertahap membentuk hasil. Konfigurasi ini paling efektif untuk penerjemahan mesin, sumarisasi, dan sistem tanya-jawab.

Tokenisasi

Tokenisasi adalah tahap awal yang penting dalam pemrosesan teks pada model bahasa besar. Pada tahap ini, string karakter yang kontinyu dipecah menjadi unit-unit terpisah — token. Tokenisasi menjalankan tugas mengubah urutan karakter menjadi urutan elemen terstruktur yang memungkinkan neural network bekerja secara efisien.

Dari sudut pandang linguistik, tokenisasi sampai batas tertentu dapat bersesuaian dengan proses pengisolasian unit bahasa minimal yang memiliki makna mandiri atau muatan fungsional, seperti kata, morfem, atau fragmennya. Namun demikian, sering kali sebuah token hanyalah urutan karakter yang secara statistik sering muncul, sehingga penting untuk tidak melebih-lebihkan kebermaknaan linguistik dari semua token. Tergantung pada skema yang dipilih, token dapat berupa: kata utuh, subkata, karakter tunggal, label layanan (misalnya, penanda awal dan akhir urutan).

Tokenisasi memungkinkan:

• membatasi ukuran kosakata hingga skala yang dapat diterima;
• memproses kata-kata langka dan baru dengan benar;
• memastikan pemetaan yang unik dari teks ke urutan pengenal numerik.

Untuk pemecahan teks, digunakan algoritma subkata, yang paling umum di antaranya adalah Byte Pair Encoding (BPE), WordPiece, dan UnigramLM. Masing-masing membangun kosakata dari fragmen korpus yang paling sering muncul dan menggunakannya untuk segmentasi berurutan dari setiap teks masukan.

Setelah tahap tokenisasi, setiap unit teks — token — diubah menjadi representasi numerik yang dapat dipahami oleh neural network. Proses ini mencakup beberapa langkah berurutan:

• Konversi token menjadi pengenal: Setiap token dipetakan ke indeks numerik unik berdasarkan kosakata token yang telah dibangun sebelumnya. Token teks digantikan oleh pengenal numerik uniknya (ID). Setiap ID adalah nomor token dalam kosakata yang telah dibangun sebelumnya, yang memungkinkan neural network bekerja dengan angka alih-alih kata.
• Konversi pengenal menjadi embedding: Untuk setiap pengenal token, vektor dengan dimensi tetap yang sesuai diekstrak atau dihitung — embedding. Representasi numerik multidimensi ini menggantikan ID dan sudah mengandung informasi tentang makna dan sifat kontekstual token. Semua embedding memiliki panjang yang sama untuk kemudahan pemrosesan.
• Penambahan positional encoding: Karena arsitektur Transformer pada dasarnya tidak memperhitungkan urutan elemen, positional encoding ditambahkan ke embedding, yang menyediakan informasi tentang posisi token dalam urutan. Dengan kata lain, berkat ini model "mengetahui" token mana yang berada di posisi pertama, kedua, ketiga, dan seterusnya dalam kalimat.
• Pembentukan matriks masukan: Pada keluaran diperoleh matriks berdimensi [длина последовательности × размерность эмбеддинга], yang berfungsi sebagai representasi awal teks dan diteruskan sebagai masukan ke neural network, khususnya ke blok self-attention Transformer. Setiap baris matriks ini bersesuaian dengan satu token, dan vektor yang dikandungnya membawa sekaligus makna semantiknya (embedding) dan informasi tentang posisinya dalam teks (positional encoding).

Текст → Токены → Идентификаторы → Эмбеддинги + Позиционные кодировки → Вход в модель

Mekanisme Attention

Mekanisme attention (attention mechanism) adalah komponen kunci dari arsitektur Transformer, yang memungkinkan mempertimbangkan ketergantungan antar token terlepas dari jarak di antara mereka dalam urutan. Setelah teks masukan diubah menjadi urutan vektor, urutan ini masuk ke elemen sentral transformer — blok attention (attention block).

Mekanisme attention adalah cara bagi neural network untuk menentukan bagian mana dari data masukan yang perlu mendapat lebih banyak perhatian saat memproses setiap elemen urutan. Berkat mekanisme ini, vektor-vektor dari fragmen teks tertentu dapat berinteraksi satu sama lain, diperkaya dengan informasi dan memperbarui nilainya dengan mempertimbangkan konteks di sekitarnya. Dengan demikian, model mendapatkan kemampuan untuk secara efektif menangkap ketergantungan lokal maupun jarak jauh antar token, yang secara signifikan meningkatkan kemampuannya untuk menginterpretasikan struktur teks yang kompleks.

Dalam bahasa alami, makna sebuah kata atau ekspresi tidak ditentukan secara terisolasi — makna tersebut bergantung pada konteks, yaitu kata-kata dan struktur lain di sekitarnya. Dalam neural network, teks dikodekan melalui representasi vektor — embedding, yang secara numerik mencerminkan sifat leksikal dan sintaksis token. Tanpa mekanisme attention langsung (seperti dalam Transformer), informasi konteks akan hilang pada jarak yang besar (seperti dalam model sederhana), atau diteruskan secara berurutan, yang kurang efisien untuk menangkap hubungan jarak jauh. Namun dalam bahasa alami, makna sebuah kata atau konstruksi sintaksis bersifat dinamis, dan interpretasinya harus beradaptasi tergantung pada konteks. Mekanisme attention melakukan kontekstualisasi representasi vektor, yang berarti (atau sekadar :):

• Setiap token "menilai" kepentingannya relatif terhadap token-token lain dalam kalimat.
• Dalam proses pembaruan, representasi vektor diperkaya dengan informasi mutual, mencerminkan ketergantungan sintaksis, peran semantik, dan konteks pragmatik.

Sebagai hasil dari pertukaran informasi ini, vektor-vektor yang diperbarui mulai mengodekan bukan hanya makna token itu sendiri, tetapi juga hubungan gramatikalnya (sintaksis), perannya dalam situasi yang dijelaskan (semantik), dan makna umumnya dalam konteks (pragmatik).

Входные векторы токенов (с позициями) → Механизм Внимания (Взаимодействие векторов) → Контекстуализированные векторы токенов (Векторы обогащенные информацией о связях с другими токенами)

Implementasi Teknis Mekanisme Attention

Struktur internal mekanisme attention mencakup beberapa langkah dan komponen komputasi kunci. Untuk setiap vektor masukan dihasilkan tiga vektor: Query (Permintaan), Key (Kunci), dan Value (Nilai). Berdasarkan interaksi ketiganya, bobot attention dihitung, yang kemudian digunakan untuk mendapatkan representasi vektor yang diperbarui dan terkontekstualisasi. Pendekatan yang umum digunakan adalah arsitektur Multi-Head Attention untuk pemrosesan informasi secara paralel.

Query (Permintaan), Key (Kunci), Value (Nilai)

Dasar dari komputasi mekanisme attention adalah transformasi setiap vektor masukan (yang merupakan jumlah dari embedding token dan positional encoding-nya) menjadi tiga representasi vektor yang berbeda: Query (Q), Key (K), dan Value (V).

Secara konseptual, ketiga vektor ini memiliki peran berikut dalam mekanisme attention:

• Query (Permintaan): Mewakili vektor token saat ini yang memulai proses pencarian informasi yang relevan dalam urutan. Vektor ini dapat dianggap sebagai "pertanyaan" atau "probe" yang digunakan untuk menilai kepentingan token-token lain relatif terhadap token saat ini.
• Key (Kunci): Bertindak sebagai pengenal atau "label" yang menggambarkan aspek konten setiap token. Vektor Query (Q) dari token saat ini dibandingkan dengan semua vektor Key (K) dalam urutan (termasuk miliknya sendiri) untuk menentukan tingkat kesesuaian atau relevansinya.
• Value (Nilai): Berisi informasi aktual atau representasi yang terkait dengan setiap token, yang akan diteruskan lebih lanjut. Setelah bobot attention dihitung berdasarkan interaksi Query dan Key, bobot-bobot ini diterapkan pada vektor Value untuk membentuk representasi tertimbang akhir, yang merupakan keluaran mekanisme attention untuk token tersebut.

Pelatihan Model Bahasa Besar

Pelatihan LLM dilakukan terutama dalam dua tahap:

1. Pra-pelatihan (Pretraining) Pada tahap ini, model dilatih pada korpus teks besar yang tidak berlabel menggunakan metode self-supervised learning. Tugasnya adalah memprediksi token berikutnya dalam urutan (autoregressive) atau memulihkan fragmen yang tersembunyi (masked learning). Pra-pelatihan memungkinkan model menyerap pola statistik bahasa yang luas, tata bahasa, fakta tentang dunia, dan bentuk-bentuk dasar penalaran.
2. Fine-tuning (Donastройка) Setelah pra-pelatihan, model dilatih lebih lanjut pada data khusus untuk menjalankan tugas-tugas tertentu, misalnya menghasilkan jawaban, klasifikasi teks, atau mengikuti instruksi. Pendekatan modern meliputi:
   • Fine-tuning pada dataset berlabel (supervised fine-tuning).
   • Reinforcement learning from human feedback (RLHF) untuk menyesuaikan perilaku model sesuai dengan metrik kualitas, keamanan, dan kegunaan yang ditargetkan.

Masalah dan Keterbatasan

Meskipun kemajuannya sangat mengesankan, model bahasa besar (LLM) modern memiliki sejumlah masalah dan keterbatasan:

I. Keterbatasan Komputasi dan Arsitektur

1. Biaya komputasi yang tinggi: Pelatihan dan pengoperasian LLM membutuhkan daya komputasi, waktu, dan energi yang signifikan, yang mengakibatkan biaya ekonomi dan lingkungan yang besar. Selain itu, sifat autoregresif dari generasi (pembuatan token secara berurutan) membatasi paralelisasi dan memperlambat kecepatan inferensi dibandingkan dengan pendekatan non-autoregresif.
2. Keterbatasan panjang konteks: Arsitektur Transformer memiliki ketergantungan kuadratik antara biaya komputasi dan kebutuhan memori terhadap panjang urutan. Hal ini memaksa penetapan batas tetap (jendela konteks) pada volume teks yang dapat diproses oleh model secara sekaligus, yang menyebabkan pemotongan dokumen panjang dan kehilangan informasi di luar jendela tersebut.

II. Masalah Keandalan dan Ketepatan Generasi

1. Halusinasi: Generasi informasi yang faktual salah namun terdengar meyakinkan. Hal ini terkait dengan ketiadaan pemahaman nyata tentang dunia pada model, ketergantungan pada pola statistik dalam data, dan ketidakmampuan untuk memverifikasi pernyataan yang dihasilkan.
2. Akumulasi kesalahan (Error Propagation): Proses di mana kesalahan yang dibuat pada tahap awal generasi diperkuat dan menyebabkan ketidakakuratan yang semakin meningkat pada langkah-langkah berikutnya, menurunkan kualitas dan koherensi teks secara keseluruhan.
3. Komposisionalitas yang terbatas: Kesulitan dengan tugas-tugas yang memerlukan inferensi logis multi-langkah atau komputasi yang tepat (misalnya, perkalian bilangan multi-digit, pemecahan teka-teki). Akurasi model dalam tugas semacam itu menurun tajam seiring meningkatnya kompleksitas karena sifat autoregresif dari generasi.
4. Pengulangan: Kecenderungan untuk mengulang kata atau frasa secara berlebihan, yang mengurangi informativitas dan keterbacaan teks. Terkait dengan kekhususan pelatihan dan algoritma decoding (pemilihan token berikutnya).
5. Reversal Curse (Kutukan Pembalikan): Ketidakmampuan model untuk secara otomatis menggeneralisasi pengetahuan dalam arah terbalik: setelah dilatih pada pernyataan "A adalah B", model sering kali tidak dapat menyimpulkan "B adalah A".
6. Kompromi "kreativitas-ketepatan": Kebutuhan untuk menyeimbangkan antara menghasilkan respons yang beragam dan orisinal dengan mempertahankan akurasi faktual. Peningkatan satu aspek sering berdampak negatif pada aspek lainnya, misalnya kreativitas tinggi dapat berkorelasi dengan peningkatan halusinasi.

III. Masalah Interaksi dan Kontrol:

1. Rendahnya tingkat kontrol: Sulitnya pengendalian yang tepat atas gaya, nada, konten teks yang dihasilkan, atau kepatuhan terhadap instruksi yang kompleks. Tingkat kontrol sangat bergantung pada kualitas instruksi masukan ("prompt") dan metode fine-tuning.
2. Sensitivitas terhadap formulasi: Perubahan kecil dalam permintaan masukan (prompt) dapat menghasilkan respons yang sangat berbeda, bahkan jika semantik permintaan tetap sama. Hal ini mempersulit perolehan hasil yang stabil dan dapat diprediksi.

IV. Aspek Etis dan Sosial:

1. Masalah bias dan keadilan: Model dapat mereproduksi dan memperkuat stereotip sosial, bias, atau toksisitas yang ada dalam data pelatihan. Memastikan keadilan dan keamanan model merupakan tugas yang kompleks.
2. Masalah penyelarasan (LLM Alignment): Masalah yang lebih umum, mencakup poin sebelumnya. Ini adalah tugas memastikan kesesuaian perilaku model dengan nilai-nilai, niat, dan norma etika manusia. Ini mencakup pemberantasan bias, halusinasi, generasi konten berbahaya, dan peningkatan tingkat kontrol.
3. Risiko penggunaan berbahaya: Kemungkinan penggunaan model bahasa besar untuk membuat dan menyebarluaskan disinformasi secara massal, phishing, spam, kode berbahaya, atau menghasilkan teks palsu yang meyakinkan, yang menimbulkan ancaman terhadap keamanan informasi dan pribadi, serta merusak kepercayaan dalam masyarakat.

Referensi:

• «Model bahasa besar» // Wikipedia (Versi Rusia)
• Large Language Model // Wikipedia (English version)
• Grand Modèle de Langage // Wikipédia (Version française)
• Sprachmodell // Wikipedia (Deutsche version)

• Naveed H. et al. // A Comprehensive Overview of Large Language Models // arXiv:2307.06435, 2023

Literatur

• Vaswani, A. et al. (2017). Attention Is All You Need. arXiv:1706.03762.
• Devlin, J. et al. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. arXiv:1810.04805.
• Brown, T. et al. (2020). Language Models Are Few-Shot Learners. arXiv:2005.14165.
• Kaplan, J. et al. (2020). Scaling Laws for Neural Language Models. arXiv:2001.08361.
• Hoffmann, J. et al. (2022). Training Compute-Optimal Large Language Models. arXiv:2203.15556.
• Ouyang, L. et al. (2022). Training Language Models to Follow Instructions with Human Feedback. arXiv:2203.02155.
• Bai, Y. et al. (2022). Constitutional AI: Harmlessness from AI Feedback. arXiv:2212.08073.
• Bubeck, S. et al. (2023). Sparks of Artificial General Intelligence: Early Experiments with GPT-4. arXiv:2303.12712.
• OpenAI. (2023). GPT-4 Technical Report. arXiv:2303.08774.
• Touvron, H. et al. (2024). The Llama 3 Herd of Models. arXiv:2407.21783.