Contextueel vergeten

From Systems analysis Wiki
Jump to navigation Jump to search

Contextueel vergeten in grote taalmodellen — een veelzijdig verschijnsel waarbij een groot taalmodel (LLM) eerder verstrekte informatie verliest, negeert of inefficiënt gebruikt binnen één interactie[1]. In tegenstelling tot het menselijk geheugen hebben LLM's geen langetermijngeheugenopslag en steunen ze uitsluitend op het contextvenster — een beperkte hoeveelheid tekst (in tokens) die het model tegelijk kan verwerken. Dit venster fungeert als het kortetermijn- of werkgeheugen van het model[2].

De meest bekende uiting van deze beperking is het probleem van het «Lost in the Middle»-effect — de neiging van modellen om informatie die aan het begin en het einde van een lange context staat beter te verwerken, en informatie in het midden minder goed[2]. Dit verschijnsel is geen storing, maar een fundamentele eigenschap die voortkomt uit de architectuur van transformers en de principes van hun training.

Twee typen vergeten: Contextueel en Catastrofaal

Het is belangrijk om twee fundamenteel verschillende typen 'vergeten' in LLM's te onderscheiden: binnen-context vergeten en catastrofaal vergeten.

Binnen-context vergeten (Lost in the Middle)

Dit type vergeten treedt op tijdens één interactiesessie (inferentie) met een reeds getraind model. Het hangt samen met de beperkingen van het contextvenster. Wanneer de omvang van een dialoog of document de venstergrootte overschrijdt, 'vergeet' het model de oudste fragmenten om ruimte te maken voor nieuwe. Zelfs binnen het venster kan informatie uit het midden van de context minder effectief worden gebruikt. Dit is een beperking van het werkgeheugen van het model[3]. In de populaire pers wordt dit verschijnsel ook wel «Context Degradation Syndrome» (CDS) genoemd[1].

Catastrofaal vergeten (Modeldrift)

Dit type vergeten, ook bekend als 'modeldrift' (model drift), treedt op tijdens het fine-tunen van een model op nieuwe gegevens. Wanneer een model dat vooraf is getraind op een enorm corpus aan algemene kennis, wordt bijgetraind op een sterk gespecialiseerde dataset (bijvoorbeeld medische teksten), veranderen de gewichten ervan. Dit kan leiden tot degradatie of 'uitwissing' van eerder aangeleerde kennis en vaardigheden die niet verband houden met de nieuwe taak[4].

Oorzaken en mechanismen

Contextueel vergeten is een direct gevolg van de transformer-architectuur en de geometrie van vectorruimten.

Het «Lost in the Middle»-effect

Een onderzoek van Stanford University uit 2023, getiteld «Lost in the Middle», toonde duidelijk aan dat de prestaties van LLM's bij het ophalen van informatie uit een lange context een U-vormige curve vertonen[2]. De nauwkeurigheid van antwoorden is het hoogst wanneer relevante informatie zich helemaal aan het begin (primacy-effect) of helemaal aan het einde (recency-effect) van de context bevindt, en daalt aanzienlijk wanneer deze 'verborgen' is in het midden. Oorzaken van dit verschijnsel:

  • Aandachtsmechanisme: De transformer-architectuur besteedt van nature onevenredig veel aandacht aan de begintokens (zogenaamde 'attention sinks') voor het behoud van globale coherentie, alsmede aan de lokale context, wat leidt tot verzwakking van de 'focus' op het midden[5].
  • Pretraining-gegevens: Modellen worden meestal getraind op relatief korte teksten, waarbij belangrijke informatie zelden tienduizenden tokens verwijderd staat van het begin, waardoor ze lange contexten minder effectief benutten[6].

Uitingen en gevolgen

  • Context Degradation Syndrome: Tijdens langdurige dialogen raakt het model het 'rode draad van het gesprek' kwijt, herhaalt het antwoorden, spreekt het eerder vastgestelde feiten tegen en geeft het steeds algemenere en vagere antwoorden[1].
  • Fouten bij meerstapsige taken: Bij taken waarbij de voorwaarden in de loop van meerdere beurten worden verduidelijkt, kan het model 'vasthaken' aan een onjuiste initiële aanname en latere verduidelijkingen negeren, wat leidt tot een volledig onvermogen om de taak op te lossen[7].
  • Onbetrouwbaarheid bij documentanalyse: Bij de analyse van lange rapporten of juridische documenten kan een LLM sleutelfeiten missen die in de centrale secties staan, waardoor het een onbetrouwbaar instrument wordt voor dergelijke taken.

Strategieën voor beperking en preventie

Onderzoekers en ontwikkelaars passen verschillende benaderingen toe om het probleem van contextueel vergeten aan te pakken.

Vergroting van het contextvenster

De meest directe aanpak is het vergroten van het contextvenster. Moderne modellen zoals Claude 3 (200.000 tokens) en Gemini 1.5 Pro (tot 2 miljoen tokens) hebben deze grens aanzienlijk verlegd[8][9]. Onderzoek toont echter aan dat een eenvoudige vergroting van het venster geen effectief gebruik ervan garandeert, en dat het «Lost in the Middle»-probleem blijft bestaan[2].

Geavanceerde prompt-engineering

Een goede structurering van prompts kan de prestaties aanzienlijk verbeteren. Anthropic stelt de volgende praktijken voor[10]:

  • Documenten aan het begin plaatsen: Lange teksten helemaal aan het begin van de prompt zetten, vóór de instructies en de vraag.
  • Gebruik van XML-tags: Documenten omhullen met `<document>`-tags voor een duidelijke scheiding.
  • Antwoorden onderbouwen met citaten: Het model instrueren eerst relevante citaten te extraheren en vervolgens op basis daarvan een antwoord te formuleren.

Externalisering van geheugen: Retrieval-Augmented Generation (RAG)

Een fundamenteel andere aanpak is om niet alle informatie in het contextvenster te plaatsen, maar deze op te slaan in een extern systeem (een vectordatabase) en op verzoek beschikbaar te stellen.

  1. Ophalen (Retrieve): Wanneer een verzoek binnenkomt, zoekt het systeem relevante informatie op in de externe database.
  2. Aanvullen (Augment): De gevonden fragmenten worden toegevoegd aan het oorspronkelijke verzoek.
  3. Genereren (Generate): Het LLM genereert een antwoord op basis van de verstrekte context.

RAG maakt het mogelijk te werken met vrijwel onbeperkte hoeveelheden gegevens en biedt toegang tot actuele en geverifieerde informatie, wat het risico op hallucinaties vermindert en momenteel de meest betrouwbare oplossing is[11].

Verwijzingen

  • Lost in the Middle: How Language Models Use Long Contexts — het originele onderzoek van Stanford University.
  • Aankondiging van Claude met een contextvenster van 100.000 tokens door Anthropic.

Literatuur

  • Liu, N. F. et al. (2023). Lost in the Middle: How Language Models Use Long Contexts. arXiv:2307.03172.
  • An, C. et al. (2024). Why Does the Effective Context Length of LLMs Fall Short?. arXiv:2410.18745.
  • Ding, J. et al. (2023). LongNet: Scaling Transformers to 1,000,000,000 Tokens. arXiv:2307.02486.
  • Yang, A. et al. (2024). Context Parallelism for Scalable Million-Token Inference. arXiv:2411.01783.
  • Chen, S. et al. (2023). Extending Context Window of Large Language Models via Positional Interpolation. arXiv:2306.15595.
  • Ding, Y. et al. (2024). LongRoPE: Extending LLM Context Window Beyond 2 Million Tokens. arXiv:2402.13753.
  • Li, S. et al. (2023). Functional Interpolation for Relative Positions Improves Long Context Transformers. arXiv:2310.04418.
  • Dong, Z. et al. (2024). Exploring Context Window of Large Language Models via Decomposed Positional Vectors. arXiv:2405.18009.
  • Laban, P. et al. (2025). LLMs Get Lost in Multi-Turn Conversation. arXiv:2505.06120.
  • Li, R. et al. (2024). Extending Context Window in Large Language Models with Segmented Base Adjustment for Rotary Position Embeddings. Applied Sciences, 14(7), 3076. DOI:10.3390/app14073076.
  • Yang, A. & Reizenstein, J. (2024). Exploring Context Window of LLMs via Decomposed Positional Vectors (NeurIPS Poster). NeurIPS 2024.

Noten

  1. ↑ 1.0 1.1 1.2 Howard, James. «Context Degradation Syndrome: When Large Language Models Lose the Plot». jameshoward.us. [1]
  2. ↑ 2.0 2.1 2.2 2.3 Liu, Nelson F.; et al. «Lost in the Middle: How Language Models Use Long Contexts». arXiv. [2]
  3. ↑ Liu, Nelson F.; et al. «Lost in the Middle: How Language Models Use Long Contexts». ACL Anthology. [3]
  4. ↑ Greyling, Cobus. «Catastrophic Forgetting In LLMs». Medium. [4]
  5. ↑ «Exploring Context Window of Large Language Models via Decomposed Positional Vectors». NeurIPS Proceedings. [5]
  6. ↑ An, Chenxin; et al. «Why Does the Effective Context Length of LLMs Fall Short?». arXiv. [6]
  7. ↑ «LLMs Get Lost In Multi-Turn Conversation». arXiv. [7]
  8. ↑ «Introducing the next generation of Claude». Anthropic. [8]
  9. ↑ «Google's Gemini 1.5 Pro - Revolutionizing AI with a 1M Token Context Window». Medium. [9]
  10. ↑ «Long context prompting tips». Anthropic Documentation. [10]
  11. ↑ «What is Retrieval-Augmented Generation (RAG)?». Google Cloud. [11]
Retrieved from "https://systems-analysis.info/int/index.php?title=Contextueel_vergeten&oldid=1228"