---
title: "Jailbreaks (LLM) (HU)"
source: "https://systems-analysis.info/int/Jailbreaks_(LLM)_(HU)"
wiki: "systems-analysis.info/int"
article: "Jailbreaks_(LLM)_(HU)"
language: "hu"
categories:
  - "Category:Hungarian"
  - "Category:Large language models"
  - "Category:Machine learning"
revision_id: 3297
wiki_created_at: 2026-09-06T23:18:36Z
wiki_modified_at: 2026-09-06T23:18:36Z
downloaded_at: 2026-09-07T22:56:12Z
---

# Jailbreaks (LLM) (HU)

**Jailbreak** (angol **Jailbreak** — szó szerint „börtönszökés\\) a nagy nyelvi modellek (LLM) kontextusában egy olyan típusú adversariális támadás, amelynek célja a beépített biztonsági mechanizmusok és korlátozások megkerülése tiltott vagy potenciálisan káros válaszok kinyerése érdekében<sup>[\[1\]](https://systems-analysis.info/int/Jailbreaks_(LLM)_(HU)#cite_note-lillog_intro-1)</sup>. A Jailbreak lényege „a modell káros válaszok generálására való indukálása, amelyek ellentmondanak a felhasználási irányelveknek és a társadalmi normáknak, adversariális promptok kidolgozásán keresztül"<sup>[\[2\]](https://systems-analysis.info/int/Jailbreaks_(LLM)_(HU)#cite_note-yi_2024_survey-2)</sup>.

A jailbreak-támadások által kihasznált alapvető sérülékenység az LLM-ek architekturális sajátosságában rejlik: a modellek nem képesek típus szerint megkülönböztetni az utasításokat az adatoktól, mivel mind a rendszer-promptok, mind a felhasználói bevitel azonos formátummal rendelkezik — természetes nyelvű szöveges karakterláncok<sup>[\[3\]](https://systems-analysis.info/int/Jailbreaks_(LLM)_(HU)#cite_note-prompting_guide_vuln-3)</sup>.

## A kialakulás és fejlődés története

### Korai időszak: Prompt-injekciók (2022)

A prompt-injekciós sérülékenység első dokumentált felfedezése 2022 májusában történt, amikor a **Preamble** vállalat kutatói felfedezték a ChatGPT ilyen jellegű támadásokra való fogékonyságát. 2022 szeptemberében **Riley Goodside** önállóan közzétette a GPT-3 sérülékenységének első nyilvános demonstrációját Twitteren, egy ismert példán keresztül, ahol a modellnek azt parancsolták, hogy hagyja figyelmen kívül az előző utasításokat<sup>[\[4\]](https://systems-analysis.info/int/Jailbreaks_(LLM)_(HU)#cite_note-ncc_group_history-4)</sup>.

### A DAN korszaka (2022–2023)

2022 közepén megjelentek az első **"Do Anything Now"** (**DAN**) promptok, amelyek szerepjátékra vonatkozó utasítások voltak. A kulcsinnovációt a szerepjáték biztonsági korlátozások megkerülésére való alkalmazása jelentette, egy szabályoktól mentes „alternatív személyiség" létrehozásával<sup>[\[5\]](https://systems-analysis.info/int/Jailbreaks_(LLM)_(HU)#cite_note-dan_evolution_arxiv-5)</sup>. A DAN evolúciója összetett forgatókönyvek megjelenéséhez vezetett, token-rendszerekkel (büntetés/jutalom mechanizmusok) és karaktermegőrzési mechanizmusokkal<sup>[\[6\]](https://systems-analysis.info/int/Jailbreaks_(LLM)_(HU)#cite_note-dan_github-6)</sup>.

### A módszerek diverzifikációja (2023–2024)

2023-tól kezdődően átfogó akadémiai kutatások indultak a jailbreak-támadásokról. 2024-ben megjelentek a **multimodális támadások**, amelyek magukban foglalják a káros utasítások képekbe és hangfájlokba való rejtését, valamint az ASCII-art alapú vizuális prompt-injekciót<sup>[\[7\]](https://systems-analysis.info/int/Jailbreaks_(LLM)_(HU)#cite_note-hiddenlayer_multimodal-7)</sup>.

### Jelenkori időszak (2024–2025)

A támadási technikák tovább bonyolódnak. 2024 novemberében felfedezték a **"Time Bandit"** technikát, amely a ChatGPT-4o időbeli zavarát használja ki azáltal, hogy a kérdéseket úgy fogalmazza meg, mintha történelmi korszakokból (1800–1900-as évek) származnának<sup>[\[8\]](https://systems-analysis.info/int/Jailbreaks_(LLM)_(HU)#cite_note-bleeping_computer_time_bandit-8)</sup>.

## Technikai módszerek és osztályozás

A támadások a modellhez való hozzáférés alapján osztályozhatók:

- **Fekete doboz támadások:** A modell belső összetevőihez (paraméterek, gradiensek) való hozzáférés nélkül.
- **Fehér doboz támadások:** A modell paramétereinek és gradienseinek teljes hozzáférésével<sup>[\[2\]](https://systems-analysis.info/int/Jailbreaks_(LLM)_(HU)#cite_note-yi_2024_survey-2)</sup>.

### A JailbreakRadar taxonómiája

A *JailbreakRadar* osztályozása (Chu et al., 2024) hat fő támadási kategóriát különböztet meg:

1.  **Közvetlen támadások:** Közvetlen káros promptok.
2.  **Közvetett támadások:** Többlépéses manipulációs stratégiák.
3.  **Kontextuális támadások:** A beszélgetési előzmények felhasználása.
4.  **Szerepjáték-alapú támadások:** Karakterszemélyes technikák (pl. DAN).
5.  **Kódolási támadások:** Obfuszkációs módszerek a káros utasítások elrejtésére.
6.  **Sablon-alapú támadások:** Strukturált adversariális keretrendszerek<sup>[\[9\]](https://systems-analysis.info/int/Jailbreaks_(LLM)_(HU)#cite_note-chu_2024_radar-9)</sup>.

### Technikai mechanizmusok

- **Adversariális szuffixgenerálás (GCG):** A Zou et al. (2023) által javasolt módszer automatikusan generál adversariális szuffixeket (token-sorozatokat), amelyek a prompthoz adva nagy valószínűséggel káros választ váltanak ki. A módszer gradiens-optimalizációt alkalmaz, és magas sikerességi arányt mutat (akár 84% GPT-4 esetén) és modellek között is átvihető<sup>[\[10\]](https://systems-analysis.info/int/Jailbreaks_(LLM)_(HU)#cite_note-zou_2023_gcg-10)</sup>.
- **Többfordulós jailbreaking:** Az Anthropic (2024) kutatása kimutatta, hogy a támadások hatékonysága hatványfüggvényt követ: ahogy a promptban szereplő káros példák száma nő, úgy emelkedik a nemkívánatos válaszok aránya<sup>[\[11\]](https://systems-analysis.info/int/Jailbreaks_(LLM)_(HU)#cite_note-anthropic_many_shot-11)</sup>.

## Védelmi mechanizmusok

- **Alkotmányos osztályozók (Anthropic):** A bemeneti/kimeneti adatok szűrése alkotmányos elvek készlete alapján. Ez a módszer lehetővé tette a jailbreak sikerességének csökkentését 86%-ról 4,4%-ra kontrollált értékelések során<sup>[\[12\]](https://systems-analysis.info/int/Jailbreaks_(LLM)_(HU)#cite_note-mit_tech_review_const_ai-12)</sup>.
- **Emberi visszajelzésen alapuló megerősítéses tanulás (RLHF):** A háromfázisú tanítás (OpenAI), amely magában foglalja a felügyelt finomhangolást, a jutalom-modell tanítását és a policy optimalizálást, jelentős csökkentést mutatott a toxikus tartalom generálásában.
- **Adversariális tanítás:** A modell jailbreak-támadási példákon való tanítása az ellenállóképesség növelése érdekében. Ennek a megközelítésnek a hatékonysága a támadások sikerességének csökkentésében 60–80%-ra becsülhető<sup>[\[1\]](https://systems-analysis.info/int/Jailbreaks_(LLM)_(HU)#cite_note-lillog_intro-1)</sup>.
- **Többrétegű védelem:** Ajánlott stratégia, amely magában foglalja a bemeneti adatok validálását, a modell szintű védelmet, a kimeneti adatok monitorozását és a folyamatos valós idejű megfigyelést.

A nagy nyelvi modellek elleni jailbreak-támadások az AI biztonságának alapvető problémáját jelentik, folyamatos feszültséget demonstrálva a modellek képességei és összehangolása között. A támadási tér folyamatosan bonyolódik, az egyszerű prompt-injekciókról összetett multimodális és automatizált támadásokra való átmenettel. A kutatások azt mutatják, hogy egyetlen jelenlegi védelmi mechanizmus sem teljesen ellenálló az összes jailbreak-kísérlettel szemben. A siker ezen a területen folyamatos befektetést igényel a biztonsági kutatásokba, a felelős közzétételi gyakorlatokba, valamint a kutatók, az ipar és a szabályozók közös erőfeszítéseibe.

## Hivatkozások

- Prompting Guide: Jailbreaking
- A GCG-támadás GitHub-implementációjának adattára

## Irodalom

- Bai, Y. et al. (2022). *Constitutional AI: Harmlessness from AI Feedback*. arXiv:2212.08073.
- Zou, A. et al. (2023). *Universal and Transferable Adversarial Attacks on Aligned Language Models*. arXiv:2307.15043.
- Shen, X. et al. (2023). *"Do Anything Now": Characterizing and Evaluating In-The-Wild Jailbreak Prompts on Large Language Models*. arXiv:2308.03825.
- Chao, P. et al. (2024). *JailbreakBench: An Open Robustness Benchmark for Jailbreaking Large Language Models*. arXiv:2404.01318.
- Liao, Z.; Sun, H. (2024). *AmpleGCG: Learning a Universal and Transferable Generative Model of Adversarial Suffixes for Jailbreaking Both Open and Closed LLMs*. OpenReview UfqzXg95I5.
- Yi, S. et al. (2024). *Jailbreak Attacks and Defenses Against Large Language Models: A Survey*. arXiv:2407.04295.
- Chu, J. et al. (2025). *JailbreakRadar: Comprehensive Assessment of Jailbreak Attacks Against LLMs*. arXiv:2402.05668.
- Liu, A. et al. (2025). *PiCo: Jailbreaking Multimodal Large Language Models via Pictorial Code Contextualization*. arXiv:2504.01444.
- Ghosal, D. et al. (2025). *Immune: Improving Safety Against Jailbreaks in Multi-modal LLMs via Inference-Time Filtering*. *CVPR 2025*. PDF.
- Yan, Q. et al. (2025). *Hidden in Plain Sight: Probing Implicit Reasoning in Multimodal Language Models*. arXiv:2506.00258.
- Liu, Y. et al. (2025). *RePD: Defending Jailbreak Attack through a Retrieval-Based Detector*. *Findings of NAACL 2025*. ACL Anthology.

## Megjegyzések

1.  <span id="cite_note-lillog_intro-1">↑ <sup>[1.0](https://systems-analysis.info/int/Jailbreaks_(LLM)_(HU)#cite_ref-lillog_intro_1-0)</sup> <sup>[1.1](https://systems-analysis.info/int/Jailbreaks_(LLM)_(HU)#cite_ref-lillog_intro_1-1)</sup> «A brief history of jailbreaking». *Lil'Log*. <a href="https://lilianweng.github.io/posts/2023-03-15-prompt-engineering/" class="external autonumber" rel="nofollow">[1]</a></span>
2.  <span id="cite_note-yi_2024_survey-2">↑ <sup>[2.0](https://systems-analysis.info/int/Jailbreaks_(LLM)_(HU)#cite_ref-yi_2024_survey_2-0)</sup> <sup>[2.1](https://systems-analysis.info/int/Jailbreaks_(LLM)_(HU)#cite_ref-yi_2024_survey_2-1)</sup> Yi, J., et al. «Jailbreak Attacks and Defenses Against Large Language Models: A Comprehensive Survey». *arXiv:2405.09443*. <a href="https://arxiv.org/abs/2405.09443" class="external autonumber" rel="nofollow">[2]</a></span>
3.  <span id="cite_note-prompting_guide_vuln-3">[↑](https://systems-analysis.info/int/Jailbreaks_(LLM)_(HU)#cite_ref-prompting_guide_vuln_3-0) «Jailbreaking LLMs». *Prompting Guide*. <a href="https://www.promptingguide.ai/risks/jailbreaking" class="external autonumber" rel="nofollow">[3]</a></span>
4.  <span id="cite_note-ncc_group_history-4">[↑](https://systems-analysis.info/int/Jailbreaks_(LLM)_(HU)#cite_ref-ncc_group_history_4-0) «Exploring prompt injection attacks». *NCC Group*. <a href="https://research.nccgroup.com/2022/12/05/exploring-prompt-injection-attacks/" class="external autonumber" rel="nofollow">[4]</a></span>
5.  <span id="cite_note-dan_evolution_arxiv-5">[↑](https://systems-analysis.info/int/Jailbreaks_(LLM)_(HU)#cite_ref-dan_evolution_arxiv_5-0) «Do Anything Now: Characterizing and Evaluating In-The-Wild Jailbreak Prompts on Large Language Models». *arXiv:2308.03825*. <a href="https://arxiv.org/abs/2308.03825" class="external autonumber" rel="nofollow">[5]</a></span>
6.  <span id="cite_note-dan_github-6">[↑](https://systems-analysis.info/int/Jailbreaks_(LLM)_(HU)#cite_ref-dan_github_6-0) «0xk1h0/ChatGPT_DAN». *GitHub*. <a href="https://github.com/0xk1h0/ChatGPT_DAN" class="external autonumber" rel="nofollow">[6]</a></span>
7.  <span id="cite_note-hiddenlayer_multimodal-7">[↑](https://systems-analysis.info/int/Jailbreaks_(LLM)_(HU)#cite_ref-hiddenlayer_multimodal_7-0) «Hiding in Plain Sight: Multimodal Jailbreaking of Large Language Models». *HiddenLayer*. <a href="https://hiddenlayer.com/research/multimodal-jailbreaking-of-large-language-models/" class="external autonumber" rel="nofollow">[7]</a></span>
8.  <span id="cite_note-bleeping_computer_time_bandit-8">[↑](https://systems-analysis.info/int/Jailbreaks_(LLM)_(HU)#cite_ref-bleeping_computer_time_bandit_8-0) «ChatGPT "Time-travel" jailbreak lets you bypass its safety guards». *BleepingComputer*. <a href="https://www.bleepingcomputer.com/news/security/chatgpt-time-travel-jailbreak-lets-you-bypass-its-safety-guards/" class="external autonumber" rel="nofollow">[8]</a></span>
9.  <span id="cite_note-chu_2024_radar-9">[↑](https://systems-analysis.info/int/Jailbreaks_(LLM)_(HU)#cite_ref-chu_2024_radar_9-0) Chu, Z., et al. «JailbreakRadar: A Comprehensive Benchmark for Jailbreak Attack and Defense». *arXiv:2402.12642*. <a href="https://arxiv.org/abs/2402.12642" class="external autonumber" rel="nofollow">[9]</a></span>
10. <span id="cite_note-zou_2023_gcg-10">[↑](https://systems-analysis.info/int/Jailbreaks_(LLM)_(HU)#cite_ref-zou_2023_gcg_10-0) Zou, A., et al. «Universal and Transferable Adversarial Attacks on Aligned Language Models». *arXiv:2307.15043*. <a href="https://arxiv.org/abs/2307.15043" class="external autonumber" rel="nofollow">[10]</a></span>
11. <span id="cite_note-anthropic_many_shot-11">[↑](https://systems-analysis.info/int/Jailbreaks_(LLM)_(HU)#cite_ref-anthropic_many_shot_11-0) «Many-shot Jailbreaking». *Anthropic*. <a href="https://www.anthropic.com/research/many-shot-jailbreaking" class="external autonumber" rel="nofollow">[11]</a></span>
12. <span id="cite_note-mit_tech_review_const_ai-12">[↑](https://systems-analysis.info/int/Jailbreaks_(LLM)_(HU)#cite_ref-mit_tech_review_const_ai_12-0) «How we're using 'constitutional AI' to make our models safer». *MIT Technology Review*. <a href="https://www.technologyreview.com/2023/05/09/1072782/how-were-using-constitutional-ai-to-make-our-models-safer/" class="external autonumber" rel="nofollow">[12]</a></span>