Prompt (modelos de lenguaje)

From Systems analysis Wiki
Jump to navigation Jump to search

Prompt (del inglés prompt — «indicación» o «instrucción de texto») en el contexto de los modelos grandes de lenguaje (LLM), es el texto de entrada o la instrucción que un usuario proporciona a un modelo para generar la respuesta deseada[1]. El prompt formula la tarea para el modelo, incluyendo las condiciones necesarias, el contexto y los ejemplos. La eficacia del modelo depende en gran medida de la calidad del prompt elaborado.

La disciplina que estudia los métodos de desarrollo y optimización de las instrucciones de texto se denomina ingeniería de prompts (prompt engineering). Su objetivo es obtener de los modelos de IA respuestas lo más relevantes, precisas y seguras posibles[2]. Un prompt bien elaborado establece la «ruta» para que el modelo realice la tarea, ayudando a especificar el contexto requerido y el resultado deseado[1].

Historia del enfoque

La idea de gestionar el comportamiento de los LLM mediante indicaciones de texto ha evolucionado a medida que aumentaban las capacidades de los propios modelos.

Primeras etapas (GPT-2)

Ya en 2019, los investigadores de OpenAI demostraron que los grandes modelos de lenguaje preentrenados, como GPT-2, eran capaces de resolver nuevas tareas sin entrenamiento adicional si se formulaban como texto. El trabajo «Language Models are Unsupervised Multitask Learners» marcó un cambio fundamental: en lugar de reentrenar el modelo para cada tarea, bastaba con formular una instrucción comprensible en la entrada[3].

El gran avance con GPT-3 y el aprendizaje en contexto

El verdadero avance se produjo con el lanzamiento del modelo GPT-3 en 2020. Con 175 mil millones de parámetros, GPT-3 demostró la capacidad de aprendizaje en contexto (in-context learning), es decir, de asimilar una nueva tarea «al vuelo» a partir de unos pocos ejemplos proporcionados directamente en el texto del prompt[3]. Este modo de funcionamiento se denominó few-shot learning («aprendizaje con pocos ejemplos») y demostró que escalar el tamaño del modelo conduce a una alta calidad en la ejecución de tareas de PLN sin necesidad de ajustar los pesos.

Aparición de la cadena de pensamiento (Chain-of-Thought, CoT)

El desarrollo posterior en 2022 se centró en mejorar la capacidad de los modelos para el razonamiento lógico complejo. Se propusieron prompts especiales en formato de cadena de pensamiento (chain-of-thought prompting). En estos prompts, el modelo recibe no solo la pregunta, sino también un ejemplo de razonamiento secuencial y paso a paso antes de la respuesta. Esto aumentó notablemente la precisión de las soluciones en tareas aritméticas y lógicas[2]. La investigación de Kojima y sus colegas demostró que se puede estimular al modelo a razonar incluso sin ejemplos (zero-shot), simplemente añadiendo al final del prompt la frase «Pensemos paso a paso»[2].

Prompts multimodales

El concepto de prompts trascendió el texto. En 2022, con la aparición de modelos como DALL-E 2 y Stable Diffusion, las instrucciones de los usuarios en lenguaje natural se convirtieron en la interfaz universal para generar imágenes y, más tarde, música y vídeo.

Tipos y técnicas de aplicación de prompts

Existen varios tipos y técnicas principales de prompts que a menudo se combinan.

Zero-shot prompting (instrucción directa)

El modelo recibe únicamente una instrucción o pregunta sin ningún ejemplo. En este modo, el LLM se basa en su conocimiento general adquirido durante el preentrenamiento. Es adecuado para tareas sencillas como la traducción o el resumen de textos[1].

Few-shot prompting (aprendizaje con ejemplos)

Además de la instrucción, en el prompt se incluyen uno o varios ejemplos con entradas y salidas esperadas. El modelo «aprende al vuelo» de estas muestras y aplica la lógica asimilada a la nueva solicitud. Este método, que implementa el in-context learning, aumenta significativamente la precisión en tareas donde es importante un formato o estilo de respuesta específico[1].

Cadena de pensamiento (Chain-of-Thought, CoT)

Un tipo especial de prompt para tareas que requieren un razonamiento complejo (matemáticas, lógica). En la instrucción se incluye un desglose paso a paso o un plan de solución antes de la respuesta final. Esto obliga al modelo a estructurar explícitamente su proceso de razonamiento, lo que mejora significativamente la calidad del resultado[2].

Ajuste de prompts (Prompt Tuning)

Técnica en la que, en lugar de escribir manualmente un prompt, se utiliza una instrucción optimizada automáticamente. El prompt se representa como un conjunto de tokens especiales entrenables (un vector continuo) que se añade a la solicitud del usuario. Al entrenar únicamente este pequeño vector-prompt, es posible adaptar un gran modelo «congelado» a una nueva tarea con un coste computacional mínimo[2].

La ingeniería de prompts como disciplina

Surgimiento de la profesión

El crecimiento de las capacidades de los LLM ha llevado a la aparición de una nueva especialización: el ingeniero de prompts. Estos especialistas desarrollan y depuran las instrucciones de texto para obtener el comportamiento deseado de la IA. Los ingenieros de prompts utilizan conocimientos de lingüística, lógica y psicología para estructurar los datos de entrada de la manera más eficaz[2]. Entre 2022 y 2023, aparecieron las primeras ofertas de trabajo para este puesto, lo que refleja la alta demanda de habilidades para interactuar eficazmente con los sistemas de IA.

Futuro de la profesión y automatización

El campo se está desarrollando rápidamente, y su futuro es objeto de debate. Investigaciones de 2024, por ejemplo, de VMware, han demostrado que la propia IA es capaz de encontrar formulaciones de prompts eficaces mediante prueba y error y optimización, superando a menudo las creadas por humanos[4]. Esto ha llevado a la opinión de que la ingeniería de prompts manual podría ser un fenómeno temporal y que, con el tiempo, las herramientas de selección automática de prompts se convertirán en el estándar. Sin embargo, a fecha de 2025, la experiencia en ingeniería de prompts sigue siendo muy solicitada.

Áreas de aplicación

  • Procesamiento del lenguaje natural: Tareas clásicas de PLN, como el resumen automático de documentos, la traducción automática, la respuesta a preguntas y la extracción de información.
  • Chatbots y asistentes virtuales: Los prompts ayudan a definir el rol, el estilo de comunicación y el formato de las respuestas, haciendo que los sistemas de diálogo sean más consistentes y útiles.
  • Generación de código: Modelos como OpenAI Codex son capaces de escribir código de programación a partir de descripciones en lenguaje natural, lo que acelera el desarrollo.
  • Análisis de datos: Con la ayuda de prompts, se puede configurar un modelo para extraer información valiosa (insights) de informes de texto no estructurados o para generar hipótesis.
  • Educación: Creación de tutores inteligentes que generan tareas, explican conceptos complejos y evalúan las respuestas teniendo en cuenta el nivel de preparación del estudiante.
  • Industrias creativas: Generación de textos, imágenes artísticas, música y guiones a partir de descripciones detalladas.

Uso malicioso y vulnerabilidades (Inyección de prompts)

La naturaleza abierta de la interfaz de los LLM ha dado lugar a una nueva clase de ataques: la inyección de prompts (prompt injection). Un atacante formula una solicitud maliciosa especial que obliga al modelo a violar sus instrucciones originales o a revelar información oculta[2]. Los expertos consideran esto como una variante de un ataque de tipo «inyección de código», donde en lugar de código, se «inyectan» en el sistema instrucciones de texto maliciosas.

Tipos de ataques

  • Jailbreak: Un ataque que permite al modelo «escapar» de las restricciones impuestas (por ejemplo, las políticas de moderación) y generar contenido prohibido. Un ejemplo conocido es el prompt DAN (Do Anything Now), que obligaba a ChatGPT a responder sin censura.
  • Prompt Leaking: Una solicitud especial que obliga al modelo a revelar fragmentos de su prompt de sistema oculto.
  • Token Smuggling: Una instrucción maliciosa se enmascara como una parte inofensiva de la solicitud (por ejemplo, un fragmento de código) para eludir los filtros y provocar un comportamiento no deseado.

Estos ataques representan un problema grave, ya que los métodos tradicionales de ciberseguridad no están bien adaptados para hacer frente a las amenazas relacionadas con la interpretación del lenguaje natural.

Bibliografía

  • Radford, A. et al. (2019). Language Models are Unsupervised Multitask Learners. PDF.
  • Brown, T. B. et al. (2020). Language Models are Few-Shot Learners. arXiv:2005.14165.
  • Wei, J. et al. (2022). Chain-of-Thought Prompting Elicits Reasoning in Large Language Models. arXiv:2201.11903.
  • Wang, X. et al. (2022). Self-Consistency Improves Chain of Thought Reasoning in Language Models. arXiv:2203.11171.
  • Kojima, T. et al. (2022). Large Language Models are Zero-Shot Reasoners. arXiv:2205.11916.
  • Li, X. L.; Liang, P. (2021). Prefix-Tuning: Optimizing Continuous Prompts for Generation. arXiv:2101.00190.
  • Liu, Y. et al. (2021). Fantastically Ordered Prompts and Where to Find Them: Overcoming Few-Shot Prompt Order Sensitivity. arXiv:2104.08786.
  • Chang, K. et al. (2024). Efficient Prompting Methods for Large Language Models: A Survey. arXiv:2404.01077.
  • Li, Z. et al. (2024). Prompt Compression for Large Language Models: A Survey. arXiv:2410.12388.
  • Genkina, D. (2024). AI Prompt Engineering Is Dead. IEEE Spectrum. [5].
  • Li, W. et al. (2025). A Survey of Automatic Prompt Engineering: An Optimization Perspective. arXiv:2502.11560.
  • Wu, Z. et al. (2025). The Dark Side of Function Calling: Pathways to Jailbreaking Large Language Models. EMNLP 2025. PDF.

Referencias

  1. 1.0 1.1 1.2 1.3 «Guía de ingeniería de prompts para IA». Google Cloud. [1]
  2. 2.0 2.1 2.2 2.3 2.4 2.5 2.6 «Ingeniería de prompts». Wikipedia. [2]
  3. 3.0 3.1 Brown, Tom B., et al. «Language Models are Few-Shot Learners». arXiv:2005.14165 [cs.CL], 28 de mayo de 2020. [3]
  4. «AI Prompt Engineering Is Dead». IEEE Spectrum. [4]