Para implementar estos comportamientos de manera efectiva, necesitará hacer algo de ingeniería rápida. También es posible que desee utilizar un generación estructurada técnico. Básicamente, esto significa dar forma al resultado del LLM para que se ajuste a un formato o patrón específico, de modo que las respuestas del agente sigan siendo consistentes con el estilo de comunicación que está buscando.
Ejemplo: A continuación se muestra un fragmento de un mensaje del sistema para un agente estilo ReAct del Marco del agente de abejas.
# Communication structure
You communicate only in instruction lines. The format is: "Instruction: expected output". You must only use these instruction lines and must not enter empty lines or anything else between instruction lines.
You must skip the instruction lines Function Name, Function Input and Function Output if no function calling is required.Message: User's message. You never use this instruction line.
Thought: A single-line plan of how to answer the user's message. It must be immediately followed by Final Answer.
Thought: A single-line step-by-step plan of how to answer the user's message. You can use the available functions defined above. This instruction line must be immediately followed by Function Name if one of the available functions defined above needs to be called, or by Final Answer. Do not provide the answer here.
Function Name: Name of the function. This instruction line must be immediately followed by Function Input.
Function Input: Function parameters. Empty object is a valid parameter.
Function Output: Output of the function in JSON format.
Thought: Continue your thinking process.
Final Answer: Answer the user or ask for more information or clarification. It must always be preceded by Thought.
## Examples
Message: Can you translate "How are you" into French?
Thought: The user wants to translate a text into French. I can do that.
Final Answer: Comment vas-tu?
Paso 3. Establecer instrucciones maestras del agente
Tendemos a dar por sentado que los LLM vienen con muchas funciones listas para usar. Algunos de ellos son geniales, pero es posible que otros no sean exactamente lo que necesitas. Para obtener el rendimiento que busca, es importante indicar todas las funciones que desea (y no desea) en el mensaje del sistema.
Esto podría incluir instrucciones como:
- Nombre y función del agente: Cómo se llama el agente y qué se supone que debe hacer.
- Tono y concisión: Qué tan formal o informal debe parecer y qué breve debe ser.
- Cuándo utilizar las herramientas: Decida cuándo confiar en herramientas externas en lugar del conocimiento propio del modelo.
- Manejo de errores: Qué debe hacer el agente si hay un problema con una herramienta o proceso.
Ejemplo: A continuación se muestra un extracto de la sección de instrucciones del Marco del agente de abejas.
# Instructions
User can only see the Final Answer, all answers must be provided there.
You must always use the communication structure and instructions defined above. Do not forget that Thought must be a single-line immediately followed by Final Answer.
You must always use the communication structure and instructions defined above. Do not forget that Thought must be a single-line immediately followed by either Function Name or Final Answer.
Functions must be used to retrieve factual or historical information to answer the message.
If the user suggests using a function that is not available, answer that the function is not available. You can suggest alternatives if appropriate.
When the message is unclear or you need more information from the user, ask in Final Answer.# Your capabilities
Prefer to use these capabilities over functions.
- You understand these languages: English, Spanish, French.
- You can translate and summarize, even long documents.
# Notes
- If you don't know the answer, say that you don't know.
- The current time and date in ISO format can be found in the last message.
- When answering the user, use friendly formats for time and date.
- Use markdown syntax for formatting code snippets, links, JSON, tables, images, files.
- Sometimes, things don't go as planned. Functions may not provide useful information on the first few tries. You should always try a few different approaches before declaring the problem unsolvable.
- When the function doesn't give you what you were asking for, you must either use another function or a different function input.
- When using search engines, you try different formulations of the query, possibly even in a different language.
- You cannot do complex calculations, computations, or data manipulations without using functions.m
Paso 4. Defina y optimice sus herramientas principales
Estas son las herramientas que otorgan a tus agentes sus superpoderes. Con un pequeño conjunto de herramientas bien definidas, puede lograr una amplia funcionalidad. Las principales herramientas a incluir son la ejecución de código, búsqueda web, lectura de archivos y análisis de datos.
Para cada herramienta, deberá definir lo siguiente e incluirlas en el mensaje del sistema:
- Nombre de la herramienta: Un nombre único y descriptivo para la característica.
- Descripción de la herramienta: Una explicación clara de qué hace la herramienta y cuándo utilizarla. Esto ayuda al agente a determinar cuándo elegir la herramienta adecuada.
- Diagrama de entrada de herramientas: Un diagrama que describe los parámetros obligatorios y opcionales, sus tipos y sus restricciones. El agente lo utiliza para completar las entradas que necesita según la consulta del usuario.
- Un indicador de dónde/cómo ejecutar la herramienta.
Ejemplo: A continuación se muestra un extracto de una implementación de la herramienta de Arxiv. Comunidad Langchain.
class ArxivInput(BaseModel):
"""Input for the Arxiv tool."""query: str = Field(description="search query to look up")
class ArxivQueryRun(BaseTool): # type: ignore[override, override]
"""Tool that searches the Arxiv API."""
name: str = "arxiv"
description: str = (
"A wrapper around Arxiv.org "
"Useful for when you need to answer questions about Physics, Mathematics, "
"Computer Science, Quantitative Biology, Quantitative Finance, Statistics, "
"Electrical Engineering, and Economics "
"from scientific articles on arxiv.org. "
"Input should be a search query."
)
api_wrapper: ArxivAPIWrapper = Field(default_factory=ArxivAPIWrapper) # type: ignore[arg-type]
args_schema: Type[BaseModel] = ArxivInput
def _run(
self,
query: str,
run_manager: Optional[CallbackManagerForToolRun] = None,
) -> str:
"""Use the Arxiv tool."""
return self.api_wrapper.run(query)p
En algunos casos, será necesario optimizar las herramientas para lograr el rendimiento deseado. Esto puede implicar cambiar el nombre o la descripción de la herramienta con ingeniería rápida, configurar configuraciones avanzadas para manejar errores comunes o filtrar la salida de la herramienta.
Paso 5. Elija una estrategia de gestión de la memoria
Los LLM están limitados por su ventana emergente: la cantidad de tokens que pueden «recordar» a la vez. Esta memoria puede llenarse rápidamente con cosas como interacciones pasadas en conversaciones de varios turnos, lanzamientos prolongados de herramientas o contexto adicional en el que confía el agente. Por eso es fundamental tener una estrategia sólida de gestión de la memoria.
Memoria, en el contexto de un agente, se refiere a la capacidad del sistema para almacenar, recordar y utilizar información de interacciones pasadas. Esto permite al agente mantener el contexto en el tiempo, mejorar sus respuestas en base a intercambios previos y ofrecer una experiencia más personalizada.
Estrategias comunes de gestión de memoria:
- Memoria deslizante: Mantén el último k la conversación pasa a la memoria y deja caer las más antiguas.
- Memoria de fichas: Mantén el último norte patatas fritas y olvídate del resto.
- Memoria resumida: Utilice el LLM para resumir la conversación en cada ronda y colocar mensajes individuales.
Además, también puede hacer que un LLM detecte momentos clave para almacenarlos en la memoria a largo plazo. Esto permite al agente «recordar» datos importantes sobre el usuario, lo que hace que la experiencia sea aún más personalizada.
