Clase 4 — Repaso del Tema 1 (Agentes y Sistemas Multiagente) y continuación del Tema 2 (Estándar FIPA)

Resumen Ejecutivo

La sesión fue principalmente un repaso consolidado de los conceptos vistos en los Temas 1 y 2 de la asignatura. Se revisaron las definiciones fundamentales de agentes, sus clasificaciones, arquitecturas y mecanismos de coordinación (Tema 1), y se profundizó en el estándar FIPA: su modelo de gestión de agentes, arquitectura abstracta, servicios de directorio y el lenguaje de comunicación ACL (Tema 2). Adicionalmente, se discutieron preocupaciones reales del diseño de sistemas agénticos como la seguridad, los guardarraíles y la inyección de prompts.

Conceptos Clave

Programación Orientada a Agentes (POA): Paradigma de software que integra conceptos de IA en sistemas distribuidos, caracterizado por autonomía, proactividad y capacidad de comunicación entre agentes y con usuarios humanos. ⚠️ EXAMEN
Agente: Componente de software especial que presenta autonomía, proporciona una interfaz interoperable, se comporta como un agente humano y trabaja para clientes intentando llevar a cabo su propia agenda. ⚠️ EXAMEN
Sistema Multiagente (SMA): Sistema donde múltiples agentes interactúan, pudiendo residir en sistemas diferentes, requiriendo orquestación y coreografía.
FIPA: Conjunto de especificaciones estándar que regulan cómo los agentes se comunican y se comportan. ⚠️ EXAMEN
KQML: Lenguaje de comunicación de agentes con amplia aceptación histórica.
Protocolo: Regla que marca cómo se gestiona la comunicación entre agentes para que se entiendan.
Guardarraíles (Guardrails): Mecanismos de control que aseguran que un agente no salga de los límites de comportamiento definidos. ⚠️ EXAMEN
AMS (Agent Management System): Componente obligatorio de una plataforma FIPA responsable de la creación, supresión, registro y supervisión de agentes. ⚠️ EXAMEN
DF (Directory Facilitator): Componente opcional que proporciona servicios de "páginas amarillas" a otros agentes. ⚠️ EXAMEN
MTS (Message Transport Service): Servicio de transporte de mensajes ACL entre agentes.
AID (Agent Identifier): Identificador único asignado a cada agente al registrarse en el AMS. ⚠️ EXAMEN
Protocolo A2A (Agent-to-Agent): Protocolo actual para la comunicación entre agentes.

Desarrollo del Temario

1. Repaso del Tema 1: Agentes y Sistemas Multiagente

1.1 Clasificación de agentes

Los agentes se clasifican según diferentes tipos: autónomos, sociales, reactivos y proactivos. ⚠️ EXAMEN

1.2 Arquitecturas de agentes

Es fundamental definir una arquitectura robusta que garantice resiliencia, soporte de carga y tolerancia a incidencias en producción.

Arquitecturas reactivas: Capaces de actuar ante eventos que ocurren en el sistema. Están vinculadas al concepto de arquitecturas event-driven, donde los sistemas generan eventos que pueden ser procesados y desencadenar acciones. ⚠️ EXAMEN
Arquitecturas basadas en lógica: Otro enfoque arquitectónico para el diseño de agentes.

1.3 Comunicación y coordinación de agentes

Los agentes tienen un input y un output; es necesario procesar ese output para decidir qué agente debe ejecutarse a continuación.

Razones para la coordinación de agentes: - Los objetivos pueden causar conflictos entre acciones de agentes - Pueden ser interdependientes - Tienen diferentes capacidades y conocimientos - Los objetivos pueden lograrse más rápidamente si diferentes agentes trabajan en paralelo ⚠️ EXAMEN

Mecanismo de contratación (Contract Net Protocol): ⚠️ EXAMEN 1. Anuncio del contrato por parte del agente gestor 2. Presentación de las ofertas 3. Evaluación de las ofertas 4. Otorgamiento del contrato

2. Tema 2: Estándar FIPA

2.1 Modelo de referencia de gestión de agentes FIPA

Una estructura normativa dentro de la cual los agentes compatibles con FIPA pueden existir, funcionar y ser gestionados. Establece el modelo de referencia lógica para la creación, registro, ubicación, comunicación, migración y operación de los agentes. ⚠️ EXAMEN

Componentes de la plataforma de agentes: - Máquinas y sistemas operativos - Componentes de administración - Los propios agentes - Software de apoyo

2.2 Ciclo de vida de un agente en FIPA

El agente se registra en el AMS para obtener un AID ⚠️ EXAMEN
El AMS guarda el AID en un directorio junto con el estado actual del agente
Las descripciones pueden modificarse bajo restricción de autorización
La vida del agente termina con la anulación de su registro en el AMS
Tras la anulación, el AID puede ser eliminado o reasignado

Ejemplo: En empresas reales, a los agentes se les asigna un nombre propio para reconocerlos como si fueran "workers digitales", y cada uno debe tener al menos un propietario y una identidad inequívoca.

2.3 Facilitador de Directorio (DF)

Componente opcional de la plataforma
Proporciona servicios de páginas amarillas a otros agentes ⚠️ EXAMEN
Mantiene lista precisa, completa y oportuna de los agentes
Debe proporcionar información de forma no discriminatoria para todos los agentes
Una plataforma puede soportar cualquier número de DFs, que pueden federarse entre sí

2.4 Servicio de Transporte de Mensajes (MTS)

Servicio para transportar mensajes FIPA ACL entre agentes
Funciona tanto intra-AP (misma plataforma) como inter-AP (diferentes plataformas)
Los mensajes incluyen una envoltura de transporte con parámetros como el destinatario

2.5 Arquitectura Abstracta FIPA (2000-2002)

Estandarizada para reducir el impacto de revisiones incrementales sobre las implementaciones existentes. ⚠️ EXAMEN

Elementos fundamentales: - Mensajes: Forma fundamental de comunicación entre agentes - Servicio de transporte de mensajes: Medio para enviar/recibir mensajes - Servicio de directorio de agentes: Repositorio donde agentes publican y buscan entradas - Servicio de directorio de servicios: Repositorio para descubrir servicios disponibles

2.6 Mensajes FIPA ACL

Contienen un conjunto de uno o más parámetros
Único parámetro obligatorio: la performativa ⚠️ EXAMEN
Parámetros habituales: contenido, receptor y emisor
Tres codificaciones: String, XML y Bit Efficient ⚠️ EXAMEN

2.7 Especificaciones FIPA

25 especificaciones estándar publicadas
14 adicionales en etapa experimental
3 en etapa preliminar

3. Seguridad en Sistemas Agénticos

3.1 Preocupaciones clave al diseñar sistemas agénticos ⚠️ EXAMEN

Al enfrentarse al diseño de un sistema basado en agentes, hay que considerar:

Seguridad: Los agentes deben estar acotados en lo que pueden hacer
Guardarraíles (Guardrails): Puntos de control que aseguran que el agente avanza según la línea marcada, sin desviarse

Dos amenazas principales: 1. Prompt Injection: El agente puede inyectar instrucciones no deseadas por el acceso que tenga a recursos ⚠️ EXAMEN 2. Ejecución de comandos: El agente podría ejecutar comandos en la máquina donde reside, con consecuencias potencialmente destructivas ⚠️ EXAMEN

Ejemplo: Se creó un agente con un MCP (Model Context Protocol) que exponía varios métodos, incluyendo "cancelar cuenta". El agente no paró hasta que efectivamente canceló la cuenta, demostrando la necesidad crítica de guardarraíles.

3.2 Agentes en entornos empresariales

Actualmente los agentes resuelven principalmente tareas operativas y de back-office, no de misión crítica en sentido estricto
Sin embargo, hay riesgo reputacional: se han producido multas millonarias a entidades financieras por respuestas inadecuadas de chatbots/agentes a clientes
Aunque no afectan a procesos críticos de sistemas, sí impactan en la reputación corporativa ⚠️ EXAMEN

4. Herramientas y plataformas mencionadas

JADE: Plataforma de desarrollo de agentes en Java (usada en la actividad práctica)
LangFlow: Framework visual para crear agentes con LLMs
N8N: Plataforma de automatización con capacidad de crear agentes (lenguaje natural o visual)
Make: Plataforma similar a N8N con soporte de lenguaje natural
ChromaDB: Base de datos vectorial para inyectar conocimiento a agentes (RAG)
Google Mariner: Proyecto experimental de Google para agentes que interactúan con el navegador
Protocolo A2A: Protocolo de comunicación agente-a-agente

Preguntas de Autoevaluación

¿Cuáles son las cuatro clasificaciones principales de agentes según su comportamiento? ¿En qué se diferencia un agente reactivo de uno proactivo?
Enumera y describe los tres componentes principales del modelo de gestión de agentes FIPA (AMS, DF, MTS). ¿Cuál es obligatorio y cuál es opcional?
¿Qué es el AID y cómo se relaciona con el ciclo de vida de un agente en una plataforma FIPA? Describe el proceso desde el registro hasta la anulación.
¿Cuál es el único parámetro obligatorio en un mensaje FIPA ACL? ¿Cuáles son las tres codificaciones posibles para estos mensajes?
Describe el mecanismo de contratación (Contract Net Protocol) para la asignación de subproblemas entre agentes. ¿Cuáles son sus cuatro fases?
¿Qué son los "guardarraíles" en el contexto de sistemas agénticos y por qué son importantes? Menciona las dos amenazas principales de seguridad discutidas en clase.
¿Qué papel juega el Facilitador de Directorio (DF) en una plataforma FIPA? ¿Por qué se compara con un servicio de "páginas amarillas"?
¿Cuál fue el objetivo de crear la Arquitectura Abstracta FIPA entre 2000 y 2002? ¿Cuáles son sus cuatro elementos fundamentales?
Explica qué es una arquitectura event-driven y cómo se relaciona con las arquitecturas reactivas de agentes.
¿Por qué los agentes utilizados en atención al cliente de entidades financieras pueden considerarse un riesgo, aunque no sean de "misión crítica" en sentido estricto?

Guía generada automáticamente a partir de transcripción con faster-whisper + Claude Sonnet.