IA agéntica

Inteligencia artificial > IA agéntica

Cómo buscar una interacción eficiente con los sistemas LLM

• Aunque pueda parecer que estos agentes de IA sustituirán a las personas, la realidad es que siempre se necesitará supervisión humana para guiar y validar sus acciones
• Este principio se conoce como human in the loop (humano en el circuito)
  • las personas participan activamente en las fases críticas del proceso para garantizar precisión,
    ética y control
• En un flujo de trabajo típico, el agente observa su entorno, recopila datos y propone
  acciones o recomendaciones
• Antes de ejecutarlas, un humano revisa, aprueba o ajusta esas acciones, aportando
  juicio y contexto
• El agente aprende de esta retroalimentación, mejorando su desempeño futuro
• Este ciclo colaborativo combina:
  • la capacidad de aprendizaje y escalabilidad de la IA
    • con la supervisión, criterio y experiencia humana
      • fomentando un proceso de mejora continua y confianza

Las perspectivas de uso de los LLM son ahora mismo una burbuja que apunta hacia la solución de problemas abstractos o, en general, de todos los problemas (Inteligencia
Artificial General-AGI)

• Los modelos solo aportan normalmente soluciones aprendidas
• Las alucinaciones son un problema grave que se está reduciendo
• El entrenamiento se realiza con textos generales de internet, no con documentos de cada
  ámbito profesional (sin fine tuning)
• En el entorno empresarial no se necesitan modelos que se sepan desenvolver
  conversacionalmente en cualquier ámbito (ej: reservar una mesa en un restaurante)
• El entrenamiento de LLMs con documentos de alta calidad y pre-seleccionados
• Para ofrecer asistencia de alta calidad en el trabajo diario (administrativo, laboral, jurídico…)
• Cómo buscar una interacción eficiente con los sistemas LLM
• Está claro que la combinación humano-IA será mejor que cada parte por separado
• Importante
• Diseñar una interacción eficiente
• Las IAs tienen que tener capacidad de explicación que las haga confiables