Caché de respuestas de IA

Caché de respuestas de IA

Respuestas repetidas en menos tiempo

La caché opcional de AI-FW puede reutilizar respuestas para solicitudes idénticas o similares sin otra llamada al proveedor. El aislamiento impide que las respuestas crucen modelos, endpoints o tenants.

Aspectos destacados

  • Caché exacta para solicitudes repetidas
  • Caché semántica para solicitudes similares
  • Ámbitos configurables por agente, grupo o modelo
  • El contenido marcado y los flujos transmitidos no se almacenan en caché

Descubra Caché de respuestas de IA

El gateway AI-FW se despliega en su propio entorno. Solicite una demostración guiada o consulte la documentación.