Tema

I concettiottimizzazioneNel grafoNell'analisi

Riuso del contesto

Il pagamento a tariffa ridotta della parte di contesto identica alla chiamata precedente

Articoli che parlano di Riuso del contesto

Dal grafo hai scelto un concetto. Qui scegli il testo in cui leggerlo nel suo contesto.

  1. Quanto costa far girare un agente, e perché il conto sorprende

Si lega a

dipende dai tre prezzi del token; si ottiene tenendo la parte stabile all'inizio e immutata, la variabile in fondo

Da qui ci si arriva

  1. Crescita del contesto

    A ogni iterazione l'harness rispedisce l'intera conversazione, quindi ogni passaggio costa più del precedente

  2. Tre prezzi del token

    Ingresso, ingresso già elaborato e uscita hanno tariffe diverse: la seconda è di molto la più bassa, la terza la più alta