Argomento
Un RAG di produzione non si giudica da alcune risposte convincenti. Deve conoscere le sue fonti, rispettare i diritti, misurare i suoi errori e rifiutare correttamente quando mancano le prove.
Lasciare che un agente riformuli, cerchi, verifichi e ricominci può migliorare le domande complesse. Ciò aumenta anche la variabilità, il costo e la superficie di sicurezza.
La maggior parte delle difficoltà di un progetto IA appare prima del modello: fonti non reperibili, documenti scaduti, diritti impliciti e assenza di responsabile.
Il RAG fornisce conoscenze al momento della risposta. Il fine-tuning modifica soprattutto il comportamento appreso. Il prompt inquadra un compito. Confonderli porta a progetti costosi e difficili da valutare.
