Intelligenza Artificiale

LoRA o fine-tuning completo: quale strategia scegliere per i vostri modelli IA?

LoRA o Full Fine-Tuning: Quale Strategia di Fine-Tuning Scegliere per i Tuoi Modelli IA? In un mondo sempre più dominato dall'intelligenza artificiale (IA), l'adattamento dei modelli linguistici a esigenze aziendali specifiche è diventato un obiettivo strategico per molte imprese. I modelli di tipo Transformer, come LLaMA, Mistral, Phi, Qwen o GPT, sono strumenti potenti in grado di comprendere e generare testo, ma spesso necessitano di personalizzazione per soddisfare requisiti particolari. ...

Intelligenza Artificiale

Sistema RAG con txtai — parte 3: caso pratico

Attraverso un caso pratico, vedremo come creare un completo sistema RAG e inizializzare un dialogo, arricchendo il nostro modello con dati personali. Dettagliamo la creazione di indici e la gestione del contenuto attraverso esempi pratici.

Intelligenza Artificiale

Sistema RAG con txtai — parte 2: database e indicizzazione vettoriale

In questo articolo, esploriamo l'uso di basi di dati per lo stoccaggio di conoscenze con TxtAi e discutiamo delle tecnologie di indice vettoriale come Elasticsearch, Faiss, Milvus, Pinecone, Weaviate, Annoy, HNSW e Postgresql con pgvector.

Intelligenza Artificiale

Sistema RAG con txtai — parte 1: generazione aumentata dalla ricerca

Scopri il mondo della "Generazione Migliorata dal Recupero" (RAG) - un'innovativa fusione tra recupero di informazioni e generazione del linguaggio nell'elaborazione del linguaggio naturale. Esplora i componenti chiave, le sfide e le opportunità di questa tecnologia e segui una guida pratica per implementare un sistema RAG utilizzando TxtAi e Llama.cpp.

Intelligenza Artificiale

llama.cpp : eseguire un LLM localmente

Llama CPP è un nuovo strumento progettato per eseguire modelli di linguaggio direttamente in C/C++. Questo strumento è particolarmente ottimizzato per i processori Apple Silicon grazie all'utilizzo della tecnologia ARM NEON e del framework Accelerate. Offre inoltre compatibilità AVX2 per i sistemi basati su architetture x86. Operando principalmente sulla CPU, Llama CPP include anche la capacità di quantizzazione a 4 bit, aumentando così la sua efficienza.