Parliamo del progetto

Blog PartITech

Blog tecnologico

Analisi tecniche, guide pratiche ed esperienza sul campo per progettare, modernizzare e mantenere applicazioni sostenibili.

232 articoli Pagina 8

LoRA o fine-tuning completo: quale strategia scegliere per i vostri modelli IA?

LoRA o Full Fine-Tuning: Quale Strategia di Fine-Tuning Scegliere per i Tuoi Modelli IA? In un mondo sempre più dominato dall'intelligenza artificiale (IA), l'adattamento dei modelli linguistici a esigenze aziendali specifiche è diventato un obiettivo strategico per molte imprese. I modelli di tipo Transformer, come LLaMA, Mistral, Phi, Qwen o GPT, sono strumenti potenti in grado di comprendere e generare testo, ma spesso necessitano di personalizzazione per soddisfare requisiti particolari. ...

Sonata Extra Bundle: firewall applicativo

Il SonataExtraBundle fornisce un insieme di funzionalità migliorate per la gestione delle regole del firewall nell'ambiente Sonata Admin. Questo bundle permette agli amministratori di creare e gestire regole per filtrare le richieste in base a diversi criteri come parole vietate, indirizzi IP e agenti utente.

Sistema RAG con txtai — parte 1: generazione aumentata dalla ricerca

Scopri il mondo della "Generazione Migliorata dal Recupero" (RAG) - un'innovativa fusione tra recupero di informazioni e generazione del linguaggio nell'elaborazione del linguaggio naturale. Esplora i componenti chiave, le sfide e le opportunità di questa tecnologia e segui una guida pratica per implementare un sistema RAG utilizzando TxtAi e Llama.cpp.

llama.cpp : eseguire un LLM localmente

Llama CPP è un nuovo strumento progettato per eseguire modelli di linguaggio direttamente in C/C++. Questo strumento è particolarmente ottimizzato per i processori Apple Silicon grazie all'utilizzo della tecnologia ARM NEON e del framework Accelerate. Offre inoltre compatibilità AVX2 per i sistemi basati su architetture x86. Operando principalmente sulla CPU, Llama CPP include anche la capacità di quantizzazione a 4 bit, aumentando così la sua efficienza.