AI | PartITech

Inteligencia Artificial

LoRA o ajuste fino completo: ¿qué estrategia elegir para tus modelos de IA?

LoRA o Fine-Tuning Completo: ¿Qué Estrategia de Fine-Tuning Elegir para Sus Modelos de IA? En un mundo cada vez más dominado por la inteligencia artificial (IA), la adaptación de los modelos de lenguaje a necesidades empresariales específicas se ha convertido en un desafío estratégico para muchas empresas. Los modelos tipo Transformador, como LLaMA, Mistral, Phi, Qwen o GPT, son herramientas poderosas capaces de comprender y generar texto, pero a menudo requieren una personalización para sati...

Inteligencia Artificial

Sistema RAG con txtai — parte 3: caso práctico

En esta última parte de Sistema RAG y TxtAi, abordamos cómo crear un sistema completo con casos prácticos, usando un modelo enriquecido con nuestros propios datos. Cubrimos desde la indexación de contenidos hasta la respuesta a preguntas concreta.

Inteligencia Artificial

Sistema RAG con txtai — parte 2: base de datos e indexación vectorial

En este artículo, exploramos el uso de bases de datos para almacenamiento de conocimientos con TxtAi y discutimos las tecnologías de índice vectorial como Elasticsearch, Faiss, Milvus, Pinecone, Weaviate, Annoy, HNSW y Postgresql con pgvector.

Inteligencia Artificial

Sistema RAG con txtai — parte 1: generación aumentada por búsqueda

Descubre el mundo de la "Generación Mejorada por Recuperación" (Retrieval-Augmented Generation - RAG) - una fusión innovadora de recuperación de información y generación de lenguaje en el procesamiento de lenguaje natural. Explora los componentes clave, desafíos y oportunidades de esta tecnología, y sigue una guía práctica para implementar un sistema RAG utilizando TxtAi y Llama.cpp.

Inteligencia Artificial

llama.cpp : ejecutar un LLM localmente

Llama CPP es una nueva herramienta diseñada para ejecutar modelos de lenguaje, directamente en C/C++. Esta herramienta está especialmente optimizada para los procesadores Apple Silicon gracias al uso de la tecnología ARM NEON y del framework Accelerate. También ofrece compatibilidad AVX2 para sistemas basados en arquitecturas x86. Funcionando principalmente en la CPU, Llama CPP también integra la capacidad de cuantificación de 4 bits, aumentando así su eficiencia.