Proyectos de IA: LLMs y Modelos

Herramientas, rankings y recursos para trabajar con modelos de lenguaje e inteligencia artificial

OpenRouter Rankings

Dashboard de analíticas en tiempo real sobre el uso de modelos de IA. Muestra rankings por uso semanal, cuota de mercado, casos de uso, soporte de idiomas, lenguajes de programación y más, basado en datos reales de millones de usuarios.

• LLMs
• Rankings
• Free
• Cloud

LLM Engineer Toolkit

Guía curada con más de 120 librerías para desarrollo con LLMs, organizadas por categoría: entrenamiento, fine-tuning, RAG, agentes, inferencia, evaluación, seguridad y más. Referencia esencial para ingenieros de IA y ML.

• LLMs
• Referencia
• Open Source
• Desarrollo

Memvid

Capa de memoria de archivo único para agentes de IA con recuperación instantánea. Empaqueta datos, embeddings y búsqueda en un solo fichero portable sin servidor ni base de datos vectorial, con soporte multimodal, búsqueda BM25/HNSW y latencia de 0.025ms.

• LLMs
• Memoria
• Open Source
• Local

llama.cpp

Motor de inferencia LLM en C/C++ puro sin dependencias externas. Cuantización de 1.5 a 8 bits, aceleración GPU (CUDA, Metal, Vulkan), inferencia híbrida CPU+GPU y soporte para más de 100 arquitecturas de modelos. Ejecuta LLMs en hardware de consumo.

• LLMs
• Inferencia
• Open Source
• Local

llmfit

Herramienta CLI en Rust que analiza tu hardware (RAM, GPU, CPU) y puntúa cientos de modelos de IA en calidad, velocidad, ajuste de memoria y contexto. Selección dinámica de cuantización, soporte multi-GPU (NVIDIA, AMD, Apple Silicon), e integración directa con Ollama, llama.cpp y MLX para descargar e instalar modelos.

• LLMs
• CLI
• Open Source
• Local

ART (Agent Reinforcement Trainer)

Framework open source de OpenPipe para entrenar agentes LLM con aprendizaje por refuerzo (GRPO) en tareas multi-paso. Arquitectura cliente-servidor compatible con OpenAI, fine-tuning LoRA con vLLM, entrenamiento serverless vía W&B (40% menos coste), integración con LangGraph y servidores MCP, y generación automática de recompensas con RULER. Soporta Qwen, Llama y más. Licencia Apache 2.0.

• LLMs
• Reinforcement Learning
• Open Source
• Fine-tuning
• Agentes

BitNet

Framework oficial de inferencia de Microsoft para modelos de lenguaje de 1 bit (BitNet b1.58). Kernels optimizados para CPU y GPU con speedups de 1.37x-6.17x y reducción de consumo energético del 55-82%. Permite ejecutar modelos de 100B parámetros en una sola CPU de consumo sin pérdida de calidad. Escrito en C++ y Python. Licencia MIT.

• LLMs
• Inferencia
• Open Source
• Microsoft
• 1-bit

Krasis

Runtime híbrido de LLM diseñado para ejecutar modelos MoE de 200B+ parámetros en hardware de consumo con VRAM limitada. Separa la inferencia en prefill (GPU) y decode (CPU), alcanzando 3.324 tokens/s de prefill en una sola GPU de 16 GB (RTX 5080). Soporta Qwen3-Coder-Next 80B, Qwen3-235B y DeepSeek V2-Lite. API compatible con OpenAI, TUI interactiva y suite de benchmarks. Rust + Python. Licencia SSPL-1.0.

• LLMs
• Inferencia
• Open Source
• Hardware Consumo
• MoE

nnsight

Librería Python para interpretar y manipular los internos de modelos de deep learning con una interfaz Pythonic limpia. Permite acceder y modificar activaciones en cualquier capa, computar gradientes respecto a valores intermedios, batch de intervenciones, ejecución local (PyTorch) o remota vía NDIF, generación multi-token con intervenciones por paso y edición de modelos. Desarrollada por el equipo NDIF de Northeastern University.

• LLMs
• Interpretabilidad
• Open Source
• Deep Learning
• Python

Yuan3.0 Ultra

Modelo fundacional multimodal de 1.01T parámetros (68.8B activados) con arquitectura MoE de 103 capas Transformer. Incluye algoritmo LAEP que reduce parámetros un 33% mejorando la eficiencia de entrenamiento un 49%, atención LFA, RAG multimodal (67.4% en Docmatix, supera a GPT-4o), RAG textual (68.2% en ChatRAG), Text-to-SQL (83.9% en Spider 1.0) y mecanismo RIRM de reinforcement learning (+16.3% precisión, -14.4% tokens). Orientado a escenarios enterprise.

• LLMs
• Multimodal
• Open Source
• MoE
• Enterprise

SSD (Speculative Speculative Decoding)

Motor de inferencia ligero que implementa un algoritmo novedoso de decodificación especulativa asíncrona para LLMs. Un modelo draft pequeño anticipa los resultados de verificación y especula para todos simultáneamente, eliminando la sobrecarga de drafting cuando las predicciones son correctas. Soporta Qwen3 y Llama3, paralelismo tensorial, PagedAttention, CUDA graphs y caché de prefijos. Aceptado en ICLR 2026. Licencia MIT.

• LLMs
• Inferencia
• Open Source
• ICLR 2026
• CUDA

CL4R1T4S

Repositorio con más de 13k stars que recopila system prompts extraídos de los principales sistemas de IA: OpenAI, Google, Anthropic, xAI, Perplexity, Cursor, Windsurf, Devin y 20+ más. Promueve la transparencia sobre cómo se instruye a los modelos de IA. Organizado por proveedor con 27 directorios catalogados, contribuciones de la comunidad y notas contextuales. Licencia AGPL-3.0.

• LLMs
• Transparencia
• Open Source
• System Prompts
• Investigación

nanochat

El harness experimental más simple para entrenar LLMs de Andrej Karpathy. Pipeline completo en una sola GPU: tokenización, preentrenamiento, fine-tuning, evaluación, inferencia y chat UI tipo ChatGPT. Entrena un modelo con capacidad GPT-2 por ~48-100$ (vs ~43.000$ en 2019). Configuración de un solo dial (--depth) que calcula hiperparámetros óptimos automáticamente. Incluye leaderboard Time-to-GPT-2, soporte CPU/MPS/GPU y métricas DCLM CORE. Python + PyTorch. Licencia MIT.

• LLMs
• Entrenamiento
• Open Source
• Local
• PyTorch

Outlines

Librería Python con 13.5k+ stars que garantiza salidas estructuradas de LLMs durante la generación. Soporta múltiples proveedores (OpenAI, Ollama, vLLM, Transformers) con una API simple: model(prompt, output_type). Genera JSON válido, enums, modelos Pydantic, tipos Union y estructuras anidadas complejas sin fallos de parsing. Procesamiento por lotes y agnóstico de proveedor. Usado por NVIDIA, Cohere, HuggingFace y vLLM.

• LLMs
• Structured Output
• Open Source
• Python
• Multi-Proveedor