Montar un servidor de IA propio o contratarlo gestionado
- Actualizado
- Por
- Equipo de MagnolIA
- En esta página
- 12 min de lectura
Respuesta corta
Montar un servidor de IA propio es viable para una empresa con equipo técnico: hay herramientas abiertas y modelos de pesos abiertos. Lo difícil viene después de arrancarlo: usuarios, permisos, concurrencia, auditoría y actualizaciones. Contratarlo gestionado deja el dato igual de dentro y traslada esa operación al proveedor. MagnolIA lo entrega así, por una cuota fija.
¿Qué hay que resolver al montar un servidor de IA propio?
Un servidor de IA propio es una forma de IA on-premise: el modelo se ejecuta en un equipo de la empresa. Poner un modelo a responder en una máquina se hace en una tarde. Convertirlo en un servicio que use toda la empresa es otro trabajo, con seis frentes.
El equipo
Elegir GPU, memoria y almacenamiento para los modelos que se quieren usar y para el número de personas. Si te quedas corto, va lento; si te pasas, pagas capacidad parada.
El modelo
Escoger entre los modelos de pesos abiertos, probarlos con tu trabajo real y decidir cuál sirve para cada tarea: respuesta rápida, código, redacción o análisis.
La concurrencia
Un modelo que responde bien a una persona puede atascarse con veinte a la vez. Hay que repartir las peticiones entre máquinas y gestionar las colas.
Usuarios y permisos
Cada persona con su identidad, sus permisos y su cuota, y la garantía de que nadie ve las conversaciones de otro. Las herramientas pensadas para un solo usuario no lo traen.
Auditoría y seguridad
Registro de quién usó qué, acceso cifrado, claves que se puedan revocar y copias de seguridad. Un servidor de modelos expuesto a internet sin protección es un riesgo.
Actualizaciones
Aparecen modelos mejores con frecuencia. Alguien tiene que evaluarlos, sustituir el anterior y mantener al día el software que los sirve.
¿Con qué programas se monta un servidor de IA propio?
Con software que se descarga y se aloja en el propio equipo, casi todo de código abierto. Ninguna pieza lo hace todo: lo habitual es combinar un motor que ejecuta el modelo, una interfaz para las personas y, delante, la identidad y el cifrado de la empresa. Estas son cuatro herramientas de uso general, descritas con lo que dice su propia documentación. Ollama y llama.cpp se publican con licencia MIT y vLLM con licencia Apache 2.0. Lo que hay que añadir para que una de ellas atienda a varias personas está en Ollama en producción: lo que falta.
| Herramienta | Qué es | Lo que conviene saber |
|---|---|---|
| Ollama | Un programa para descargar y ejecutar modelos abiertos en un equipo con muy poca configuración. | Por defecto solo escucha en el propio equipo (la dirección local, puerto 11434) y cada modelo atiende una petición a la vez, aunque se puede configurar. Su API local no pide autenticación: si lo abres a la red, la identidad hay que ponerla delante. Ofrece también modelos en su nube, que son opcionales y se pueden desactivar. |
| llama.cpp | Un motor de inferencia escrito en C/C++, pensado para funcionar con poca instalación en hardware muy variado. | Admite modelos cuantizados de 1,5 a 8 bits y reparte el cálculo entre CPU y GPU cuando el modelo no cabe en la memoria de la tarjeta. |
| vLLM | Una biblioteca de inferencia y servicio de modelos, nacida en el Sky Computing Lab de la Universidad de California en Berkeley. | Agrupa las peticiones que llegan a la vez (batching continuo) y trae un servidor con API compatible con la de OpenAI. Su documentación avisa de que la clave de API no basta para protegerlo en producción y recomienda ponerlo detrás de un proxy inverso. |
| Open WebUI | Una plataforma autoalojada con interfaz de chat, que se conecta a Ollama y a cualquier API compatible con la de OpenAI. | Trae roles, grupos y permisos por recurso, e inicio de sesión federado (SSO, OIDC, LDAP). Su código es público, pero con una licencia propia que, según su documentación, no es una licencia de código abierto aprobada por la OSI y limita retirar la marca: conviene leerla antes de un uso comercial. |
Lo que ninguna trae resuelto por sí sola es el conjunto: quién da de alta a la gente, qué modelo usa cada tarea, qué queda registrado y quién responde cuando falla. Eso es integración y operación, y es donde se va el tiempo.
¿Qué equipo hace falta para ejecutar un modelo en local?
La pieza que manda es la memoria de la tarjeta gráfica (GPU). Para responder con fluidez, el modelo entero tiene que caber en ella, y a eso se suma la memoria que consume cada conversación abierta.
16 GB
ocupan, aproximadamente, los pesos de un modelo de 8.000 millones de parámetros a 16 bits, el formato en que suelen cargarse. Cuantizados a 8 bits son unos 8 GB, y a 4 bits, entre 4 y 5 GB. Menos bits ahorran memoria a cambio de algo de precisión. Son solo los pesos: a eso se suma la memoria de cada conversación.
- El tamaño del modelo
- Más parámetros suelen dar mejores respuestas y piden más memoria: unos 2 bytes por parámetro a 16 bits, según la misma documentación.
- La cuantización
- Es guardar los pesos con menos bits. Permite que un modelo grande quepa en un equipo más modesto, con una pérdida de precisión que hay que medir con tus propias tareas.
- Las personas a la vez
- Cada petición simultánea ocupa memoria y tiempo de cálculo. Un equipo que va sobrado con una persona puede hacer cola con veinte.
- El largo de los documentos
- Cuanto más texto cabe en una pregunta (la ventana de contexto), más memoria se reserva para cada conversación.
- Lo demás
- Almacenamiento para tener varios modelos descargados, corriente, ventilación y conexión por cable a la red de la oficina.
Esta guía no da un precio ni un modelo de tarjeta porque dependen del modelo elegido, del número de personas y del mes en que se compre. La forma fiable de dimensionar es probar con vuestro uso real antes de comprar.
¿Cuánto cuesta montarlo y cuándo se amortiza?
La compra del equipo es la parte visible. El coste total tiene más partidas, y las que no llevan factura son las que suelen olvidarse.
- El equipo: GPU, servidor, almacenamiento y red. Se paga al principio y envejece.
- La electricidad y el sitio: el consumo del equipo, su ventilación o refrigeración y un lugar con acceso controlado.
- Las horas de quien lo opera: instalar, vigilar, actualizar, dar de alta usuarios y resolver incidencias. Es un coste aunque esa persona ya esté en plantilla.
- El software de alrededor: identidad, copias de seguridad, monitorización y, según la herramienta, licencias.
- La renovación: los modelos más capaces suelen pedir más memoria, y el equipo que hoy va bien puede quedarse corto antes de estar amortizado.
La otra forma de pagarlo es una cuota que ya incluye el equipo y su operación. Qué entra en la de MagnolIA y cuándo no compensa está en la calculadora de coste de la IA on-premise.
¿Qué errores conviene evitar al montarlo?
- Dimensionar para la demo. Se prueba con una persona y se compra para una persona; con la oficina entera, hace cola.
- Abrir el puerto a internet. Un servidor de modelos sin identidad delante responde a quien lo encuentre.
- No tener dueño. Lo monta alguien con entusiasmo y, cuando cambia de proyecto, nadie lo actualiza.
- Elegir el modelo por la clasificación del mes. Lo que importa es cómo responde con vuestros documentos, no su puesto en una tabla.
Hacerlo tú o contratarlo gestionado, punto por punto
| Criterio | Lo montas tú | Gestionado (MagnolIA) |
|---|---|---|
| Dónde está el dato | En tu red. | En tu red. MagnolIA solo ve la monitorización del equipo. |
| Quién elige y compra el equipo | Tú. Es una inversión inicial. | MagnolIA lo elige según tu uso y lo incluye en la cuota: hardware como servicio. |
| Quién selecciona y actualiza los modelos | Tu equipo técnico. | MagnolIA los selecciona, los prueba y los actualiza. |
| Identidad, permisos y cuotas | Hay que construirlo o integrarlo. | Incluido en MagnolIA Server: usuarios, roles, cuotas y claves de API con ámbito limitado. |
| Auditoría y copias | Hay que diseñarlo. | Auditoría encadenada conservada dos años y copias cifradas con AES-256. |
| Soporte | El de tu propio equipo y el de la comunidad de cada herramienta. | Soporte y monitorización continua. |
| Coste | Compra del equipo más las horas de quien lo mantiene. | Cuota mensual fija por nivel de capacidad. |
| Control técnico | Total: eliges cada pieza y puedes cambiarla. | Menor: el usuario no tiene acceso técnico al sistema. La operación es de MagnolIA. |
¿Cuándo tiene sentido montarlo uno mismo?
Hay casos en los que es la mejor opción.
- Tienes un equipo técnico con tiempo y con ganas de mantener la plataforma, no solo de montarla.
- Quieres control total sobre cada pieza: el modelo exacto, su configuración, cómo se despliega.
- Es para pocas personas técnicas, que toleran que algo falle y saben arreglarlo.
- Estás explorando. Para aprender qué puede hacer un modelo local, montarlo es la mejor escuela.
- La IA es parte de tu producto y necesitas integrarla a un nivel que un servicio cerrado no permite.
¿Cuándo conviene contratarlo gestionado?
- No hay equipo técnico, o lo hay y tiene otro trabajo.
- Lo va a usar gente no técnica: administración, abogados, personal clínico. Necesitan que funcione siempre y que alguien responda si no.
- Hay que poder demostrar quién accede a qué, con registro y auditoría desde el primer día.
- No quieres comprar hardware que dentro de unos años habrá que renovar.
- Los datos son sensibles y un error de configuración sale caro.
En MagnolIA, además del servidor, el servicio trae las aplicaciones con las que trabaja la gente: MagnolIA Nexus y la extensión de VS Code. Cómo está construido se explica en el servidor de IA de MagnolIA y qué incluye la cuota, en cuánto cuesta la IA on-premise.
¿Estás en condiciones de montarlo tú? Lista de comprobación
Siete preguntas. Si la respuesta es sí a todas, montarlo vosotros es razonable. Si fallan dos o más, mira antes la opción gestionada.
¿Hay responsable?
Una persona con nombre y horas asignadas para operarlo, y otra que pueda sustituirla.
¿Está probado con uso real?
Al menos dos modelos, con documentos vuestros y con varias personas a la vez.
¿Cada usuario tiene su identidad?
Y hay forma de retirar un acceso el mismo día en que alguien se va.
¿Está cerrado al exterior?
El servidor solo es accesible desde la red interna o por un acceso cifrado y autenticado.
¿Hay registro y copias?
Queda registro de uso y las copias de seguridad se han probado a restaurar.
¿Quién cambia el modelo?
Está decidido quién evalúa los modelos nuevos y con qué pruebas.
¿Está hecha la cuenta entera?
Con las horas de personal y la renovación del equipo, no solo con la compra.
Si el motivo de fondo es que la información no llegue a terceros, las vías posibles se comparan en IA privada para empresas. Y si los documentos llevan datos personales, cualquiera de las dos opciones mejora con un paso previo: anonimizar los documentos antes de dárselos a la IA.
¿Se pueden combinar las dos cosas?
Sí, en lo que importa a un equipo técnico. MagnolIA Server expone una API compatible con las de OpenAI y Anthropic, así que tus desarrolladores conectan sus propias herramientas e integraciones cambiando la dirección del servidor y la clave. Tienen el servicio mantenido y siguen construyendo encima.
Si la duda de fondo es otra, si tener la IA dentro o usar un servicio en la nube, la comparación está en IA on-premise frente a IA en la nube. Y si no puede depender de la conexión, en IA sin conexión a internet.
Preguntas frecuentes sobre el servidor de IA
¿Con qué programas se monta un servidor de IA propio?
Un servidor de IA propio se monta con herramientas de uso general, casi todas de código abierto: un motor que ejecuta el modelo, como Ollama, llama.cpp o vLLM, y una interfaz, como Open WebUI. Unirlas a la identidad de la empresa, dimensionarlas y mantenerlas al día es trabajo de integración y operación: el que asume un servicio gestionado como MagnolIA.
¿Qué equipo hace falta para ejecutar un modelo de IA en local?
Para ejecutar un modelo de IA en local con fluidez hace falta una tarjeta gráfica (GPU) con memoria para que quepa el modelo. Según la documentación de Hugging Face, los pesos de un modelo de 8.000 millones de parámetros ocupan unos 16 GB a 16 bits y 4 o 5 GB cuantizados a 4 bits. Cada petición simultánea añade memoria.
¿Cuántos usuarios soporta un equipo MagnolIA?
El número de usuarios depende de la gama. El equipo de MagnolIA se llama Núcleo y tiene cuatro niveles orientativos: Núcleo S, unos 18 usuarios; Núcleo M, unos 40; Núcleo L, unos 100; y Núcleo XL, unos 250. MagnolIA elige la capacidad según cuántas personas van a usar la IA y para qué.
¿Qué pasa si mi equipo crece?
Si tu equipo crece, se añade capacidad en caliente: MagnolIA incorpora hardware al Núcleo sin cortar el servicio y sin que cambie nada para los usuarios. El servidor reparte las peticiones entre las máquinas disponibles y mantiene cada conversación en la misma para aprovechar su caché.
¿Quién administra el sistema?
El sistema lo administra MagnolIA. El usuario solo interactúa con el chat, la aplicación o el endpoint; no tiene acceso técnico al sistema, a los modelos ni a la infraestructura. La operación, el mantenimiento del hardware y la actualización de los modelos corren por nuestra cuenta, y la administración exige doble factor.
¿Es compatible con las herramientas que ya usa mi equipo?
Sí. MagnolIA Server expone endpoints compatibles con la API de OpenAI y con la de Anthropic. Las herramientas que ya usa tu equipo, como Claude Code, Cursor, Cline o tus propias integraciones, funcionan cambiando solo la dirección del servidor y la clave.
Fuentes
Los datos externos de esta página enlazan a su fuente original.
Hugging Face. Documentación de Transformers: Quantization, overview (en inglés). Consultado en noviembre de 2026. huggingface.co/docs/transformers/main/en/quantization/overview
arXiv (Pan, Chodnekar, Roy y Wang). A Cost-Benefit Analysis of On-Premise Large Language Model Deployment: Breaking Even with Commercial LLM Services (arXiv:2509.18101, versión 3; prepublicación, en inglés). 11 de noviembre de 2025. arxiv.org/abs/2509.18101
Ollama. Documentación oficial: preguntas frecuentes (en inglés). Consultado en noviembre de 2026. docs.ollama.com/faq
Ollama. Documentación oficial de la API: Authentication (en inglés). Consultado en noviembre de 2026. docs.ollama.com/api/authentication
llama.cpp. Repositorio oficial del proyecto: descripción y características (en inglés). Consultado en noviembre de 2026. github.com/ggml-org/llama.cpp
vLLM. Documentación oficial (en inglés). Consultado en noviembre de 2026. docs.vllm.ai/en/latest/
vLLM. Documentación oficial: Security (en inglés). Consultado en noviembre de 2026. docs.vllm.ai/en/latest/usage/security/
Open WebUI. Documentación oficial: funciones (en inglés). Consultado en noviembre de 2026. docs.openwebui.com/features/
Open WebUI. Documentación oficial: Open WebUI License (en inglés). Consultado en noviembre de 2026. docs.openwebui.com/license/
¿Lo montas o lo contratas? Lo vemos juntos
Cuéntanos qué equipo técnico tenéis, cuántas personas usarían la IA y con qué datos. Si os compensa montarlo vosotros, también os lo diremos.
Solicitar piloto


