# Aceleradores de IA: comparativa de GPU, TPU, NPU y LPU Un acelerador de IA es un hardware especializado que ejecuta redes neuronales de forma más rápida y eficiente desde el punto de vista energético que las CPU convencionales. Mientras que las CPU están diseñadas para ejecutar de forma flexible una gran variedad de programas, las GPU, TPU, NPU y LPU están optimizadas principalmente para operaciones con matrices y tensores, así como para operaciones de multiplicación y acumulación, fundamentales en el aprendizaje profundo. ### Resumen Lo esencial sobre los aceleradores de IA de un vistazo: - Los aceleradores de IA son chips especializados en las operaciones con matrices y tensores, así como en las operaciones de multiplicación y acumulación, que las CPU convencionales ejecutan con poca eficiencia. - La GPU es la clase más flexible: masivamente paralela, con Tensor Cores, un gran ancho de banda de memoria y un ecosistema de software maduro en torno a CUDA. - La TPU es un ASIC de Google cuyos arrays sistólicos reducen el movimiento de datos y que se utiliza sobre todo a través de Google Cloud. - La NPU se integra en el System-on-Chip de smartphones y portátiles y está diseñada para la inferencia local con un consumo energético muy bajo. - La LPU de Groq emplea una gran memoria SRAM integrada en el chip y una ejecución controlada por el compilador para lograr una latencia muy baja en la generación token a token. - Lo decisivo no es el rendimiento máximo, sino qué fase del ciclo de vida de la IA cubre cada arquitectura: entrenamiento, inferencia en la nube, IA local o modelos de lenguaje sensibles a la latencia. ## Por qué las operaciones con matrices necesitan chips especializados Las [redes neuronales](https://www.ionos.es/digitalguide/online-marketing/marketing-para-motores-de-busqueda/que-es-una-neural-network/) modernas generan gran parte de su carga de cálculo mediante álgebra lineal, sobre todo a través de **multiplicaciones de matrices** y las llamadas **operaciones de multiplicación y acumulación**, en las que los valores se multiplican y los resultados se suman. Especialmente en los modelos Transformer, pero también en muchas [redes convolucionales](https://www.ionos.es/digitalguide/paginas-web/desarrollo-web/convolutional-neural-network/), se generan así grandes cantidades de operaciones similares que pueden ejecutarse de forma muy eficiente mediante procesamiento en paralelo. Las [CPU convencionales](https://www.ionos.es/digitalguide/servidores/know-how/cpu/) solo están parcialmente optimizadas para este tipo de procesamiento. Son muy flexibles, pueden ejecutar programas complejos y responden con rapidez a tareas individuales. En los [modelos de IA](https://www.ionos.es/digitalguide/hub/inteligencia-artificial/), sin embargo, suele ser más importante **ejecutar simultáneamente el mayor número posible de operaciones sencillas** y transferir los datos con suficiente rapidez a las unidades de cálculo. Aquí es donde entran en juego los aceleradores de IA. Su hardware está menos orientado a la ejecución de programas de propósito general y más al procesamiento de alto rendimiento de operaciones con tensores y matrices. En este contexto han surgido diferentes tipos de aceleradores: - **GPU**: son especialmente potentes en cálculos masivamente paralelos y se utilizan tanto para el entrenamiento como para la inferencia. - **TPU**: se han desarrollado específicamente para acelerar operaciones con tensores, muy frecuentes en los modelos de IA modernos. - **NPU**: se encuentran cada vez más en smartphones, portátiles y otros dispositivos diseñados para ejecutar modelos de IA de forma local. - **LPU**: están diseñadas para ofrecer una inferencia de LLM especialmente rápida y predecible. Las diferencias entre estas arquitecturas no se limitan a la potencia de cálculo, sino que dependen sobre todo de **qué parte del ciclo de vida de la IA pueden abordar con mayor eficiencia**: el entrenamiento intensivo en recursos de cálculo, la ejecución local eficiente o la inferencia de grandes modelos de lenguaje con baja latencia. ## GPU: Graphics Processing Unit La GPU es uno de los pilares de la aceleración de IA moderna. **Originalmente se desarrolló para el procesamiento de gráficos**, que requiere realizar simultáneamente numerosos cálculos sobre píxeles, superficies y shaders. Por eso, las GPU cuentan con muchas unidades de cálculo que trabajan en paralelo siguiendo el modelo SIMT. De este modo, pueden ejecutar numerosos hilos al mismo tiempo aplicando una misma instrucción a diferentes datos. Hasta mediados de la década de 2000, las GPU ya ofrecían una gran potencia de cálculo, pero aprovecharla para tareas de propósito general resultaba complicado. A menudo, los desarrolladores tenían que trasladar los cálculos a conceptos propios del procesamiento gráfico, como shaders, texturas u operaciones con píxeles. Con CUDA, a partir de 2006/2007 NVIDIA empezó a abrir sistemáticamente las GPU **a cálculos de propósito general más allá del procesamiento gráfico**. De este modo, el hardware gráfico se convirtió en una plataforma para el General-Purpose Computing on GPUs (GPGPU). Las GPU se impusieron en el entrenamiento de redes neuronales principalmente por combinar dos ventajas: una capacidad de procesamiento paralelo muy elevada y un ecosistema de software muy maduro, compuesto por CUDA, cuDNN, bibliotecas optimizadas y compatibilidad directa con frameworks como PyTorch o JAX. Las GPU modernas para centros de datos hace tiempo que dejaron de depender únicamente de los núcleos CUDA convencionales. También incorporan Tensor Cores especializados que permiten ejecutar operaciones con matrices de forma especialmente eficiente. Estas unidades pueden trabajar con formatos numéricos de precisión reducida como **FP16, FP8 o FP4**. Estos formatos ofrecen menos precisión que los números de coma flotante de 32 bits, pero permiten alcanzar un rendimiento mucho mayor y mejorar la eficiencia energética. Esto resulta especialmente importante en los grandes modelos de IA. Las características más importantes de las GPU son: - **Arquitectura masivamente paralela** con numerosas unidades de cálculo capaces de realizar operaciones similares sobre grandes volúmenes de datos. - **Gran ancho de banda de memoria**, a menudo gracias al uso de memoria HBM en las GPU para centros de datos. - **Tensor Cores** para ejecutar de forma especialmente eficiente multiplicaciones de matrices con formatos numéricos de precisión reducida. - **Potente ecosistema de software** con CUDA, cuDNN, bibliotecas optimizadas y compatibilidad con distintos frameworks. - **Gran flexibilidad** para el entrenamiento, el fine-tuning, las simulaciones y diferentes cargas de trabajo de inferencia. Por todo ello, la GPU sigue siendo la clase más flexible entre los aceleradores de IA: no solo es adecuada para la inferencia, sino también, y especialmente, para entrenar grandes modelos con una elevada demanda de recursos de cálculo, donde es necesario combinar un alto rendimiento, un gran ancho de banda de memoria y un ecosistema de software sólido. ## TPU: Tensor Processing Unit La [TPU](https://www.ionos.es/digitalguide/servidores/know-how/tensor-processing-unit/) es un **circuito integrado de aplicación específica (ASIC)**, es decir, un chip desarrollado para un uso concreto. Google diseñó las TPU desde el principio para cálculos de IA, en particular para las grandes operaciones con matrices que se realizan durante el entrenamiento y la ejecución de redes neuronales. La principal diferencia con una GPU radica en el grado de especialización. A pesar de su elevado nivel de paralelización, una GPU sigue siendo un procesador relativamente flexible capaz de ejecutar cargas de trabajo muy diversas. Una TPU está **más específicamente optimizada para operaciones con tensores y matrices**. Por ello, es menos versátil, pero puede ejecutar determinados cálculos de IA con una eficiencia especialmente alta, tanto en términos de rendimiento como de consumo energético por operación. El núcleo de la arquitectura de una TPU es la **Matrix Multiply Unit (MXU)**. Está diseñada como un array sistólico, es decir, una malla formada por numerosas unidades de multiplicación y acumulación en la que los datos se transfieren de una celda a otra de forma sincronizada. De este modo, durante las multiplicaciones de matrices se reduce la necesidad de escribir continuamente los resultados intermedios en la memoria y volver a leerlos. Esto disminuye el movimiento de datos, un factor que en los aceleradores de IA puede ser tan importante como la propia capacidad de cálculo. Las TPU están estrechamente vinculadas al ecosistema de Google. Los programas destinados a estos aceleradores se compilan mediante XLA para poder ejecutarse en el hardware. Mientras que las primeras TPU estaban estrechamente vinculadas a TensorFlow, las generaciones actuales se orientan principalmente a JAX y PyTorch. TPU7x (Ironwood), por ejemplo, admite JAX y PyTorch, pero no TensorFlow. Para los clientes externos, las TPU son principalmente **un recurso en la nube disponible a través de Google Cloud**, en lugar de un acelerador que pueda adquirirse e instalarse como una tarjeta GPU convencional. Desde 2026, Google ofrece además TPU a clientes empresariales seleccionados para su despliegue en sus propios centros de datos. Las características más importantes de las TPU son: - **Diseño ASIC** especializado en cálculos de IA, en lugar de una arquitectura de propósito general. - **Arrays sistólicos** para realizar multiplicaciones de matrices de forma eficiente y reducir el movimiento de datos. - **Alto rendimiento por vatio** en operaciones adecuadas con tensores y matrices. - **Estrecha integración con el ecosistema de Google Cloud** mediante XLA, JAX y PyTorch/XLA. - **Especialmente adecuadas para cargas de trabajo de entrenamiento e inferencia a gran escala** en la nube. ## NPU: Neural Processing Unit La NPU lleva la aceleración de IA desde el centro de datos directamente hasta el dispositivo. Actualmente, se encuentra en smartphones, portátiles, wearables y numerosos sistemas embebidos, como cámaras, sensores o equipos industriales. Su objetivo no es alcanzar la máxima potencia de cálculo a cualquier precio, sino ofrecer **inferencia local con el menor consumo energético posible**. De este modo, las funciones de IA pueden ejecutarse directamente en el dispositivo sin necesidad de enviar cada solicitud a un centro de datos. Las características más importantes de las NPU son: - **Bloque de aceleración especializado dentro de un System-on-Chip (SoC)**, junto con la CPU y la GPU. - **Optimización para la inferencia local** en lugar del entrenamiento de modelos a gran escala. - **Consumo energético muy bajo**, especialmente importante en dispositivos móviles y equipos que funcionan con batería, así como para reducir la generación de calor. - **Ámbitos de uso habituales** como el reconocimiento de imágenes, el procesamiento de voz, los subtítulos en directo, los efectos de cámara, las funciones de asistencia local y la ejecución de modelos generativos más pequeños. A diferencia de las GPU para centros de datos, las NPU no se centran en alcanzar el máximo rendimiento medido en TFLOPS. Una de las métricas de rendimiento habituales es TOPS (Tera Operations per Second), que indica cuántos **billones de operaciones por segundo** puede ejecutar una NPU. Estos valores suelen referirse a operaciones con números enteros altamente optimizadas, a menudo con INT8 y, dependiendo de la plataforma, también con precisiones inferiores. ## LPU: Language Processing Unit La LPU es una arquitectura de aceleración especializada desarrollada por Groq. Se centra en un aspecto especialmente importante para los grandes modelos de lenguaje: **la inferencia sensible a la latencia**. Mientras que el entrenamiento y la fase de prefill, en la que se procesa el prompt de entrada antes de generar la respuesta, pueden paralelizarse en gran medida, la generación de texto propiamente dicha es autorregresiva. El modelo genera un token tras otro y cada nuevo token depende del contexto anterior. Esto no significa que dentro de cada paso de generación de un token no puedan realizarse cálculos en paralelo. Las operaciones con matrices del modelo pueden seguir ejecutándose en paralelo. Sin embargo, el proceso de generación es **secuencial**: es necesario generar un token antes de poder calcular el siguiente. Esto modifica el cuello de botella. En la generación token a token no solo importa la potencia máxima de cálculo, sino también la rapidez con la que pueden transferirse los pesos, los resultados intermedios y la caché KV entre la memoria, las unidades de cálculo y, en su caso, varios chips. En los sistemas GPU convencionales puede aparecer aquí el llamado “memory wall”: las unidades de cálculo tienen capacidad para seguir procesando, pero deben esperar a que lleguen los datos. El principal representante de este enfoque es Groq. A finales de 2025, NVIDIA firmó un acuerdo de licencia no exclusiva para utilizar la tecnología de inferencia de Groq y varios miembros clave del equipo se incorporaron a NVIDIA, mientras que Groq continuó operando como empresa independiente. La LPU de Groq utiliza una arquitectura muy diferente de la de las GPU convencionales. En lugar de depender en gran medida de memoria HBM externa, grandes cachés y planificación dinámica durante la ejecución, Groq apuesta por **memoria SRAM integrada en el chip y una ejecución determinista controlada por el compilador**. El flujo de datos se planifica de antemano, lo que permite que el hardware funcione de forma predecible y procese las solicitudes con una latencia especialmente baja. En 2026, NVIDIA integró la LPU Groq 3 en su plataforma Vera Rubin. El rack NVIDIA Groq 3 LPX reúne 256 aceleradores LPU y está diseñado para funcionar junto con Vera Rubin NVL72 en cargas de trabajo de inferencia sensibles a la latencia. Según la configuración, las GPU y las LPU se encargan de distintas fases de la inferencia y combinan así la flexibilidad y el rendimiento de las GPU con la generación de tokens de baja latencia de las LPU. Las características más importantes de las LPU son: - **Optimización para la inferencia de LLM** en lugar del entrenamiento de propósito general. - **Latencia muy baja y predecible** durante la generación de texto token a token. - **Memoria SRAM integrada en el chip** en lugar de una elevada dependencia de memoria HBM externa. - **Ejecución determinista controlada por el compilador** en lugar de planificación dinámica durante la ejecución. - **Métricas como los tokens de salida por segundo y el tiempo hasta el primer token** para evaluar el rendimiento, además de métricas de capacidad de cálculo como TFLOPS o TOPS. Esta especialización implica una menor flexibilidad. La LPU no es una plataforma de entrenamiento de propósito general como una GPU, sino que está diseñada principalmente para la inferencia. Resulta especialmente interesante cuando los modelos de lenguaje deben responder con rapidez, por ejemplo, en chatbots, agentes de voz, asistentes en tiempo real, sistemas de agentes o aplicaciones que realizan muchas llamadas breves al modelo de forma consecutiva. Admite sobre todo modelos de pesos abiertos y otros modelos de disponibilidad abierta. La disponibilidad de modelos en las plataformas de inferencia puede cambiar rápidamente, por lo que conviene comprobar periódicamente qué modelos e ID concretos están disponibles. Actualmente, Groq se centra principalmente en los modelos GPT-OSS y en determinados modelos Qwen. ## Comparación directa Las cuatro clases de aceleradores no pueden compararse únicamente por su rendimiento máximo. Lo importante es el tipo de tarea para el que están optimizados: entrenamiento de alto rendimiento, entrenamiento e inferencia a gran escala en la nube, IA local en el dispositivo o inferencia de modelos de lenguaje con una latencia especialmente baja. La siguiente tabla resume las diferencias más importantes:
Arquitectura Latencia Rendimiento Perfil energético Uso típico
GPU Media a alta en la inferencia interactiva de LLM; depende en gran medida del modelo y del batching Muy alto; NVIDIA B200 alcanza aprox. 9 PFLOPS FP4 densos por GPU o aprox. 18 PFLOPS FP4 con esparsidad estructurada Consumo energético absoluto elevado; B200 hasta aprox. 1000 W Entrenamiento, fine-tuning e inferencia flexible
TPU Media; optimizada para cargas de trabajo a gran escala en la nube Muy alto; la octava generación alcanza hasta 12,6 PFLOPS FP4 por chip con TPU 8t y hasta 10,1 PFLOPS FP4 por chip con TPU 8i Alta eficiencia en relación con la capacidad de cálculo gracias al diseño ASIC Entrenamiento e inferencia a gran escala en Google Cloud y en centros de datos empresariales seleccionados
NPU Baja en tareas locales, ya que no es necesario enviar los datos a la nube y esperar la respuesta Bajo a medio; las NPU actuales para AI PC suelen ofrecer entre 40 y 80 TOPS Muy eficiente energéticamente; optimizada para dispositivos con batería y una baja generación de calor Inferencia local en smartphones, portátiles y dispositivos edge
LPU Muy baja y predecible en la inferencia de LLM Muy alto en la inferencia token a token de modelos de lenguaje; depende del modelo, el proceso de decodificación y el proveedor Diseñada para una inferencia de LLM eficiente por token generado Aplicaciones de modelos de lenguaje sensibles a la latencia, como chatbots, agentes de voz y sistemas de agentes
This is a markdown version of: [https://www.ionos.es/digitalguide/servidores/know-how/acelerador-de-ia/](https://www.ionos.es/digitalguide/servidores/know-how/acelerador-de-ia/) for AI/LLM consumption.