CUDA Cores, Tensor Cores y RT Cores: así funcionan las GPU modernas
Dentro de una GPU de NVIDIA, tres unidades de cálculo especializadas o bloques de hardware pueden asumir tareas diferentes: los CUDA Cores funcionan como unidades de cálculo versátiles para gráficos y operaciones en paralelo, los Tensor Cores son aceleradores de IA especializados en operaciones matriciales utilizadas, entre otros ámbitos, en el aprendizaje profundo y los RT Cores constituyen hardware dedicado a acelerar los cálculos de trazado de rayos (raytracing), por ejemplo, para representar sombras y reflejos.
Resumen
Lo más importante de un vistazo:
- Los CUDA Cores son las unidades de cálculo versátiles de una GPU de NVIDIA y se ocupan de las tareas gráficas convencionales y de los cálculos paralelos generales.
- Los Tensor Cores aceleran las operaciones con matrices y tensores y constituyen la base del entrenamiento y la inferencia de modelos de IA.
- Los RT Cores aceleran el raytracing por hardware, sobre todo el recorrido de BVH y las pruebas de intersección rayo-triángulo.
- Otros fabricantes siguen principios similares con otras denominaciones, como Compute Units y Ray Accelerators en AMD o Xe-Cores y XMX Engines en Intel.
- En conjunto, los tres tipos de núcleos se reparten el trabajo: los CUDA Cores generan la imagen, los RT Cores calculan las intersecciones de los rayos y los Tensor Cores refinan el resultado mediante DLSS.
CUDA Cores, Tensor Cores y RT Cores en comparación
Muchas GPU modernas de NVIDIA ya no cuentan con un único tipo de unidad de cálculo. En su lugar, combinan en un mismo chip varios bloques de hardware especializados, cada uno optimizado para diferentes tareas.
Esta es una de las razones por las que una misma GPU puede acelerar procesos muy distintos: puede renderizar juegos, ejecutar cálculos para modelos de IA, ayudar en la edición de vídeo y generar efectos de iluminación y sombras más realistas mediante raytracing. No todas las unidades realizan las mismas operaciones, sino que existe una clara división del trabajo.
En este contexto, destacan los CUDA Cores, Tensor Cores y RT Cores:
- Los CUDA Cores son unidades versátiles que se utilizan para numerosas tareas convencionales de cálculo y procesamiento gráfico.
- Los Tensor Cores están especializados en operaciones matriciales, fundamentales en muchas cargas de trabajo de IA y aprendizaje automático. Proporcionan una elevada capacidad de cálculo especializado para tareas como el entrenamiento y la inferencia de modelos.
- Los RT Cores, por su parte, aceleran determinados cálculos relacionados con el raytracing, como determinar las intersecciones entre los rayos y los objetos de una escena 3D.
- GPUs NVIDIA H200 para máxima potencia de cálculo
- Rendimiento garantizado gracias a núcleos de CPU totalmente dedicados
- Alojamiento 100% en Europa para la máxima seguridad de los datos y cumplimiento de la RGPD
- Modelo de precios sencillo y calculable con precio fijo por hora
Tecnologías de GPU de diferentes fabricantes
CUDA Cores, Tensor Cores y RT Cores son denominaciones propias de NVIDIA. Otros fabricantes de GPU, como AMD o Intel, siguen principios similares, pero utilizan otras denominaciones y los implementan de forma diferente a nivel técnico. AMD emplea, por ejemplo, términos como Compute Units, AI Accelerators y Ray Accelerators. Intel utiliza denominaciones como Xe-Cores, XMX Engines o Ray Tracing Units. Por tanto, la arquitectura concreta varía según el fabricante, aunque la división básica del trabajo entre distintas unidades especializadas es comparable en las GPU modernas.
CUDA Cores: las unidades de cálculo versátiles
Los CUDA Cores son las unidades de cálculo de propósito general de las GPU de NVIDIA. Se agrupan en bloques de mayor tamaño, los denominados Streaming Multiprocessors, y se encargan de numerosas operaciones de cálculo.
Puedes imaginar los CUDA Cores como los todoterreno de la GPU: son unidades flexibles capaces de ejecutar un amplio abanico de operaciones aritméticas y lógicas. Se utilizan, por ejemplo, para calcular shaders en juegos, procesar datos de imagen o realizar simulaciones físicas. Una de sus principales funciones es el procesamiento masivamente paralelo de números en coma flotante, especialmente en precisión simple (FP32), por lo que tradicionalmente están estrechamente asociados al rendimiento FP32. Sin embargo, esta descripción resulta demasiado limitada para las GPU RTX basadas en la arquitectura Blackwell. En los chips GB20x, NVIDIA ha unificado los recursos para numerosas operaciones FP32 e INT32. Estos núcleos unificados pueden ejecutar operaciones FP32 o INT32 en un determinado ciclo de reloj, pero no ambas simultáneamente. Además, no todas las operaciones INT32 obtienen el mismo aumento de rendimiento.
La arquitectura CUDA se basa en el modelo de ejecución SIMT (Single Instruction, Multiple Threads). Se parece al modelo SIMD (Single Instruction, Multiple Data), pero está diseñado para ejecutar numerosos hilos en paralelo. En este modelo, 32 hilos se agrupan en una unidad denominada warp.
En condiciones normales, los hilos de un warp ejecutan la misma instrucción, aunque cada uno trabaja con sus propios datos y registros. Si una GPU tiene que procesar, por ejemplo, una gran cantidad de píxeles, no necesita ejecutar de forma completamente secuencial para cada uno una operación como “multiplica el valor de color por 0,5”. En su lugar, distribuye el trabajo entre numerosos hilos y warps que se ejecutan en paralelo, de modo que pueden realizar operaciones similares al mismo tiempo. Esto permite procesar grandes volúmenes de datos homogéneos con mucha mayor rapidez.
Tareas típicas de los CUDA Cores
Los CUDA Cores son especialmente eficientes cuando es posible ejecutar en paralelo un gran número de operaciones similares. Entre sus tareas habituales se encuentran:
- Renderizado y sombreado tradicionales en juegos
- Shaders de vértices, píxeles y cómputo
- Edición de imágenes, filtros y efectos de posprocesado
- Simulaciones físicas, como partículas, fluidos o colisiones
- Cálculos científicos y simulaciones numéricas
- Tareas generales de GPGPU, es decir, cálculos que van más allá del procesamiento gráfico tradicional
- Preprocesamiento de datos para flujos de trabajo de IA
- Determinadas partes de las canalizaciones multimedia, como el preprocesamiento de imágenes o vídeo
Tensor Cores: especialistas en IA y cálculos matriciales
Con el auge del aprendizaje profundo, también aumentaron las exigencias para las GPU. El motivo es que las redes neuronales requieren enormes cantidades de cálculos matriciales. Especialmente durante el entrenamiento y la inferencia de grandes modelos de IA, es necesario multiplicar y sumar repetidamente grandes conjuntos de valores.
Los CUDA Cores también pueden ejecutar este tipo de cálculos. Son unidades flexibles, pero no están diseñadas específicamente para procesar operaciones matriciales a gran escala con el máximo rendimiento. Aquí es donde entran en juego los Tensor Cores. Estas unidades de cálculo especializadas de las GPU modernas de NVIDIA están optimizadas para acelerar operaciones con matrices y tensores, especialmente las utilizadas en cargas de trabajo de IA.
Los Tensor Cores están especialmente optimizados para operaciones matriciales de multiplicación y acumulación (MMA), que constituyen la base de cálculos como GEMM (General Matrix Multiply), es decir, la multiplicación general de matrices. De este modo, pueden procesar bloques de matrices mediante operaciones de hardware especializadas que agrupan numerosas multiplicaciones y sumas.
Una de las claves del alto rendimiento de los Tensor Cores es la Mixed Precision, es decir, el cálculo con precisión mixta. En lugar de realizar todas las operaciones con precisión FP32, pueden utilizar formatos de menor precisión cuando la carga de trabajo lo permite. Dependiendo de la generación y de la GPU, admiten formatos como FP16, BF16, TF32, INT8, FP8, FP6 o FP4.
Los formatos de menor precisión requieren menos memoria y ancho de banda y permiten procesar más operaciones por unidad de tiempo. Al mismo tiempo, determinadas operaciones pueden acumular los resultados con una precisión mayor para limitar la propagación de errores de redondeo. Para muchas aplicaciones de IA, esta combinación permite aumentar considerablemente el rendimiento y la eficiencia sin que la calidad de los resultados se vea afectada de forma significativa.
Tareas típicas de los Tensor Cores
Los Tensor Cores se utilizan principalmente en cargas de trabajo que requieren un gran número de operaciones con matrices o tensores. Entre ellas se encuentran, por ejemplo:
- Entrenamiento de redes neuronales profundas
- Inferencia de grandes modelos de lenguaje e IA generativa
- Modelos Transformer, modelos de difusión y sistemas de recomendación
- Escalado de imágenes con IA y generación de fotogramas, por ejemplo, mediante DLSS
- Reconocimiento de voz, imágenes y objetos
- Inferencia de baja precisión o cuantizada con formatos como INT8, FP8 o FP4
- Aplicaciones científicas con un uso intensivo de álgebra lineal
RT Cores: los aceleradores de raytracing
La tercera unidad especializada, los RT Cores, se ocupa de una tarea gráfica que requiere una enorme capacidad de cálculo: el raytracing acelerado por hardware. Con esta técnica, se trazan rayos a través de una escena para representar de forma más realista sombras, reflejos, refracciones e iluminación global. El esfuerzo computacional es elevado, ya que hay que determinar qué objeto geométrico alcanza primero cada rayo.
Por este motivo, los sistemas de raytracing utilizan las denominadas Bounding Volume Hierarchies o BVH. Se trata de estructuras de aceleración que permiten organizar la geometría de una escena 3D. Puedes imaginarlas como cajas envolventes anidadas: primero se agrupan grandes áreas de la escena de forma aproximada. Solo si un rayo atraviesa una de esas cajas se comprueba con mayor detalle qué áreas o triángulos de su interior pueden ser relevantes. De este modo, la GPU no tiene que comprobar cada triángulo por separado, sino que puede descartar rápidamente grandes zonas y avanzar progresivamente hasta los pocos objetos que el rayo podría alcanzar.
Aquí es precisamente donde entran en juego los RT Cores. Aceleran sobre todo dos tareas especialmente importantes:
- Recorrido de BVH: recorrer la estructura jerárquica de cajas envolventes
- Pruebas de intersección rayo-triángulo: comprobar si un rayo alcanza un determinado triángulo y en qué punto
La gran ventaja es que estas operaciones se ejecutan mediante hardware especializado en los RT Cores, en lugar de recaer por completo sobre los CUDA Cores. De este modo, las unidades de sombreado quedan libres para trabajar en paralelo en el sombreado, el cálculo de materiales y otras tareas. Sin esta aceleración especializada, el raytracing en tiempo real con el nivel de complejidad y rendimiento actual requeriría muchos más recursos de cálculo.
Las generaciones más recientes de RT Cores van más allá de estas funciones básicas. En la arquitectura RTX Blackwell, los RT Cores de cuarta generación incorporan mejoras para Mega Geometry, destinada a acelerar el raytracing en escenas con una geometría extremadamente detallada, y soporte por hardware para Linear Swept Spheres (LSS), una primitiva que permite procesar con mayor eficiencia elementos finos como el pelo, el pelaje o la hierba.
Tareas típicas de los RT Cores
Los RT Cores entran en juego principalmente cuando es necesario trazar numerosos rayos a través de una escena 3D y comprobar sus intersecciones con la geometría. Algunos ámbitos de uso habituales son:
- Raytracing en tiempo real en juegos, por ejemplo, para generar reflejos, sombras y oclusión ambiental más realistas
- Path tracing e iluminación global para crear escenas 3D especialmente realistas
- Renderizado y visualización en arquitectura, diseño de producto, cine y animación
- Renderizado basado en principios físicos, en el que la interacción entre la luz, los materiales y las superficies se simula de la forma más realista posible
- Consultas de intersección rápidas en escenas 3D mediante estructuras como las BVH
- Visualización científica, cuando se representan grandes volúmenes de datos mediante técnicas de trazado de rayos
La interacción: cómo trabajan juntos CUDA Cores, Tensor Cores y RT Cores
La potencia de las GPU modernas de NVIDIA no reside únicamente en sus distintas unidades de cálculo, sino también en su reparto del trabajo. Los CUDA Cores, los Tensor Cores y los RT Cores asumen tareas diferentes y se complementan entre sí. Esto se aprecia especialmente bien en una escena de un videojuego moderno con raytracing y escalado mediante IA:
- Primero, los CUDA Cores, junto con otras unidades especializadas, se encargan de numerosas tareas gráficas convencionales. Entre ellas se incluyen, por ejemplo, el procesamiento de geometría, los shaders y los cálculos relacionados con texturas y materiales. Es decir, realizan una parte importante de los cálculos necesarios para generar la imagen.
- Cuando el raytracing está activado, entran además en juego los RT Cores. Estos aceleran la búsqueda de intersecciones entre los rayos y los objetos de la escena. Para ello, recorren, entre otras cosas, las estructuras BVH y comprueban qué triángulos alcanza cada rayo. La información obtenida se utiliza posteriormente para calcular elementos como sombras, reflejos o iluminación.
- Los Tensor Cores pueden encargarse de procesar mediante IA distintas funciones de DLSS (Deep Learning Super Sampling). Con DLSS Super Resolution, por ejemplo, una imagen renderizada a menor resolución se reconstruye a una resolución superior mediante una red neuronal, lo que permite reducir el número de píxeles que el motor tiene que renderizar de forma convencional. En las GeForce RTX 50, DLSS 4.5 incorpora además Dynamic Multi Frame Generation y un modo 6X capaz de generar hasta cinco fotogramas adicionales por cada fotograma renderizado. DLSS 5 añade además 3D-Guided Neural Rendering, que utiliza los Tensor Cores para mejorar en tiempo real aspectos como la iluminación y la representación de los materiales.
De este modo, la colaboración entre estas unidades permite dedicar cada tipo de hardware a las tareas para las que está especialmente optimizado y reducir así el tiempo de cálculo.
CUDA Cores, Tensor Cores y RT Cores: comparativa directa
Los tres tipos de núcleos de las GPU modernas de NVIDIA se diferencian sobre todo por las tareas que realizan, el tipo de operaciones que ejecutan y los ámbitos de aplicación para los que están optimizados:
| Tipo de núcleo | Tarea principal | Operaciones matemáticas | Casos de uso típicos |
|---|---|---|---|
| CUDA Cores (unidades de sombreado/SIMT) | Unidades versátiles para tareas gráficas convencionales y cálculos generales de GPGPU | Operaciones escalares y vectoriales en el modelo SIMT, incluidas operaciones de coma flotante y enteros | Videojuegos, simulaciones y procesamiento paralelo de datos de propósito general |
| Tensor Cores | Aceleración de operaciones con matrices y tensores | Operaciones matriciales de multiplicación y acumulación (MMA), utilizadas en cálculos como GEMM, con distintas precisiones según la generación, como FP16, BF16, TF32, INT8, FP8, FP6 o FP4 | IA y aprendizaje automático, IA generativa y aplicaciones científicas con un uso intensivo de álgebra lineal |
| RT Cores | Raytracing acelerado por hardware | Recorrido de BVH y pruebas de intersección geométrica; según la generación, funciones adicionales como Opacity Micromaps, Displaced Micro-Meshes, Mega Geometry o Linear Swept Spheres | Videojuegos con raytracing en tiempo real, renderizado y visualización en cine, arquitectura y diseño de producto |
- Nuevos GPUs NVIDIA RTX PRO 6000 Blackwell de alto rendimiento disponibles
- Rendimiento sin igual para cargas de trabajo exigentes de inteligencia artificial y análisis de datos
- Alojadas en centros de datos seguros y fiables
- Pago por uso, con precios flexibles