La compañía tecnológica NVIDIA ha puesto en marcha una iniciativa estratégica denominada Storage-Next, con el propósito de transformar radicalmente la gestión de la memoria en los sistemas de inteligencia artificial y aliviar la escasez global de memoria DRAM mediante el aprovechamiento masivo de unidades de almacenamiento NAND Flash en los centros de datos.
Actualmente, la gestión de la memoria representa uno de los mayores desafíos para el desarrollo de la inteligencia artificial. Los modelos actuales operan con enormes ventanas de contexto, gestionan miles de agentes de manera simultánea y procesan volúmenes masivos de información que superan la capacidad de la memoria de gran ancho de banda o HBM integrada en las unidades de procesamiento gráfico.
Para superar este cuello de botella operativo, la corporación ha diseñado un sistema que permite a los aceleradores gráficos iniciar de forma autónoma operaciones tanto de lectura como de escritura directamente sobre los discos de estado sólido o SSD. Mediante este procedimiento, se elimina la obligación de que cada transferencia de información deba pasar obligatoriamente a través de la unidad central de procesamiento o CPU y de realizar múltiples copias intermedias.
El núcleo técnico de esta innovación radica en la interfaz cuFile, empleada tradicionalmente por GPUDirect Storage. Las interfaces de programación de aplicaciones y la pila de software vertical asociadas a cuFile pasarán a ser de código abierto, facilitando su adaptación a diversos entornos de hardware y software. Para llevar a cabo este desarrollo colaborativo, NVIDIA cuenta con la participación de Google, Intel y Meta como mantenedores iniciales del grupo XIO-SIG, entidad encargada de estructurar esta capa interoperable capaz de gestionar miles de solicitudes de almacenamiento simultáneas y transferir los datos directamente hacia la memoria de alta velocidad de la GPU.
A pesar de que las unidades de estado sólido no alcanzan la velocidad de la memoria HBM debido a las marcadas diferencias existentes en términos de ancho de banda y latencia, la tecnología propuesta permite utilizar el almacenamiento como una capa de memoria extendida. Esto facilita el almacenamiento de bases de datos, contextos, cachés KV y registros persistentes de agentes que no requieren una permanencia constante dentro del procesador gráfico. El sistema consigue operar en la escala de los microsegundos, movilizando cientos de miles de hilos para recuperar exclusivamente la información precisa en cada momento operativo.
Para complementar este proceso de lectura y extracción de fragmentos específicos de información sin necesidad de desplazar archivos completos, se ha introducido el marco de trabajo denominado SCADA, acrónimo de Scaled, Accelerated Data Access. Con el fin de mitigar los riesgos de seguridad derivados de permitir que una aplicación escriba de manera directa sobre una unidad de almacenamiento, SCADA divide la operativa rápida de la aplicación de un elemento privilegiado. Este último se encarga de configurar previamente las áreas del disco autorizadas para cada carga de trabajo, preservando así las medidas de protección y los permisos nativos del sistema operativo Linux.
La iniciativa Storage-Next agrupa a más de cuarenta empresas del sector, entre las que destacan compañías como DDN, Kioxia y Micron, con la misión principal de estandarizar el funcionamiento de estas arquitecturas de almacenamiento controladas directamente por unidades de procesamiento gráfico.
Dentro de este ecosistema tecnológico, la compañía sitúa en una posición relevante al procesador Vera BlueField-4 STX. Este componente integra un chip Vera dotado de 88 núcleos Olympus Armv9.2, 176 hilos de ejecución, 164 megabytes de caché de nivel 3 y un ancho de banda de memoria que llega hasta los 1,2 terabytes por segundo. En pruebas combinadas de cifrado y compresión con la información previamente albergada en la memoria, este procesador ha demostrado un rendimiento hasta 3,21 veces superior al de una unidad central de procesamiento con arquitectura x86, si bien la propia organización señala que se trata de mediciones preliminares y que aún restan evaluaciones exhaustivas sobre plataformas reales completas.
