Google completa Coral NPU, su diseño abierto de chips para usar IA en el propio dispositivo

Google Research ha dado por completada la arquitectura de 32 bits de Coral NPU, el diseño abierto de procesador para inteligencia artificial (una NPU es un chip especializado en IA) que presentó el año pasado, según explica en el blog de Google para desarrolladores. Su objetivo es que la IA funcione dentro de aparatos pequeños, como dispositivos que se llevan puestos, auriculares, sensores industriales o robots, sin tener que consultar a la nube a cada momento. Google plantea que esos aparatos trabajen en equipo con la nube: los modelos de muy bajo consumo atienden lo inmediato y pasan el trabajo a modelos mayores cuando hace falta razonar más.

Según Google, hoy esos aparatos se reparten entre cientos de arquitecturas de chips propias de cada fabricante, con herramientas incompatibles entre sí, y los desarrolladores tienen que rehacer y ajustar sus modelos para cada chip. Coral NPU se basa en RISC-V (un estándar abierto para diseñar procesadores) y busca que un modelo se prepare una sola vez y se lleve después a chips de distintos fabricantes.

Durante el último año, Google ya había publicado las tres primeras piezas del diseño: un núcleo de control programable en C, un coprocesador vectorial y el subsistema de memoria. La cuarta y última es una unidad para cálculos con matrices, las operaciones que más tiempo ocupan a los modelos de IA. Se puede configurar hasta 1 TOPS (un billón de operaciones por segundo) y apunta a un consumo medio de 10 milivatios al ejecutar modelos. Google sostiene que eso permite hacer funcionar con una batería pequeña modelos compactos como Gemma, traducción de voz en tiempo real en dispositivos que se llevan puestos o visión para robots. El diseño completo de 32 bits ya está en GitHub, y Google colabora con VeriSilicon y GlobalFoundries para llevarlo a la fabricación.

Google publica además la versión 1.0 de su compilador de código abierto (el programa que traduce los modelos al lenguaje del chip), que admite modelos hechos con JAX, PyTorch y TensorFlow, junto a un simulador para probar los modelos antes de que exista el chip.

Ya hay aparatos. En su Tech Day del 20 de octubre, Synaptics presenta la serie Astra SR200, unos microcontroladores (chips pequeños y de bajo consumo) con tecnología Coral NPU que salen este mes y están pensados para dispositivos con batería que se llevan puestos y para sensores industriales, y una placa para desarrolladores basada en ellos, la Coralboard SR. La Coralboard SL, de 1 TOPS, que se vio en una edición limitada en Google I/O, ya se vende en todo el mundo a través de DigiKey. El anuncio no da precios. Google trabaja ya en una versión de 64 bits.