Mac Apple Silicon: External AMD y NVIDIA GPUs Ahora Compatibles para IA (Vía TinyGPU)

Apple ha dado luz verde a una extensión de driver para GPU publicada por Tiny Corp, lo que facilita el uso de tarjetas gráficas dedicadas de AMD y NVIDIA con equipos Mac equipados con procesadores Apple Silicon (Arm). Es importante destacar que esta compatibilidad se da dentro del ecosistema de tinygrad y no representa un soporte nativo universal para macOS.

Esta aprobación por parte de Apple simplifica significativamente el proceso de instalación para desarrolladores. Anteriormente, era necesario desactivar la Protección de la Integridad del Sistema (SIP) para instalar manualmente los drivers de TinyGPU para GPU externas mediante USB4/Thunderbolt. Ahora, aunque el proceso aún requiere conocimientos técnicos, ya no es preciso deshabilitar esta protección clave del sistema.

La solución de TinyGPU permite el uso de GPUs AMD (RDNA3 o superior) y NVIDIA (Ampere o superior) en macOS 12.1 o posterior, requiriendo la instalación de TinyGPU.app y la activación de la extensión de driver, además de Docker Desktop para NVIDIA.

La principal finalidad de esta integración es el cómputo externo para inteligencia artificial y modelos de lenguaje grandes (LLM) a través de tinygrad/apps/llm.py. Esto significa que los usuarios no deben esperar mejoras en el rendimiento para juegos o creación de contenido general.

En resumen, esta noticia es de gran relevancia para desarrolladores de IA local, investigación y experimentación con modelos de IA en Mac Arm. Sin embargo, resulta de mucho menor interés para quienes busquen un mejor rendimiento gráfico general o revivir el concepto de eGPU para usos tradicionales.

Apple Silicon Macs: External AMD and NVIDIA GPUs Now Compatible for AI (Via TinyGPU)

Apple has approved a GPU driver extension published by Tiny Corp, facilitating the use of dedicated AMD and NVIDIA graphics cards with Mac computers featuring Apple Silicon (Arm) processors. It's crucial to note that this compatibility operates within the tinygrad ecosystem and does not signify native universal macOS support.

This approval from Apple significantly streamlines the installation process for developers. Previously, it was necessary to disable System Integrity Protection (SIP) to manually install TinyGPU drivers for external GPUs via USB4/Thunderbolt. Now, while the process still requires technical knowledge, it no longer demands disabling this key system protection.

TinyGPU's solution supports the use of AMD GPUs (RDNA3 or newer) and NVIDIA GPUs (Ampere or newer) on macOS 12.1 or higher, requiring the installation of TinyGPU.app and activation of the driver extension, in addition to Docker Desktop for NVIDIA.

The primary purpose of this integration is external computation for artificial intelligence and large language models (LLMs) via tinygrad/apps/llm.py. This means users should not expect performance improvements for gaming or general content creation.

In summary, this news is highly relevant for local AI developers, research, and experimentation with AI models on Arm Macs. However, it is of much less interest to those seeking improved general graphics performance or looking to revive the eGPU concept for traditional uses.