Amazon Web Services ha presentado TorchNeuron, una herramienta que permite a las startups de inteligencia artificial migrar sus aplicaciones a los chips Trainium de Amazon con solo modificar una línea de configuración, sin necesidad de reescribir el código. Esta iniciativa representa el intento más directo de Amazon por desafiar la ventaja de software que ha consolidado a Nvidia como el proveedor de hardware predeterminado para aplicaciones de IA.
TorchNeuron funciona con PyTorch, el kit de herramientas de código abierto que utiliza aproximadamente el 85% de las aplicaciones de IA actuales. Mientras Nvidia ha pasado años asegurando que su infraestructura CUDA soporte perfectamente PyTorch, Amazon busca ofrecer una alternativa que no solo facilite la migración a sus chips, sino que también proporcione acceso a toda su infraestructura en la nube, argumentando que esto representa una mejor opción para las startups que depender de proveedores especializados en computación.
Amazon afirma que Trainium ofrece ventajas económicas al manejar tanto el entrenamiento como la inferencia de modelos en una misma plataforma, citando el caso de Deepgram, que procesa 70% más audio por dólar tras migrar a Trainium. Además, la compañía está contribuyendo cambios al proyecto principal de PyTorch para hacer el framework más agnóstico al hardware, buscando eliminar el bloqueo que ha limitado las opciones reales de los desarrolladores durante años.
