UGen300, ASUS ajoute l’IA locale à n’importe quel PC avec une simple clé USB

L’IA fait son entrée dans le marché du matos Hardware. ASUS vient peut-être d’ouvrir un nouveau segment de produit en officialisant une clé USB UGen300 accélératrice IA externe. Elle se connecte à la machine en USB Type C et apporte des capacités d’inférence locale à des machines qui n’en disposent pas nativement.

L’approche d’Asus est intéressante car elle permet de contourner le renouvellement complet de la machine pour répondre à des besoins spécifiques de puissance IA. Au lieu d’imposer l’achat d’un nouveau PC, nous avons un module externe destiné à muscler un ordinateur existant, qu’il s’agisse d’un PC de bureau, d’un mini-PC ou même de certains environnements embarqués compatibles. ASUS indique que le UGen300 fonctionne via une interface USB 3.1 Gen 2 Type-C, avec une compatibilité Windows, Linux et Android.

Un petit boîtier USB, mais une vraie puce IA dédiée à l’intérieur

Techniquement, l’UGen300 repose sur une puce Hailo-10H et embarque 8 Go de mémoire LPDDR4 dédiée. ASUS annonce une puissance IA de 40 TOPS au travers d’une consommation typique de seulement 2,5 Watts. La cible est les charges liées aux grands modèles de langage, aux modèles vision-langage, à la génération de texte, au résumé vidéo, à la reconnaissance vocale ou encore à la perception en temps réel.

Cet accélérateur vient compléter le processeur existant et les éventuels NPUs présents du système hôte afin de libérer les ressources de la machine principale. L’idée n’est donc pas uniquement de transformer un vieux PC en monstre de calcul IA, mais de soulager aussi une une partie de l’inférence locale sur un composant spécialisé. Ceci permet de ne plus passer par le cloud et ne plus monopoliser totalement le processeur central dans certains situation.

Si l’IA sur PC a surtout été un argument de renouvellement avec un nouveau processeur, un nouveau portable ou une nouvelle machine (PC Copilot+) cette clé USB UGen300 dévoile au contraire qu’il existe d’autres solutions moins onéreuse pour aboutir au même résultat en matière d’IA. ASUS précise qu’une version M.2 existe également, ce confirme notre hypothèse qu’il s’agit d’une famille complète de solutions IA locales