ASUS / Diffusion stable
Asustek Computer de Taïwan (connu sous le nom d'”Asus”) prévoit d’introduire un serveur d’IA d’entreprise de location qui fonctionnera sur site pour résoudre les problèmes de sécurité et les problèmes de contrôle des données des systèmes d’IA basés sur le cloud, Bloomberg rapports. Le service, appelé AFS Appliance, comportera des puces Nvidia et exécutera un modèle de langage AI appelé “Formosa” qui, selon Asus, est équivalent à celui d’OpenAI. GPT-3.5.
Asus espère offrir le service à environ 6 000 dollars par mois, selon l’interview de Bloomberg avec Asus Cloud et le président de TWS, Peter Wu. Le serveur le plus puissant, basé sur un Nvidia DGX La plate-forme AI, coûtera environ 10 000 $ par mois. Les serveurs seront alimentés par Nvidia A100 GPU et seront détenus et exploités par Asus. La société espère fournir le service à 30 à 50 entreprises clientes à Taïwan dans un premier temps, puis s’étendre à l’international plus tard en 2023.
“Nvidia est un partenaire avec nous pour accélérer l’adoption de cette technologie par les entreprises”, a déclaré Wu à Bloomberg. “Avant ChatGPT, les entreprises ne savaient pas pourquoi elles avaient besoin d’autant de puissance de calcul.”
Selon à Asus, le “Formosa Foundation Model” qui s’exécutera sur l’appliance AFS est un grand modèle de langage qui génère du texte avec la sémantique chinoise traditionnelle. Il a été développé par TWS, une filiale d’Asustek. Comme ChatGPTil offrira des capacités de génération de texte et de codage alimentées par l’IA.
À mesure que l’intérêt pour les services d’IA générative grandit, les préoccupations concernant la sensibilité des données ont également augmenté. De nombreux services majeurs d’IA générative sont actuellement exploités via des centres de données en ligne, exposant potentiellement des informations sensibles. Notamment, Samsung banni ses employés d’utiliser ChatGPT d’OpenAI après avoir découvert que des travailleurs avaient téléchargé du code sensible sur la plateforme. Pomme aussi récemment interdit ses employés d’utiliser des outils d’IA externes qui pourraient divulguer des données à des concurrents.
Pour répondre aux préoccupations de confidentialité des entreprises, Microsoft plans annoncés en mai pour lancer une version isolée et axée sur la confidentialité de ChatGPT qui ciblerait les grandes organisations (telles que les banques et les hôpitaux) avec des préoccupations accrues concernant les fuites de données et la conformité réglementaire, mais les serveurs seraient toujours situés dans les centres de données de Microsoft. En revanche, le matériel AFS Appliance sera installé directement dans les locaux du client.
Malgré la demande croissante de puces d’entraînement à l’IA, Bloomberg rapporte que des entreprises comme Asus espèrent s’assurer une part de marché en proposant des “systèmes d’IA holistiques” qui offrent une solution d’IA complète dans un ensemble de services. Asus affirme que son partenariat existant avec Nvidia garantira qu’il n’y aura pas de pénurie d’approvisionnement en puces Nvidia lors du déploiement du service AFS Appliance.
