Vous voulez des informations plus intelligentes dans votre boîte de réception? Inscrivez-vous à nos newsletters hebdomadaires pour obtenir uniquement ce qui compte pour les chefs d’IA en entreprise, les données et les chefs de sécurité. Abonnez-vous maintenant
Liquid IA, la startup formée par d’anciens chercheurs du Massachusetts Institute of Technology (MIT) à développer de nouvelles architectures de modèle d’IA au-delà des transformateurs largement utilisés, a annoncé aujourd’hui la publication de la plate-forme Liquid Edge AI (LEAP). Le kit de développement de logiciels multiplateforme (SDK) est conçu pour faciliter dire aux développeurs des modèles de petits langues (SLM) directement dans les applications mobiles.
Aux côtés de Leap, la société a également introduit Apollo, une application iOS compagnon pour tester les modèles localement, favorisant la mission de l’IA liquide pour permettre une IA efficace et efficace sur le matériel de consommation.
Le SDK Leap arrive à un moment où de nombreux développeurs recherchent des alternatives aux services d’IA en cloud uniquement en raison de préoccupations concernant la latence, le coût, la confidentialité et la disponibilité hors ligne.
LEAP répond à ce qui a besoin de front avec une approche locale-première qui permet aux petits modèles de s’exécuter directement à disposition, réduisant la dépendance à l’infrastructure cloud.
La série IA Impact revient à San Francisco – 5 août
La prochaine phase de l’IA est ici – êtes-vous prêt? Rejoignez les dirigeants de Block, GSK et SAP pour un aperçu exclusif de la façon dont les agents autonomes remodèlent les workflows d’entreprise – de la prise de décision en temps réel à l’automatisation de bout en bout.
Sécurisez votre place maintenant – l’espace est limité: https://bit.ly/3guuplf
Construit pour les développeurs mobiles sans expérience de ML antérieure requise
Leap est conçu pour les développeurs qui souhaitent construire avec l’IA mais qui peuvent ne pas avoir une expertise approfondie dans l’apprentissage automatique (ML).
Selon Liquid IA, le SDK peut être ajouté à un projet iOS ou Android avec seulement quelques lignes de code, et appeler un modèle local est censé se sentir aussi familier que d’interagir avec une API de nuage traditionnelle.
“Nos recherches montrent que les développeurs vont au-delà de l’IA sur le cloud et recherchent des partenaires de confiance pour les aider à construire sur des appareils”, a déclaré Ramin Hasani, co-fondateur et PDG de Liquid IA, dans un article de blog annonçant les nouvelles. “Leap est notre réponse – une plate-forme de déploiement flexible et de bout en bout construite à partir de zéro pour rendre les bords puissants, efficaces et privés vraiment accessibles.”
Une fois intégrés, les développeurs peuvent sélectionner un modèle dans la bibliothèque de modèles LEAP intégrée, qui comprend des modèles compacts aussi petits que 300 Mo – suffisamment légers pour les téléphones modernes avec aussi peu que 4 Go de RAM (!!) et plus.
Le SDK gère l’inférence locale, l’optimisation de la mémoire et la compatibilité des appareils, simplifiant le processus de déploiement typique des bords.
LEAP est OS et Model-Amnostique par conception. Lors du lancement, il prend en charge iOS et Android et offre une compatibilité avec les propres modèles de fondations liquides (LFM) de Liquid AI ainsi que de nombreux petits modèles d’oer source populaires.
L’objectif: un écosystème unifié pour Edge AI
Au-delà de l’exécution du modèle, Leap se positionne comme une plate-forme tout-en-un pour découvrir, adapter, tester et déployer des SLM pour une utilisation des bords.
Les développeurs peuvent parcourir un catalogue de modèles organisé avec diverses options de quantification et de point de contrôle, ce qui leur permet d’adapter les performances et l’empreinte mémoire aux contraintes du périphérique cible.
L’IA liquide souligne que les grands modèles ont tendance à être des généralistes, tandis que les petits modèles fonctionnent souvent mieux lorsqu’ils sont optimisés pour un ensemble étroit de tâches. Le système unifié de Leap est structuré autour de ce principe, offrant des outils pour une itération et un déploiement rapides dans des environnements mobiles du monde réel.
Le SDK est également livré avec une communauté de développeurs organisée sur Discord, où Liquid AI offre des heures de bureau, un soutien, des événements et des compétitions pour encourager l’expérimentation et les commentaires.
Apollo: comme Testflight pour les modèles d’IA locaux
Pour compléter Leap, Liquid AI a également publié Apollo, une application iOS gratuite qui permet aux développeurs et aux utilisateurs d’interagir avec des modèles compatibles LEAP dans un paramètre local hors ligne.
À l’origine une startup d’application mobile distincte qui a permis aux utilisateurs de discuter avec LLMS en privé sur leur appareil, que Liquid a acquis plus tôt cette année, Apollo a été reconstruit pour prendre en charge l’ensemble de la bibliothèque de modèles Leap.
Apollo est conçu pour l’expérimentation à faible friction – les développeurs peuvent «vibrer» le ton, la latence ou le comportement de sortie d’un modèle sur leur téléphone avant de l’intégrer dans une application de production. L’application s’exécute entièrement hors ligne, préservant la confidentialité des utilisateurs et réduisant la dépendance à l’égard du calcul du cloud.
Que ce soit utilisé comme outil de développement léger ou un assistant d’IA privé, Apollo reflète la poussée plus large de l’IA de liquide pour décentraliser l’accès et l’exécution de l’IA.
Construit à l’arrière de la famille de modèles LFM2 annoncée la semaine dernière
La version SDK de Leap s’appuie sur l’annonce de Liquid AI le 10 juillet de LFM2, sa famille de modèles de fondation de deuxième génération conçue spécifiquement pour les charges de travail sur les appareils.
Les modèles LFM2 sont disponibles dans des tailles de paramètres 350m, 700m et 1,2b, et référence de manière compétitive avec des modèles plus importants en vitesse et en précision sur plusieurs tâches d’évaluation.
Ces modèles forment l’épine dorsale de la bibliothèque du modèle LEAP et sont optimisés pour une inférence rapide sur les CPU, les GPU et les NPU.
Gratuit et prêt pour que les développeurs commencent à construire
LEAP est actuellement libre à utiliser sous une licence de développeur qui inclut le SDK et la bibliothèque de modèles.
Liquid AI note que les fonctionnalités d’entreprise premium seront mises à disposition sous une licence commerciale distincte à l’avenir, mais qu’elle prend des demandes de renseignements de clients d’entreprise déjà via son formulaire de contact de site Web.
Les modèles LFM2 sont également gratuits pour l’utilisation académique et l’utilisation commerciale par les entreprises avec moins de 10 millions de dollars de revenus; Les grandes organisations sont tenues de contacter l’entreprise pour les licences.
Les développeurs peuvent commencer par visiter le site Web de Leap SDK, en téléchargeant Apollo à partir de l’App Store ou en rejoignant la communauté des développeurs Liquid AI sur Discord.
Informations quotidiennes sur les cas d’utilisation de l’entreprise avec VB quotidiennement
Si vous souhaitez impressionner votre patron, VB Daily vous a couvert. Nous vous donnons le scoop intérieur sur ce que les entreprises font avec une IA générative, des changements réglementaires aux déploiements pratiques, afin que vous puissiez partager des informations pour un retour sur investissement maximal.
Merci de vous abonner. Découvrez plus de newsletters VB ici.
Une erreur s’est produite.
Sur le même sujet
