Nvidia a récemment publié sa nouvelle démo technique « Chat With RTX », qui permet aux utilisateurs de télécharger et d’exécuter un chatbot IA localement sur leur PC Windows 11.
La démo technique est gratuite et disponible en téléchargement sur le site Web de Nvidia. La démo nécessite un GPU Nvidia GeForce RTX 30 Series ou supérieur, avec 8 Go de mémoire vive vidéo (VRAM).
La démo vous permet de personnaliser votre propre modèle de langage étendu (LLM) GPT et de le connecter à votre contenu. À l’aide du logiciel, vous pouvez interroger un chatbot personnalisé pour obtenir rapidement des « réponses contextuellement pertinentes » basées sur la vidéo ou le document que vous avez fourni. Nvidia souligne que puisque Chat With RTX s’exécute localement sur votre PC, « vous obtiendrez des résultats rapides et sécurisés ».
“Plutôt que de s’appuyer sur des services LLM basés sur le cloud, Chat with RTX permet aux utilisateurs de traiter des données sensibles sur un PC local sans avoir besoin de les partager avec un tiers ou de disposer d’une connexion Internet”, a déclaré Nvidia dans son blog.
Le chatbot prend en charge différents formats de fichiers, notamment texte, pdf, doc/docx et XML. Tout ce que vous avez à faire est de parcourir votre PC, de sélectionner un document puis de saisir votre requête. Dans l’exemple vidéo, le programme analyse les notes d’un utilisateur pour découvrir quel restaurant son ami a recommandé.
Un autre avantage de Chat with RTX est que vous pouvez lui fournir une URL YouTube, et le programme chargera la transcription de la vidéo et vous permettra de faire des requêtes basées sur le contenu couvert par la vidéo. Je vois que cette fonctionnalité est extrêmement pratique pour obtenir une réponse rapide sur un point spécifique d’une vidéo ou des résumés rapides de longues vidéos.
Chat With RTX n’est qu’une démo technique, mais ce qu’il offre est un aperçu intéressant de la façon dont Nvidia prévoit de faire en sorte que ses GPU RTX de bureau tirent pleinement parti de la technologie de l’IA.
Crédit image : Nvidia
Source : Nvidia Via : The Verge
