Perplexity et Nvidia viennent de lancer Portable Computer, un agent d'intelligence artificielle conçu pour fonctionner entièrement en local sur les GPU Nvidia. Cette innovation marque une étape décisive vers l'autonomie technologique, en permettant aux utilisateurs de traiter des charges de travail complexes sans dépendre du cloud, évitant ainsi les coûts élevés liés aux tokens.
Portable Computer est une version optimisée de la plateforme Computer de Perplexity, annoncée plus tôt cette année. Selon Nate Kupp, responsable chez Perplexity, l'application conserve la même interface utilisateur que la version originale et intègre toutes les fonctionnalités nécessaires pour l'inférence locale. Cependant, certaines tâches complexes peuvent encore nécessiter l'accès à des modèles plus puissants hébergés en ligne, avec un consentement explicite de l'utilisateur avant tout envoi de données vers le cloud.
Nader Khalil, directeur des technologies de développement chez Nvidia, souligne que cette solution permet aux utilisateurs d'exploiter l'IA plus largement, sans craindre les coûts ou les risques liés à la transmission de données sensibles. « C'est une avancée majeure pour les entreprises et les startups qui cherchent à maîtriser leurs données tout en bénéficiant des dernières innovations en matière d'IA », explique-t-il.
Une architecture innovante pour plus de fiabilité
L'une des particularités de Portable Computer réside dans sa séparation entre le raisonnement probabiliste et l'autorité déterministe. Contrairement à la plupart des plateformes d'agents IA, qui superposent des couches de modèles pour améliorer la fiabilité, Perplexity a choisi de dissocier ces deux fonctions. Le raisonnement probabiliste propose les actions, tandis qu'un logiciel déterministe décide de leur exécution. Cette approche réduit les risques d'erreurs et renforce la transparence du processus.
Cependant, cette innovation a un coût. Pour fonctionner, Portable Computer nécessite des GPU Nvidia performants, comme le DGX Spark, dont le prix de départ est de 4 700 dollars, ou une carte graphique RTX 3090 avec 24 Go de VRAM, vendue à plus de 1 500 dollars. Une barrière financière qui limite son accès aux entreprises et startups bien financées, excluant pour l'instant les petites structures et les particuliers.
Malgré ces contraintes, Portable Computer ouvre des perspectives prometteuses pour l'Afrique, où la maîtrise des données et l'autonomie technologique sont des enjeux cruciaux. En permettant aux entreprises locales de traiter leurs données en interne, cette solution pourrait accélérer l'adoption de l'IA sur le continent, tout en réduisant les dépendances aux infrastructures cloud étrangères.
Pour les utilisateurs africains, cette innovation pourrait également se traduire par une réduction des coûts opérationnels, notamment dans des secteurs comme la santé, l'agriculture ou la finance, où l'IA locale peut jouer un rôle clé. « Portable Computer est une étape importante vers une souveraineté technologique africaine », estime un observateur du secteur.
En résumé, Portable Computer représente une avancée significative pour l'IA locale, avec des implications majeures pour la sécurité des données et l'autonomie des entreprises. Si son coût reste un frein, cette solution pourrait bien préfigurer l'avenir de l'intelligence artificielle en Afrique et au-delà.
À lire aussi : NVIDIA dévoile Vera, un processeur pensé pour l’ère des agents d’IA
Source : TechSpot
Commentaires (0)
Aucun commentaire pour le moment.
Soyez le premier à commenter !