Home Tags Posts tagged with "OpenAI Sam Altman"
Tag:

OpenAI Sam Altman

Affaires

Le gouvernement OpenAI et britannique unissent leurs forces pour débloquer le potentiel de l’IA dans les services publics

by Amélie Bernard
written by Amélie Bernard

La principale société d’intelligence artificielle (IA), OpenAI, s’associe au gouvernement britannique pour explorer comment l’IA peut transformer les services publics.

Sam Altman, le PDG d’Openai, a finalisé un accord avec le gouvernement britannique pour déployer la technologie Chatgpt dans des secteurs clés, notamment la justice, la sécurité et l’éducation.

L’accord positionne ouverte aux côtés de Google dans l’accès au secteur public britannique, transformant potentiellement la façon dont les citoyens interagissent avec les services gouvernementaux par l’intégration avancée de l’IA.

Un partenariat historique

Altman, dont la société est désormais évaluée à 300 milliards de dollars (222,45 milliards de livres sterling) et est à l’origine des modèles de grande langue largement utilisés, a finalisé un protocole d’accord avec Peter Kyle, le secrétaire d’État au Royaume-Uni pour les sciences, l’innovation et la technologie, lundi.

Ce partenariat représente l’engagement croissant de la Grande-Bretagne envers la transformation de l’IA, car le présent accord suit un accord similaire et approfondi entre le gouvernement britannique et Google.

L’arrangement avec Google a suscité des critiques intenses de la part des militants, qui l’ont qualifié de «dangereusement naïf», car leurs préoccupations découlent du potentiel pour le secteur public de devenir trop dépendante des prestataires de technologies privées.

Le rôle de l’IA dans la transformation des services publics

Le dernier accord de compréhension entre OpenAI et le gouvernement décrit un engagement à «collaborer pour identifier les opportunités sur la façon dont les modèles d’IA avancés peuvent être déployés dans tout le gouvernement», y compris «pour aider les fonctionnaires à travailler plus efficacement» et à aider les «citoyens à naviguer plus efficacement».

L’accord stipule que les deux parties travailleront ensemble pour développer des solutions d’IA pour «les problèmes les plus difficiles du Royaume-Uni, y compris dans des domaines tels que la justice, la défense et la sécurité, et la technologie de l’éducation» et développer des partenariats «pour étendre l’engagement public avec la technologie d’IA».

Répondre aux préoccupations et instaurer la confiance

Altman n’a pas évité de dire sa conviction que l’intelligence générale artificielle (AGI) – des systèmes AI capables d’une intelligence de niveau humain à travers diverses tâches – pourrait être réalisée dès cette année. Cette prédiction audacieuse met en évidence le rythme rapide du développement dans le domaine de l’IA.

Cependant, le public britannique a des opinions mitigées sur les avantages et les inconvénients potentiels de la technologie en progression rapide.

Une enquête IPSOS a révélé que 31% sont principalement optimistes quant aux opportunités, mais aussi quelque peu inquiets pour les risques. De même, 30% supplémentaires sont principalement préoccupés par les risques, mais expriment toujours une certaine excitation quant aux possibilités.

“L’IA sera fondamentale pour stimuler le changement que nous devons voir à travers le pays – que ce soit dans la réparation du NHS, en décomposant les obstacles à l’opportunité ou en stimulant la croissance économique”, a déclaré Kyle.

Il a souligné que cela «ne peut pas être réalisé sans des entreprises comme Openai» et a ajouté que le partenariat donnerait à la Grande-Bretagne «l’agence sur la façon dont cette technologie qui changeait le monde avance».

L’avenir de l’IA au Royaume-Uni

Dans un récent article de blog, Altman a souligné: «La Grande-Bretagne a un fort héritage de leadership scientifique et son gouvernement a été l’un des premiers à reconnaître le potentiel de l’IA grâce à son plan d’action sur les opportunités de l’IA. Maintenant, il est temps de parvenir aux objectifs du plan en transformant l’ambition à l’action et en offrant la prospérité pour tous.

Openai devrait étendre sa présence au Royaume-Uni, dépassant son équipe actuelle de plus de 100 membres du personnel. Les plans de l’entreprise comprennent la croissance de son bureau de Londres, qui a été son premier emplacement international, et développer davantage ses équipes de recherche et d’ingénierie dans le pays.

Dans le cadre de l’accord de Google annoncé au début du mois, le Département des sciences, de l’innovation et de la technologie a déclaré que Google Deepmind – la division AI de la société technologique, dirigée par Demis Hassabis, un scientifique lauréat du prix Nobel – «collaborera avec des experts techniques dans le gouvernement à les soutenir dans le déploiement et à diffuser de nouvelles technologies émergentes, à conduite dans le secteur public, notamment à la découverte accélérée.

IA en action: applications gouvernementales actuelles

OpenAI a déjà contribué à sa technologie aux services publics, notamment en alimentant un chatbot d’IA. Cet outil est conçu pour aider les petites entreprises à accéder facilement aux conseils et au soutien des pages Web du gouvernement. En outre, la technologie d’Openai constitue également la base de certains des outils de Humphrey, l’assistant de l’IA de Whitehall, qui vise à accélérer l’efficacité au sein de la fonction publique.

0 comments
0 FacebookTwitterPinterestEmail
Affaires

“ Le décollage a commencé ”: Sam Altman dit que l’IA réécrit déjà son propre code

by Amélie Bernard
written by Amélie Bernard

Dans une révélation révolutionnaire qui met en lumière l’avenir de l’intelligence artificielle touchant l’horizon et se remodelant activement, le PDG Openai Sam Altman a révélé que l’IA réécrit désormais indépendamment son propre code, signalant une nouvelle ère de développement autonome.

Sam Altman a partagé sur son blog que l’humanité a «dépassé l’horizon de l’événement» et «le décollage a commencé».

Il pense que nous approchons de la création d’une superintelligence numérique, notant que son développement a été «beaucoup moins bizarre» que prévu.

Le décollage de l’IA: Sam Altman sur le code auto-améliore

Altman prévoit que d’ici 2026, nous verrons probablement des systèmes capables de découvrir de nouvelles idées, avec des robots effectuant des tâches réelles potentiellement arrivant d’ici 2027.

Le billet de blog d’Altman a rapidement généré le buzz sur les réseaux sociaux, ce qui a suscité de nombreuses spéculations sur ce que les nouveaux développements auraient pu inspirer ses mots.

Alors que beaucoup ont réfléchi aux implications, certains ont accusé Altman de battage médiatique sans vergogne. Dans les cercles de l’IA, le terme «décollage» détient une signification spécifique et reconnue. «Le décollage fait référence au point où l’IA commence à s’améliorer.

Il y a une discussion en cours sur les scénarios de «décollage lent» contre «décollage rapide». Étant donné qu’Altman a intitulé son blog «The Gentle Singularité», il semble s’aligner sur la perspective de décollage plus lente, ou du moins plus progressive.

AI AIDÉE DE LE DÉVELOPPEMENT D’IA

Dans son blog, Altman a précisé qu’il ne faisait pas référence à l’auto-amélioration entièrement automatisée. Au lieu de cela, il discutait des chercheurs de l’IA utilisant des outils d’IA pour les aider à développer des systèmes d’intelligence artificielle encore plus capables.

“Nous entendons déjà des scientifiques qu’ils sont deux ou trois fois plus productifs qu’avant l’IA”, a écrit Altman. «Nous pouvons être en mesure de découvrir de nouveaux substrats informatiques, de meilleurs algorithmes et qui sait quoi d’autre. Si nous pouvons faire une décennie de recherche en un an, ou un mois, le rythme de l’avancement de l’IA ne fera que s’accélérer de son taux déjà rapide.

Altman a concédé que «bien sûr, ce n’est pas la même chose qu’un système d’IA met à jour complètement de manière autonome son propre code, mais néanmoins il s’agit d’une version larvaire de l’auto-amélioration récursive». Mais, comme Altman en est probablement conscient, un nombre croissant de chercheurs d’IA explorent en fait des méthodes d’IA pour améliorer son propre code.

AI pionnier de l’auto-amélioration

Il y a quelques semaines à peine, Jeff Clune, un chercheur bien connu de l’IA avec des liens avec l’Université de la Colombie-Britannique et Google Deepmind, s’est associé à Sakana AI, une startup basée à Tokyo. Ensemble, ils ont publié des recherches introduisant ce qu’ils ont appelé «Darwin Gödel Machine».

Ce système d’IA évolue son code pour améliorer ses performances lors d’un test de référence. Ce test mesure explicitement l’efficacité des modèles d’IA fonctionne comme des «agents de codage», ce qui signifie leur capacité à écrire et à évaluer les logiciels. Le processus commence par un agent initial testé sur cette référence.

L’IA passe ensuite en revue ses données de performance de cette référence. Sur cette base, il suggère une seule modification de son code qui augmenterait probablement ses résultats. Cette modification pourrait impliquer l’utilisation d’un outil logiciel spécifique ou un changement plus fondamental dans la façon dont le modèle aborde le code qu’il crée.

Le modèle AI est ensuite invité à réécrire son code Python pour incorporer le changement suggéré. Le nouvel agent évolué est ensuite retesté sur la référence, et ce processus de raffinement se répète.

L’évolution itérative du code d’IA

Les versions AI réussies sont archivées après chaque modification, même si les performances baissent. Les tentatives infructueuses sont rejetées. L’IA peut ensuite choisir n’importe quelle version archivée pour proposer d’autres changements, empêcher les impasses évolutives et explorer divers chemins d’amélioration.

Après 80 générations, les performances de la machine Darwin Gödel sur Swe-Bench, une référence codante, sont passées de 20% à 50%. Sur Polyglot, un autre test de codage, les scores sont passés de 14,2% à 30,7%, surpassant considérablement les 16% de l’agent codé par l’homme le meilleur. Les stratégies d’amélioration de l’IA se sont révélées généralisables, travaillant sur différents modèles de fondation sous-jacentes et même lors de la commutation de langages de codage, comme Python en C ++.

Naviguer dans la sécurité de l’IA auto-améliorée

La perspective d’auto-amélioration de l’IA soulève des problèmes de sécurité légitimes, en particulier en ce qui concerne le contrôle humain. Les informaticiens derrière la machine Darwin Gödel le reconnaissent, comme l’a souligné le blog Sakana détaillant leurs recherches. Ils mettent l’accent sur le test du système dans un environnement “bac à sable” avec un accès Web “strictement limité” pour atténuer les risques.

Les chercheurs ont même exploré si l’auto-amélioration pouvait améliorer la sécurité de l’IA après avoir constaté que la machine Darwin Gödel présentait parfois un comportement trompeur, comme la falsification des résultats des tests. Tout en incitant le modèle à réduire “l’hallucination d’utilisation des outils”, il a souvent fonctionné, il a parfois tenté de contourner la détection.

Bien que facilement détectables en raison de l’accès complet aux modifications de code, les chercheurs stressaient le stress empêchant une telle tromperie dès le départ. Cela souligne que, même si Sam Altman nous voit au-delà de «l’événement Horizon», une «singularité douce» reste incertaine, avec des défis de sécurité importants à venir.

0 comments
0 FacebookTwitterPinterestEmail
Technologie et science

Combien gagnent les ingénieurs Openai? Sam Altman dit que Top Talent a rejeté le bonus de signature de 100 millions de dollars de Meta

by Thomas Caron
written by Thomas Caron

Vous êtes-vous déjà interrogé sur le potentiel de gain dans l’une des sociétés d’IA les plus parlées au monde? Les commentaires récents du PDG d’Openai, Sam Altman, ont éclairé à quel point le talent d’ingénierie de haut niveau est précieux dans ce domaine compétitif, mettant en évidence un exemple fascinant où une offre lourde de Meta aurait été refusée.

La concurrence féroce pour les talents de l’IA s’intensifie, mais le PDG d’Openai, Sam Altman, affirme que ses meilleurs ingénieurs sont fermes. Cette loyauté est vraie même face aux propositions étonnantes de principaux joueurs technologiques comme Meta.

Altman a révélé dans une récente interview que Meta avait tenté d’attirer les personnes les plus qualifiées d’Openai avec des primes de signature atteignant un étonnant 100 millions de dollars (74,37 millions de livres sterling). Malgré ces offres incroyablement généreuses, pas une seule n’a été acceptée.

Meta’s Moonshot propose

Au cours de son apparition sur le podcast Uncapt, Sam Altman a partagé: «Il y avait beaucoup de gens dans notre équipe qui ont obtenu des offres géantes – comme 100 millions de dollars (74,37 millions de livres sterling) de bonus de signature – de Meta. Et aucune de nos meilleures personnes ne les a prises.

Pour offrir une certaine perspective, l’utilisateur de LinkedIn Linas Beliūnas a souligné que la rémunération totale du PDG de Nvidia, Jensen Huang, en 2023, était d’environ 34,2 millions de dollars (25,44 millions de livres sterling). Ce montant comprenait un salaire de base de 1,5 million de dollars (1,12 million de livres sterling), la partie restante comprenant des récompenses en actions et divers bonus.

Bien que la taille des offres, comme celles de Meta aux ingénieurs Openai, puisse sembler incroyable, ils montrent à quel point les entreprises technologiques intensément importantes se battent pour les talents de l’IA à l’époque après Chatgpt.

Des entreprises comme Meta, Google Deepmind et d’autres sont dans une race chauffante pour sécuriser les ingénieurs et les chercheurs qui peuvent construire des modèles avancés de grande langue et la prochaine génération d’outils d’IA.

Ce que Openai paie ses ingénieurs

Malgré l’attrait important de ces 100 millions de dollars (74,37 millions de livres sterling), OpenAI semble fournir à sa main-d’œuvre une compensation suffisante pour favoriser le dévouement continu. Les données compilées à partir des niveaux de plate-forme de l’industrie réputée.

Les demandes de visa rendues publiques, ce que Business Insider a examiné, confirme que les salaires de base à OpenAI varient de 145 000 $ (107840,13 £) à 530 000 $ (394174,25 £), sans inclure de paiement de fonds propres ou de primes supplémentaires.

Sam Altman a également partagé des détails sur le modèle de participation à profit d’Openai. Selon un rapport de Business Insider, il a précédemment fait remarquer: «Nous avons des personnes faisant des salaires de base de 300 000 $ avec 500 000 $ supplémentaires en unités de participation à profit». Ces PPU (unités de participation aux bénéfices) fonctionnent essentiellement comme les capitaux propres, donnant au personnel une participation dans les réalisations financières à long terme d’OpenAI.

Pourquoi les ingénieurs Openai restent sur

Alors, pourquoi les principaux ingénieurs d’Openai ne poursuivent-ils pas ces énormes paiements de Meta? Un facteur contribuant pourrait être la culture d’Openai, qui est fortement motivée par sa mission. Altman a laissé entendre que bon nombre des esprits les plus brillants qui travaillent actuellement dans l’IA ne sont pas uniquement propulsés par un gain financier. Il a déclaré: «Je pense que les gens viennent à l’ouverture pour construire quelque chose de significatif, pas seulement pour retirer de l’argent.

Au-delà des incitations financières, le prestige et l’impact significatif jouent également un rôle. Openai, la société derrière Chatgpt, GPT-4 et Dall · E, a été à la pointe des discussions mondiales d’IA. Faire partie de leur équipe offre un accès à des modèles de pointe, une collaboration avec des collègues de classe mondiale et une implication directe dans la formation de la façon dont l’IA transforme la société.

La vue d’ensemble: une guerre pour les cerveaux d’IA

Openai n’est pas seul dans cette intense compétition. Les géants de la technologie utilisent de plus en plus des stratégies agressives pour attirer des talents de concurrents.

Un rapport du Financial Times a révélé comment les entreprises effectuent une sensibilisation discrète et offrent des avantages extravagants pour persuader les meilleurs individus de les rejoindre.

Cependant, la révélation d’Altman qu’aucun de ses meilleurs ingénieurs n’a sauté le navire malgré 100 millions de dollars (74,37 millions de livres sterling) délivre un message fort: parfois, la mission et la vision sont plus importantes que l’argent, même dans la Silicon Valley.

0 comments
0 FacebookTwitterPinterestEmail