Mustafa Suleyman, responsable de l'intelligence artificielle grand public chez Microsoft, affirme qu'il arrêtera tout développement immédiatement si une IA avancée menace un jour la sécurité humaine.
S'exprimant sur le plateau de l'émission The Mishal Husain Show de Bloomberg, Mustafa a affirmé que Microsoft se concentrait sur la création d'une super intelligence alignée sur les intérêts humains, et non sur la recherche de la puissance brute à tout prix.
« Nous n'allons pas poursuivre le développement d'un système susceptible de nous échapper », a déclaré Mustafa lors de l'entretien. Il a ajouté que cette position ne devrait pas susciter de controverse, la qualifiant d'évidente, même s'il estime qu'elle reste encore rare dans le secteur de l'IA.
Microsoft retrouve la liberté de développer des systèmes d'IA avancés
Mustafa a rejoint Microsoft au début de l'année dernière après que la société a acquis la propriété intellectuelle et une grande partie de l'équipe derrière sa start-up, Inflection AI, après avoir abandonné OpenAI pour des outils d'IA destinés aux consommateurs.
Après l'acquisition, Mustafa a été chargé de concevoir des produits capables de concurrencer directement les modèles lestronperformants déjà présents sur le marché.
Pendant une grande partie de cette période, ses travaux ont été limités. Les clausestracliées au partenariat de Microsoft avec OpenAI empêchaient l'entreprise de développer une intelligence artificielle générale, deficomme des systèmes capables de performances équivalentes à celles de l'humain, ainsi qu'une superintelligence, qui surpasserait les capacités humaines.
Mustafa a déclaré que Microsoft avait renoncé à ces droits en échange de l'accès aux modèles les plus récents d'OpenAI. Cet accord prévoyait également la construction et l'équipement de centres de données par Microsoft pour OpenAI sur plusieurs années.
Cette structure a changé en octobre. Un nouvel accord a redéfini la relation et a restitué les droits de développement à Microsoft.
Mustafa a déclaré qu'OpenAI avait désormais conclu des accords d'infrastructure avec d'autres partenaires, dont SoftBank et Oracle, pour construire davantage de centres de données que Microsoft n'était disposé à en construire. « Ils ont maintenant des accords avec SoftBank et bien d'autres – Oracle – pour construire plus de centres de données que Microsoft ne voulait en construire pour eux », a-t-il expliqué. « Et donc, en contrepartie, nous avons le droit de développer notre propre IA. »
Il a déclaré que Microsoft était resté un développeur d'IA à usage général au cours des 18 derniers mois, mais qu'il s'orientait désormais vers des travaux susceptibles de surpasser les performances humaines dans toutes les tâches.
« Ces 18 derniers mois, nous sommes restés un cabinet de développement d'IA généraliste, mais nous pouvons désormais travailler sur des techniques et des méthodologies susceptibles de surpasser les performances humaines dans toutes les tâches », a déclaré . « Il s'agit donc d'un changement de cap pour nous. »
Suleyman décrit une approche prudente, les outils restant inachevés.
Le mois dernier, Mustafa a officiellement annoncé ce projet de superintelligence dans un article de blog exposant la position de Microsoft : de tels systèmes doivent être conçus pour servir l’humanité. D’autres acteurs majeurs, comme OpenAI et Anthropic PBC, avancent souvent des arguments similaires concernant la sécurité et les bénéfices pour l’humanité.
« Chacun doit décider de ses valeurs et de son mode de fonctionnement, et je ne souhaite pas juger leur façon d'agir actuellement », a-t-il déclaré. « Je ne constate aucun signe de préjudice massif à grande échelle. »
Malgré l'intérêt porté depuis longtemps à la superintelligence, Mustafa a déclaré que le débat actuel reste théorique.
Les consommateurs attendent des assistants capables de gérer des tâches comme la réservation de billets ou l'organisation de leurs achats. Les dirigeants, quant à eux, espèrent des gains de productivité. Aucun des deux n'a encore pleinement atteint cet objectif.
Mustafa a cité l'assistant utilisateur Copilot de Microsoft comme exemple. Il a indiqué que ses fonctionnalités, similaires à celles d'un agent, sont encore en phase de test et ne fonctionnent pas toujours comme prévu.
« Nous sommes encore en phase d'expérimentation », a déclaré Mustafa. « Mais quand cela fonctionnera, ce sera la chose la plus magique que vous ayez jamais vue. »
Si vous lisez ceci, vous êtes déjà en avance. Restez informés grâce à notre newsletter .
