OpenAI libère une intelligence artificielle dangereuse pour le monde, selon Reuters

OpenAI, une entreprise spécialisée dans le développement de l'intelligence artificielle, a fait une découverte qui pourrait s'avérer être une menace pour l'humanité, rapporte Reuters, citant des informations provenant de sources au sein de l'entreprise.

Selon l'agence, avant la démission du PDG d'OpenAI, Sam Altman, plusieurs chercheurs ont présenté au conseil d'administration un rapport sur la découverte dans le domaine de l'intelligence artificielle, ce qui a suscité l'indignation de la direction et conduit à la démission d'Altman.

Un message interne aux employés d'OpenAI a reconnu l'existence d'un projet appelé Q*. Certains employés pensent que Q* (prononcé Q-Star) pourrait définir une nouvelle étape dans le développement de l'intelligence artificielle générale (AGI) - des systèmes autonomes qui surpassent les humains dans de nombreuses tâches économiquement importantes.

Grâce à ses énormes capacités de calcul, Q* peut résoudre des problèmes mathématiques complexes. Bien que l'informatique soit actuellement limitée au niveau des élèves de l'école primaire, les tests du système ont fait naître chez les chercheurs l'espoir d'un développement réussi de Q* à l'avenir.

Reuters note que les scientifiques considèrent les mathématiques comme un élément clé du développement de l'intelligence artificielle générative. La capacité d'effectuer des calculs donnera à l'intelligence artificielle davantage de possibilités de penser de la même manière que l'intelligence humaine. Les experts en IA pensent que cela peut être appliqué, par exemple, à de nouvelles recherches scientifiques.

Bien que les détails spécifiques des préoccupations soulevées par les chercheurs restent inconnus, les sources de l'agence indiquent que leur lettre a mis en évidence les compétences et le danger potentiel associés à l'intelligence artificielle. Les informaticiens débattent actuellement des dangers que représentent les machines hautement intelligentes, en particulier si elles décident que la destruction de l'humanité leur est bénéfique.