Le PDG d'Anthropic a qualifié la Chine de principal obstacle à l ralentissement du développement de l'IA
- Le PDG d'Anthropic considère la Chine comme le principal obstacle à la limitation de l'IA
- Il a proposé une « limite de vitesse » mondiale, mais doute de sa mise en œuvre
- Les startups chinoises accélèrent le développement de l'IA, en concurrence avec OpenAI et Anthropic
- OpenAI et Anthropic se préparent à un IPO, mais les délais n'ont pas encore été annoncés
Lors d'une interview dans l'émission Sunday Morning sur CBS, Dario Amodei, le directeur général d'Anthropic, a souligné que les efforts pour établir des restrictions internationales en matière d'intelligence artificielle font face à un défi géopolitique sérieux. Selon lui, le principal problème est le manque de volonté des pays concurrents, en particulier la Chine, de respecter de telles restrictions pour préserver un avantage stratégique.
L'idée de «limite de vitesse» et sa réalisme
Amodéi a proposé de créer un accord mondial sur la «limite de vitesse» du développement des technologies IA, permettant de réduire les risques associés à l'utilisation potentiellement catastrophique des modèles les plus puissants. Cependant, il a exprimé des doutes quant à la faisabilité de cette idée, soulignant les fortes incitations à l'avance technologique qui motivent les États et les entreprises.
Malgré les doutes, Amodéi a souligné que des tentatives de négociation sont nécessaires. Il a rappelé ses précédents appels aux entreprises pour ralentir l'amélioration des modèles avancés, en réponse à l'inquiétude croissante au sein de l'industrie concernant les menaces potentielles.
Les désaccords internes chez Anthropic se sont intensifiés après le départ de l'employé Jacob Coxon, qui a expliqué sa décision par la peur que des entreprises, y compris leur principal concurrent OpenAI, «jouent à la roulette avec nos vies».
Pendant ce temps, les startups chinoises développent activement leurs réseaux neuronaux, créant une concurrence pour les leaders du marché – OpenAI et Anthropic. Lors du sommet des BRICS en Inde, le président chinois Xi Jinping a appelé à la formation d'un mécanisme de gouvernance mondial de l'IA basé sur le consensus, et les autorités chinoises ont annoncé des plans pour soutenir la communauté ouverte des développeurs d'IA dans le cadre d'un bloc réunissant 11 pays, y compris la Russie.
Anthropic et OpenAI se préparent à de potentielles introductions en bourse, mais aucune date officielle n'est encore fixée. Sam Altman, le directeur d'OpenAI, a déclaré que la société pourrait reporter son IPO jusqu'à l'année prochaine, en partie en raison de questions de sécurité. Malgré des désaccords antérieurs, Altman a soutenu l'initiative d'Amodei, affirmant la nécessité de « ralentir le développement des systèmes avancés ».
L'initiative a également été soutenue par des personnalités connues de l'industrie : Demis Hassabis, président du conseil d'administration de Google DeepMind, a souligné que l'essai d'Amodei indique la bonne direction, bien que les détails nécessitent un travail supplémentaire ; Elon Musk, directeur de Tesla et SpaceX, a exprimé son accord avec la proposition de ralentir le développement des systèmes d'IA avancés.
La situation souligne la tension croissante entre le désir de progrès technologique et la nécessité d'assurer la sécurité et le contrôle sur les puissants outils d'IA. Tant qu'un accord mondial reste inatteignable, le dialogue entre les pays et les entreprises continue d'être un élément clé pour prévenir les menaces potentielles.
Source : 3DNews
