Intelligence artificielle : anthropic et le pentagone au bord du gouffre
Un conflit majeur éclate entre la startup Anthropic et le Pentagone, illustrant les tensions grandissantes autour de l'utilisation de l'IA. La société, connue pour son assistant d'IA Claude, a refusé de céder aux exigences du Département de la Défense américain concernant l'usage de son modèle, déclenchant une crise aux conséquences potentiellement importantes pour le développement de l'intelligence artificielle.
Claude face au veto du pentagone : une ligne rouge franchie
Anthropic s'est fermement opposée à l'idée que Claude soit utilisé pour la surveillance massive des citoyens américains ou pour le développement d'armes entièrement autonomes. Cette décision a précipité l'annulation d'un accord de collaboration avec le Département de la Défense. Dario Amodei, PDG d'Anthropic, a défendu sans ambages cette position, affirmant que "discuter avec le gouvernement est le plus américain du monde".
Cette dispute intervient dans un contexte de compétition féroce entre Anthropic et OpenAI, son ancien partenaire. Les deux entreprises rivalisent sur le développement de chatbots performants, les recrutements et même les campagnes publicitaires, comme l'ont montré les récentes publicités d'Anthropic lors du Super Bowl, une pique directe à OpenAI.
Le désaccord entre les deux hommes remonte à leur passé commun chez OpenAI. Amodei, autrefois responsable de la sécurité de l'IA chez OpenAI, avait exprimé des inquiétudes quant au manque d'investissement dans la sécurité et l'éthique face à la commercialisation rapide des produits. Cette vision divergente a conduit à son départ en 2020. Il a fondé Anthropic en 2021 avec Daniela Amodei, sa sœur, ancienne responsable de la politique et de la sécurité chez OpenAI. Leur objectif : privilégier la sécurité et le contrôle de leur modèle Claude, même si cela signifie ralentir leur progression dans la course à l'IA.
Cette situation a également suscité la réaction du président Donald Trump, qui a qualifié Anthropic d'« entreprise radicale de gauche et woke » et a promis de ne plus faire affaire avec elle. Le secrétaire à la Défense, Pete Hegseth, a même menacé d'exclure Anthropic des contrats gouvernementaux. Amodei a répliqué que l'entreprise analyserait les actions formelles du gouvernement et les contesterait si nécessaire.
La guerre des chatbots s'intensifie. Claude, selon certaines analyses, surpasse désormais ChatGPT, notamment après l'annulation de l'accord d'Anthropic avec le Pentagone. Les deux entreprises bénéficient d'investissements importants. Anthropic compte sur le soutien d'Amazon, Salesforce et Alphabet, tandis qu'OpenAI s'appuie sur Softbank et Thrive Capital, ainsi que des fonds souverains du Moyen-Orient. Le financement de 730 milliards de dollars d'OpenAI, qui envisage une introduction en bourse, contraste avec la récente levée de fonds d'Anthropic à 380 milliards de dollars.
Il ne s'agit pas d'une simple querelle commerciale. Cette dispute révèle les dilemmes éthiques profonds liés au développement de l'intelligence artificielle et à son utilisation potentielle par les institutions gouvernementales. La question de la surveillance de masse et de l'autonomie des armes est au cœur du débat, et les réponses que prendront les entreprises et les gouvernements façonneront l'avenir de cette Technologie.
L'affaire met en lumière la difficulté de concilier innovation rapide et responsabilité éthique, un défi qui se précise à mesure que l'IA s’intègre davantage dans les rouages du pouvoir.