Ia : altman et pachocki tirent la sonnette d'alarme sur l'automatisation totale
Le monde de l'intelligenceartificielle est en ébullition, mais au milieu de l'euphorie technologique, une voix s'élève pour tempérer les ardeurs : celle de Sam Altman, PDG d'OpenAI. Avec son bras droit, Jakub Pachocki, il met en garde contre un avenir où l'automatisation serait poussée à l'extrême, un scénario qu'ils qualifient de « dangereux » et « insatisfaisant ».
L'avertissement d'openai : une pause nécessaire ?
La publication sur le blog d'OpenAI, qui intervient quelques jours après une mise en garde similaire de la part d'Anthropic, soulève un point crucial : la course effrénée à l'automatisation pourrait nous échapper. Altman, qui observe un usage intensif de la Technologie par ses propres employés – certains utilisant jusqu'à 100 milliards de tokens par mois – insiste sur la nécessité de préserver le rôle des humains, notamment dans la prise de décision et l'application de valeurs éthiques. Loin d'un simple caprice, il s'agit d'une réflexion sur la nature même du travail et du progrès.
L'IA agéntive, ces systèmes capables d'exécuter des tâches avec une intervention humaine minimale, sont au cœur de cette nouvelle rivalité entre OpenAI et Anthropic. Les deux entreprises se livrent une bataille acharnée pour attirer les entreprises vers leurs plateformes de codage, Codex et Claude Code, avant une potentielle introduction en bourse. Mais le prix de cette course à la performance ne doit pas être la perte de contrôle.
Anthropic, quant à elle, n'hésite pas à évoquer des difficultés à suivre le rythme de l'automatisation et à corriger les erreurs commises par les systèmes d'IA. L'entreprise appelle même à un ralentissement du développement, afin de permettre aux structures sociales et à la recherche sur l'alignement de rattraper leur retard. Une proposition radicale, mais qui témoigne d'une prise de conscience croissante des risques potentiels.
Alors que Luis von Ahn, PDG de Duolingo, affirme que ses meilleurs designers produisent un travail supérieur à celui de l'IA, et que Marc Benioff, PDG de Salesforce, refuse de réduire ses effectifs dans le département des ventes, la question se pose : quelles sont les fonctions humaines que la machine ne pourra jamais remplacer ? La réponse, semble-t-il, réside dans la capacité à faire preuve de jugement, d'empathie et de responsabilité – des qualités intrinsèquement humaines.
La crainte n'est pas que l'IA nous supplante, mais qu'elle nous déshumanise. Le défi n'est pas de savoir comment automatiser davantage, mais comment intégrer l'IA de manière responsable, en préservant l'essence même de ce qui nous rend humains. Et pour cela, une pause, une réflexion, voire un coup de frein s'imposent peut-être.