Le Paradoxe du Mythe : Pourquoi Anthropic Accumule l'IA la Plus Puissante du Monde

Il y a une question dont beaucoup de gens dans la communauté de l'intelligence artificielle parlent. Cette question est discutée sur les forums de développeurs et sur Twitter technologique. La question est pourquoi Anthropic garde ses modèles d'IA avancés privés ou les déploie seulement de manière très contrôlée.

Au premier abord, il semble qu'Anthropic essaie simplement de protéger ses produits et de gagner de l'argent. Mais si vous lisez leurs articles de recherche ou leurs déclarations publiques, vous verrez que la situation est plus compliquée.

C'est ce que nous appelons le Paradoxe Mythique. Anthropic est une entreprise qui pense vraiment qu'elle pourrait créer l'une des technologies les plus importantes et les plus dangereuses de l'histoire de l'humanité. Même en le pensant, ils continuent à travailler dessus.

Qu'est-ce qu'Anthropic fait réellement?

Anthropic est un laboratoire qui place la sécurité en premier. Fondée en 2021 par des chercheurs d'OpenAI, dont Dario et Daniela Amodei. Anthropic dit qu'elle est une entreprise de sécurité en IA, pas une entreprise de produits IA.

Leurs recherches publiées sont très sérieuses, se concentrant sur la sécurité technique. En 2023, ils ont introduit quelque chose appelé cartes de modèle et politiques d'utilisation, que beaucoup de leurs concurrents ont copiées.

Pourtant, leur modèle d'IA appelé Claude devient de plus en plus avancé. Claude 3 Opus a obtenu de meilleurs résultats que GPT-4 aux tests. Claude 3.5 Sonnet est devenu très populaire chez les développeurs immédiatement.

Alors qu'est-ce qui se passe?

Le problème principal est pourquoi Anthropic construit quelque chose qu'ils pensent être potentiellement dangereux.

La question que leurs critiques posent constamment est: si Anthropic pense vraiment que l'IA est dangereuse, pourquoi la construisent-ils du tout?

Anthropic répond que l'IA puissante sera créée, peu importe quoi. Il est donc préférable que des laboratoires axés sur la sécurité y travaillent plutôt que d'autres développeurs qui ne réfléchissent pas aux risques.

C'est une décision qui oblige Anthropic à rester compétitif en déployant des modèles avancés, mais sans tout déployer. C'est à quoi cela ressemble quand ils sont prudents quant à ce qu'ils déploient.

La Politique de Mise à l'Échelle Responsable: Un Cadre que Personne n'a Demandé (Mais dont Tout le Monde Avait Besoin)

En septembre 2023, Anthropic a publié quelque chose appelé la Politique de Mise à l'Échelle. C'est un document qui énonce les conditions dans lesquelles ils vont ou ne vont pas déployer leurs modèles.

Il a introduit quelque chose appelé Niveaux de Sécurité IA, qui est comme un système de niveaux pour évaluer la sécurité ou le danger d'un modèle. Les niveaux les plus élevés décrivent les systèmes qui pourraient être utilisés pour causer du tort ou se répliquer d'eux-mêmes.

Le cadre énonce qu'Anthropic cessera de déployer un modèle s'il atteint un niveau de sécurité sans garanties adéquates en place. Aucun autre grand laboratoire d'IA n'a publié quelque chose de similaire.

À quoi cela ressemble quand Anthropic est prudent quant à ce qu'elle déploie?

Il y a un écart entre ce qu'Anthropic recherche en interne et ce qu'elle déploie publiquement. Anthropic compte certains des meilleurs chercheurs en IA du monde. Ils ont publié des découvertes sur le fonctionnement des réseaux de neurones, ce qui est très important.

Ce qu'ils publient et ce qu'ils déploient sont deux choses différentes. Il y a probablement des versions de modèles et des découvertes de recherche qu'Anthropic ne déploie pas encore, non pas à cause de la concurrence, mais parce que leur propre politique dit — pas encore.

De l'extérieur, il semble qu'Anthropic soit secrétaire. De l'intérieur, c'est plus comme ce qu'une compagnie pharmaceutique fait quand un nouveau médicament montre de la promesse mais n'a pas été approuvé comme sûr.

La question est qui décide ce qui est sûr quand c'est vous qui créez la technologie.

Anthropic peut-elle rester sûre tout en restant compétitive?

C'est la vérité au cœur du Paradoxe Mythique.

Anthropic a besoin d'argent pour financer la recherche en sécurité, et pour gagner de l'argent, elle doit déployer des produits. Pour être compétitif, elle doit avoir des capacités, ce qu'elle essaie d'atténuer les risques.

Selon certaines estimations, l'entraînement d'un modèle coûte beaucoup d'argent. Anthropic a levé beaucoup d'argent auprès d'investisseurs, ce qui signifie que le marché pense que l'IA axée sur la sécurité peut être rentable. Les investisseurs veulent des rendements, et les clients veulent le modèle le plus avancé disponible. Chaque mois, un concurrent déploie une fonctionnalité, et Anthropic doit décider de l'égaler ou non.

Jusqu'à présent, ils l'ont surtout égalée tout en faisant le travail de sécurité qui n'apparaît pas dans les tests publics.

Questions fréquemment posées sur l'approche d'Anthropic

1. Claude, le modèle d'IA le plus avancé, est-il disponible?

Cela dépend de ce que vous l'utilisez. Sur certains tests, Claude 3.5 Sonnet s'est régulièrement classé parmi les meilleurs modèles mondialement.

2. Pourquoi Anthropic ne met-elle pas ses modèles en open-source?

Anthropic a déclaré que mettre en open-source un modèle signifie qu'elle ne peut pas appliquer de garanties ou surveiller les abus.

Q: Le travail de sécurité d'Anthropic est-il réel ou juste pour la galerie?

La recherche est réelle. Elle a été examinée par des pairs et largement citée. La question de savoir si l'entreprise s'engage vraiment pour la sécurité est une question que la communauté de la sécurité en IA débat encore.

Le Mythe expliqué

Le mot «mythe» est utilisé délibérément ici.

Anthropic a créé un récit selon lequel elle est la responsable. Cela attire les talents, les financements et la bienveillance réglementaire. Que ce récit corresponde à la réalité n'est pas la question. Les récits façonnent le comportement, et une entreprise qui s'engage publiquement pour des seuils de sécurité est plus contrainte qu'une entreprise qui ne le fait pas.

Le paradoxe est que la prudence quant à ce qu'elle déploie pourrait être nécessaire. Si Anthropic déployait tout ce qu'elle avait aussi rapidement qu'elle pouvait, ce serait juste une autre entreprise d'IA courant vers le bas.

Les frictions délibérées, les politiques, les déploiements échelonnés et la recherche qui précède le déploiement sont les produits et non Claude.

Ce que cela signifie pour les développeurs, les entreprises et tous les autres

Si vous construisez sur l'API de Claude, le cadre Politique de Mise à l'Échelle Responsable est nouveau. Cela signifie que le modèle que vous utilisez aujourd'hui ne changera pas de manière inattendue demain.

Si vous êtes un concurrent, c'est une autre histoire. Le positionnement en sécurité d'Anthropic lui permet d'aller plus lentement que le marché pourrait l'exiger.

Si vous êtes juste quelqu'un qui observe tout cela de l'extérieur, le Paradoxe Mythique est un aperçu de la tension centrale du développement de l'IA pour la prochaine décennie.

Comment construisez-vous quelque chose qui pourrait changer le monde tout en tenant les gens qui le construisent responsables?

Anthropic n'a pas encore de réponse, mais elle est l'une des rares organisations à poser la question assez fort pour devoir vivre avec.

TL;DR

Anthropic travaille sur une technologie qui pourrait être très risquée. Ils continuent, pensant que leur approche prudente est meilleure que de laisser d'autres la faire sans réfléchir à la sécurité. Ils ont des règles comme la Politique de Mise à l'Échelle, ce qui signifie qu'ils n'ajouteront pas de fonctionnalités tant qu'ils ne sont pas sûrs qu'elles sont sûres. Certaines personnes pourraient penser que c'est simplement garder les choses pour eux. À l'intérieur de l'entreprise, c'est un choix délibéré d'être prudent.

Il y a un problème: pour mener leurs recherches en sécurité, ils ont besoin d'argent. Pour obtenir de l'argent, ils doivent fabriquer des produits qui concurrencent les autres. Fabriquer des produits compétitifs peut les exposer aux mêmes risques qu'ils essaient d'éviter.

Cherchez-vous à construire une équipe technologique performante à distance?

Découvrez MyNextDeveloper, une plateforme où vous pouvez trouver les 3% meilleurs ingénieurs logiciels qui sont profondément passionnés par l'innovation. Nos solutions de talents logiciels à la demande, dédiées et approfondies fournissent une solution complète pour tous vos besoins logiciels.

Visitez notre site web pour découvrir comment nous pouvons vous aider à assembler votre équipe parfaite.