Das Mythos-Paradoxon: Warum Anthropic die mächtigste KI der Welt hortet

Es gibt eine Frage, über die viele Menschen in der Artificial Intelligence-Gemeinschaft sprechen. Diese Frage wird in Entwicklerforen und auf Tech-Twitter diskutiert. Die Frage ist, warum Anthropic seine fortschrittlichen KI-Modelle privat hält oder sie nur auf sehr kontrollierte Weise freigibt.

Auf den ersten Blick sieht es so aus, als würde Anthropic nur seine Produkte schützen und Geld verdienen wollen. Aber wenn man ihre Forschungspapiere oder öffentliche Aussagen liest, wird man sehen, dass die Situation komplizierter ist.

Das nennen wir das Mythos-Paradoxon. Anthropic ist ein Unternehmen, das wirklich glaubt, dass es möglicherweise eine der wichtigsten und gefährlichsten Technologien der Menschheitsgeschichte schafft. Und obwohl sie das glauben, arbeiten sie weiterhin daran.

Was macht Anthropic eigentlich?

Anthropic ist ein Labor, das Sicherheit an erste Stelle setzt. Es wurde 2021 von OpenAI-Forschern gegründet, darunter Dario und Daniela Amodei. Anthropic sagt, dass es ein KI-Sicherheitsunternehmen ist, kein KI-Produktunternehmen.

Ihre veröffentlichte Forschung ist sehr ernst zu nehmen und konzentriert sich auf technische Sicherheit. 2023 führten sie etwas ein, das Modellkarten und Nutzungsrichtlinien genannt wird, die viele ihrer Konkurrenten kopiert haben.

Doch ihr KI-Modell namens Claude wird immer fortschrittlicher. Claude 3 Opus schnitt bei Tests besser ab als GPT-4. Claude 3.5 Sonnet wurde sofort sehr beliebt bei Entwicklern.

Was ist also los?

Das Hauptproblem ist, warum Anthropic etwas baut, das es für gefährlich hält.

Die Frage, die ihre Kritiker immer wieder stellen, lautet: Wenn Anthropic wirklich denkt, dass KI gefährlich ist, warum bauen sie sie dann überhaupt?

Anthropic antwortet, dass leistungsstarke KI auf jeden Fall geschaffen wird, egal was passiert. Also ist es besser, dass sicherheitsorientierte Labore daran arbeiten, als andere Entwickler, die die Risiken nicht berücksichtigen.

Dies ist eine Entscheidung, die Anthropic dazu zwingt, wettbewerbsfähig zu bleiben, indem es fortschrittliche Modelle freigibt, aber nicht alles, was es hat. So sieht es aus, wenn sie vorsichtig sind, was sie freigeben.

Die Responsible Scaling Policy: Ein Framework, das niemand gefordert hat (aber alle brauchten)

Im September 2023 veröffentlichte Anthropic etwas, das Scaling Policy genannt wird. Dies ist ein Dokument, das besagt, unter welchen Bedingungen es ihre Modelle einsetzen wird und unter welchen nicht.

Es führte etwas ein, das AI Safety Levels genannt wird, ein System von Ebenen, die beschreiben, wie sicher oder gefährlich ein Modell ist. Die höchsten Ebenen beschreiben Systeme, die zur Verursachung von Schaden oder zur Selbstreplikation verwendet werden könnten.

Das Framework besagt, dass Anthropic die Bereitstellung eines Modells einstellen wird, wenn es eine Sicherheitsebene ohne angemessene Sicherheitsmaßnahmen erreicht. Kein anderes großes KI-Labor hat etwas Ähnliches veröffentlicht.

Wie sieht es aus, wenn Anthropic vorsichtig ist, was es freigibt?

Es gibt eine Lücke zwischen dem, woran Anthropic intern forscht, und dem, was es öffentlich freigibt. Anthropic hat einige der besten KI-Forscher der Welt. Es hat Erkenntnisse darüber veröffentlicht, wie neuronale Netzwerke funktionieren, was sehr wichtig ist.

Das, was sie veröffentlichen, und das, was sie einsetzen, sind zwei verschiedene Dinge. Es gibt wahrscheinlich Modellversionen und Forschungsergebnisse, die Anthropic noch nicht freigibt, nicht wegen des Wettbewerbs, sondern weil ihre eigene Richtlinie besagt – noch nicht.

Von außen sieht es so aus, als wäre Anthropic geheimnisvoll. Von innen ist es eher das, was eine Pharmaunternehmen tut, wenn ein neues Medikament vielversprechend ist, aber noch nicht als sicher freigegeben wurde.

Die Frage ist wer entscheidet, was sicher ist, wenn man derjenige ist, der die Technologie erschafft.

Kann Anthropic sicher bleiben und trotzdem wettbewerbsfähig sein?

Das ist die Wahrheit im Zentrum des Mythos-Paradoxons.

Anthropic braucht Geld, um Sicherheitsforschung zu finanzieren, und um Geld zu verdienen, muss es Produkte freigeben. Um wettbewerbsfähig zu sein, braucht es Fähigkeiten, deren Risiken es versucht zu entschärfen.

Nach einigen Schätzungen kostet das Training eines Modells viel Geld. Anthropic hat viel Geld von Investoren aufgebracht, was bedeutet, dass der Markt denkt, dass sicherheitsorientierte KI rentabel sein kann. Investoren wollen Renditen, und Kunden wollen das fortschrittlichste verfügbare Modell. Jeden Monat gibt ein Konkurrent ein Feature frei, und Anthropic muss entscheiden, ob es damit gleichziehen soll oder nicht.

Bisher haben sie es meistens getan und dabei die Sicherheitsarbeit geleistet, die in öffentlichen Tests nicht sichtbar wird.

Häufig gestellte Fragen zum Ansatz von Anthropic

1. Ist Claude, das fortschrittlichste KI-Modell, verfügbar?

Das hängt davon ab, wofür Sie es verwenden. Bei einigen Tests hat Claude 3.5 Sonnet durchgehend zu den besten Modellen weltweit gehört.

2. Warum macht Anthropic seine Modelle nicht Open-Source?

Anthropic hat gesagt, dass die Open-Sourcing eines Modells bedeutet, dass es keine Schutzmaßnahmen anwenden oder Missbräuche überwachen kann.

F: Ist die Sicherheitsarbeit von Anthropic echt oder nur für die Galerie?

Die Forschung ist echt. Sie wurde von Fachkollegen überprüft und weit zitiert. Ob das Unternehmen wirklich dem Sicherheit verpflichtet ist, ist eine Frage, die die KI-Sicherheits-Gemeinschaft noch immer debattiert.

Das Mythos erklärt

Das Wort „Mythos" wird hier absichtlich verwendet.

Anthropic hat eine Erzählung geschaffen, dass sie die Verantwortungsvollen sind. Dies zieht Talente, Finanzierung und wohlwollende Regulierung an. Ob diese Erzählung der Realität entspricht, ist nicht der Punkt. Erzählungen prägen Verhalten, und ein Unternehmen, das sich öffentlich zu Sicherheitsschwellen verpflichtet, ist stärker eingeschränkt als eines, das dies nicht tut.

Das Paradoxon ist, dass Vorsicht bei der Freigabe notwendig sein könnte. Wenn Anthropic alles, was es hat, so schnell wie möglich freigibt, wäre es nur ein weiteres KI-Unternehmen, das in den Wettrennen nach unten rast.

Die absichtliche Reibung, die Richtlinien, die gestaffelten Rollouts und die Forschung, die der Bereitstellung vorausgeht, sind die Produkte und nicht Claude.

Was das für Entwickler, Unternehmen und alle anderen bedeutet

Wenn Sie auf Claudes API aufbauen, ist das Responsible Scaling Policy-Framework neu. Das bedeutet, dass sich das Modell, das Sie heute verwenden, morgen nicht unerwartet ändert.

Wenn Sie ein Konkurrent sind, ist es eine andere Geschichte. Anthropics Sicherheitspositionierung gibt ihnen die Möglichkeit, langsamer zu bewegen als der Markt möglicherweise verlangen würde.

Wenn Sie nur eine Person sind, die all dies von außen beobachtet, ist das Mythos-Paradoxon eine Vorschau auf die zentrale Spannung in der KI-Entwicklung für das nächste Jahrzehnt.

Wie baut man etwas, das die Welt verändern könnte, während man die Menschen, die es bauen, zur Rechenschaft zieht?

Anthropic hat noch keine Antwort, aber es ist eine der wenigen Organisationen, die die Frage laut genug stellt, dass es damit leben muss.

TL;DR

Anthropic arbeitet an einer Technologie, die sehr risikohaft sein könnte. Sie machen weiter, da sie glauben, dass ihr vorsichtiger Ansatz besser ist, als andere es ohne Überlegung zur Sicherheit tun zu lassen. Sie haben Regeln wie die Scaling Policy, was bedeutet, dass sie keine Features hinzufügen, bis sie sicher sind, dass sie sicher sind. Einige Leute könnten denken, dass dies einfach nur Dinge für sich selbst behält. Im Unternehmen ist es eine bewusste Entscheidung, vorsichtig zu sein.

Es gibt ein Problem: Um ihre Sicherheitsforschung durchzuführen, brauchen sie Geld. Um Geld zu bekommen, müssen sie Produkte herstellen, die mit anderen konkurrieren. Die Herstellung wettbewerbsfähiger Produkte kann sie den gleichen Risiken aussetzen, die sie zu vermeiden versuchen.

Möchten Sie ein leistungsstarkes Remote-Tech-Team aufbauen?

Schauen Sie sich MyNextDeveloper an, eine Plattform, auf der Sie die besten 3% der Softwareentwickler finden können, die wirklich leidenschaftlich für Innovation sind. Unsere bedarfsgerechten, dedizierten und gründlichen Softwaretallent-Lösungen bieten eine umfassende Lösung für alle Ihre Softwareanforderungen.

Besuchen Sie unsere Website, um zu erfahren, wie wir Sie dabei unterstützen können, Ihr perfektes Team zusammenzustellen.