Mythos-paradokset: Hvorfor Anthropic hamstrer verdens mest kraftfulde AI

Der er et spørgsmål, som mange mennesker i kunstig intelligens-fællesskabet diskuterer. Dette spørgsmål bliver debatteret på udviklerforummer og tech Twitter. Spørgsmålet er, hvorfor Anthropic holder sine avancerede AI-modeller private eller kun frigiver dem på en meget kontrolleret måde.

Ved første øjekast ser det ud til, at Anthropic bare prøver at beskytte sine produkter og tjene penge. Men hvis du læser deres forskningspapirer eller offentlige udtalelser, vil du se, at situationen er mere kompliceret.

Dette er, hvad vi kalder Mythos Paradokset. Anthropic er en virksomhed, der virkelig tror, at den måske skaber en af de vigtigste og farligste teknologier i menneskehedens historie. Selv mens de tror dette, arbejder de stadig på det.

Hvad laver Anthropic egentlig?

Anthropic er et laboratorium, der fokuserer på sikkerhed først. Det blev grundlagt i 2021 af OpenAI-forskere, herunder Dario og Daniela Amodei. Anthropic siger, at det er et AI-sikkerhedsfirma, ikke et AI-produktfirma.

Deres offentliggjorte forskning er meget seriøs og fokuserer på teknisk sikkerhed. I 2023 introducerede de noget kaldet modelkort og brugspolitikker, som mange af deres konkurrenter har kopieret.

Alligevel bliver deres AI-model kaldet Claude stadig mere og mere avanceret. Claude 3 Opus præsterede bedre end GPT-4 på tests. Claude 3.5 Sonnet blev meget populær blandt udvikler med det samme.

Så hvad foregår der?

Hovedproblemet er, hvorfor Anthropic bygger noget, som de mener kunne være farligt.

Det spørgsmål, som deres kritikere bliver ved med at stille, er: hvis Anthropic virkelig tror, at AI er farlig, hvorfor bygger de det så overhovedet?

Anthropic svarer, at kraftfuld AI vil blive skabt, uanset hvad. Så det er bedre at have sikkerhedsfokuserede laboratorier, der arbejder på det, end andre udvikler, som ikke tænker på risiciene.

Dette er en beslutning, der kræver, at Anthropic forbliver konkurrencedygtig ved at frigive avancerede modeller, men ikke alt, hvad de har. Dette er, hvad det ser ud til, når de er forsigtige med, hvad de frigiver.

Ansvarlig Scaling-politik: En ramme, som ingen spurgte om (men som alle havde brug for)

I september 2023 offentliggjorde Anthropic noget kaldet Scaling-politikken. Dette er et dokument, der siger, under hvilke forhold de vil og ikke vil implementere deres modeller.

Det introducerede noget kaldet AI-sikkerhedsniveauer, som er som et system af niveauer for, hvor sikker eller farlig en model er. De højeste niveauer beskriver systemer, der kunne bruges til at forårsage skade eller selv replikere.

Rammerne siger, at Anthropic vil stoppe med at implementere en model, hvis den når et sikkerhedsniveau uden tilstrækkelige sikkerhedsforanstaltninger. Intet andet større AI-laboratorium har offentliggjort noget lignende.

Hvad ser det ud til, når Anthropic er forsigtig med, hvad de frigiver?

Der er et gap mellem, hvad Anthropic forsker i internt, og hvad de frigiver offentligt. Anthropic har nogle af verdens bedste AI-forskere. De har offentliggjort resultater om, hvordan neurale netværk fungerer, hvilket er meget vigtigt.

Hvad de offentliggør, og hvad de implementerer, er to forskellige ting. Der er sandsynligvis modelversioner og forskningsresultater, som Anthropic ikke frigiver endnu, ikke på grund af konkurrence, men fordi deres egen politik siger — ikke endnu.

Udefra ser det ud til, at Anthropic er hemmelighedsfuld. Indefra ligner det mere, hvad et farmaceutisk firma gør, når et nyt lægemiddel viser lovende resultater, men endnu ikke er godkendt som sikkert.

Spørgsmålet er hvem får lov til at bestemme, hvad der er sikkert, når du er den, der skaber teknologien.

Kan Anthropic forblive sikker og samtidig være konkurrencedygtig?

Dette er sandheden i centrum af Mythos Paradokset.

Anthropic har brug for penge til at finansiere sikkerhedsforskning, og for at tjene penge, skal de frigive produkter. For at være konkurrencedygtig skal de have muligheder, hvilket er det, de prøver at mindske risiciene for.

Ifølge nogle skøn koster træning af en model meget penge. Anthropic har rejst meget penge fra investorer, hvilket betyder, at markedet tror, at sikkerhedsfokuseret AI kan være rentabel. Investorer ønsker afkast, og kunder ønsker den mest avancerede model, der findes. Hver måned frigiver en konkurrent en funktion, og Anthropic skal beslutte, om de skal matche den eller ej.

Indtil videre har de stort set matchet den, mens de laver det sikkerhedsarbejde, som ikke kommer til syne i offentlige tests.

Ofte stillede spørgsmål om Anthropics tilgang

1. Er Claude, den mest avancerede AI-model, tilgængelig?

Det afhænger af, hvad du bruger det til. På nogle tests har Claude 3.5 Sonnet konsistent været blandt de bedste modeller globalt.

2. Hvorfor open-source Anthropic ikke sine modeller?

Anthropic har sagt, at open-sourcing en model betyder, at de ikke kan anvende sikkerhedsforanstaltninger eller overvåge misbrug.

Q: Er Anthropics sikkerhedsarbejde rigtigt eller bare for syns skyld?

Forskningen er rigtig. Den er blevet peer-reviewed og citeret vidt. Hvorvidt virksomheden virkelig er forpligtet til sikkerhed, er et spørgsmål, som AI-sikkerhedsfællesskabet stadig debatterer.

Mythos forklaret

Ordet "mythos" bruges med vilje her.

Anthropic har skabt en fortælling om, at de er de ansvarlige. Dette tiltrækker talent, finansiering og regulatorisk velvilje. Hvorvidt denne fortælling stemmer overens med virkeligheden, er ikke pointen. Fortællinger former adfærd, og en virksomhed, der offentligt forpligter sig til sikkerhedstærskler, er mere begrænset end en, der ikke gør.

Paradokset er, at være forsigtig med, hvad de frigiver, kan være nødvendigt. Hvis Anthropic frigav alt, hvad det havde, så hurtigt som det kunne, ville det bare være endnu et AI-firma, der kappedes mod bunden.

Den bevidste friktion, politikkerne, de trinvise udrulninger og den forskning, der går forud for implementeringen, er produkterne og ikke Claude.

Hvad det betyder for udvikler, virksomheder og alle andre

Hvis du bygger på Claudes API, er Ansvarlig Scaling-politik-rammen ny. Det betyder, at den model, du bruger i dag, ikke ændrer sig uventet i morgen.

Hvis du er konkurrent, er det en anden historie. Anthropics sikkerhedspositionering giver dem mulighed for at bevæge sig langsommere, end markedet måske kræver.

Hvis du blot er en person, der ser alt dette udefra, er Mythos Paradokset en forhåndsvisning af den centrale spænding i AI-udvikling i det næste årti.

Hvordan bygger du noget, der kan ændre verden, mens du holder de mennesker, der bygger det, ansvarlige?

Anthropic har endnu ikke et svar, men de er en af de få organisationer, der stiller spørgsmålet højt nok til, at de skal leve med det.

TL;DR

Anthropic arbejder på en teknologi, der kunne være meget risikabel. De fortsætter med at tro, at deres forsigtige tilgang er bedre end at lade andre gøre det uden at tænke på sikkerhed. De har regler som Scaling-politikken, som betyder, at de ikke vil tilføje funktioner, før de er sikre på, at de er sikre. Nogle mennesker tror måske, at det blot handler om at holde tingene for sig selv. Inden i virksomheden er det et bevidst valg om at være forsigtig.

Der er et problem: for at udføre deres sikkerhedsforskning har de brug for penge. For at få penge skal de lave produkter, der konkurrerer med andre. Laving af konkurrencedygtige produkter kan udsætte dem for de samme risici, de prøver at undgå.

Leder du efter at bygge et højere præsterende fjernt teknologiteam?

Tjek MyNextDeveloper, en platform, hvor du kan finde de bedste 3% softwareingeniører, der er dybt passionerede om innovation. Vores on-demand, dedikerede og grundige softwartalentløsninger giver en omfattende løsning for alle dine softwarekrav.

Besøg vores websted for at udforske, hvordan vi kan hjælpe dig med at samle dit perfekte team.