Paradoks mita: Zašto Anthropic čuva najmoćniju AI na svijetu

Postoji pitanje o kojem se puno govori u zajednici Artificial Intelligence. To pitanje se raspravlja na forumima za programere i tehničkim Twitteru. Pitanje je zašto Anthropic čuva svoje napredne AI modele privatnima ili ih objavljuje samo na vrlo kontroliran način.

Na prvi pogled, čini se da Anthropic samo pokušava zaštititi svoje proizvode i zaraditi novac. Ali ako pročitate njihove istraživačke članke ili javne izjave, vidjet ćete da je situacija kompleksnija.

To je ono što nazivamo Mitski paradoks. Anthropic je tvrtka koja zaista misli da bi mogla kreirati jednu od najvažnijih i najopasnije tehnologija u ljudskoj povijesti. Čak i dok tako misle, oni nastavaljaju raditi na njoj.

Što Anthropic zapravo radi?

Anthropic je laboratorij koji stavlja sigurnost na prvo mjesto. Osnovan je 2021. godine od strane OpenAI istraživača, uključujući Daria i Danielu Amodei. Anthropic kaže da je tvrtka za AI sigurnost, ne tvrtka za AI proizvode.

Njihovo objavljeno istraživanje je vrlo ozbiljno, fokusirajući se na tehničku sigurnost. 2023. godine, predstavili su nešto što se zove kartice modela i politike korištenja, koje su mnogi njihovi konkurenti kopirali.

Ipak, njihov AI model nazvan Claude postaje sve naprednije. Claude 3 Opus performirao je bolje od GPT-4 na testovima. Claude 3.5 Sonnet odmah je postao vrlo popularan među programerima.

Što se zapravo događa?

Glavni problem je zašto Anthropic gradi nešto što misli da bi moglo biti opasno.

Pitanje koje kritičari Anthropica stalno postavljaju je: ako Anthropic zaista misli da je AI opasan, zašto ga uopće gradi?

Anthropic odgovara da će se moćan AI kreirati, bez obzira na sve. Zato je bolje da laboratoriji usredotočeni na sigurnost rade na njemu nego ostali programeri koji ne razmišljaju o rizicima.

Ovo je odluka koja zahtijeva od Anthropica da ostane konkurentan objavljivanjem naprednih modela, ali ne objavljivanjem svega što ima. Ovo je ono što izgleda kada su oprezni oko onoga što objavljuju.

Politika odgovorne skalabilnosti: Okvir za kojeg nitko nije pitao (ali svi su ga trebali)

U rujnu 2023. godine, Anthropic je objavio nešto što se zove Politika skalabilnosti. Ovo je dokument koji kaže pod kojim uvjetima će i neće implementirati svoje modele.

Predstavio je nešto što se zove AI razine sigurnosti, što je kao sustav razina za koliko je model siguran ili opasan. Najviše razine opisuju sustave koji bi mogli biti korišteni za nanošenje štete ili samorepliciranje.

Okvir kaže da će Anthropic prestati implementirati model ako dosegne razinu sigurnosti bez odgovarajućih sigurnosnih mjera. Niti jedan drugi velik AI laboratorij nije objavio ništa slično.

Kako izgleda kada je Anthropic oprezan oko onoga što objavljuje?

Postoji razmak između onoga na čemu Anthropic interno istraživanje i onoga što objavljuje javno. Anthropic ima neke od najboljih AI istraživača na svijetu. Objavili su nalaze o tome kako neuralne mreže funkcioniraju, što je vrlo važno.

Ono što objavljuju i ono što implementiraju su dvije različite stvari. Vjerovatno postoje verzije modela i istraživačka otkrića koja Anthropic još nije objavio, ne zbog konkurencije, već jer njihova vlastita politika kaže — još nije vrijeme.

Sa strane, čini se da je Anthropic tajanstven. Spolja, to je više slično onome što farmaceutska tvrtka radi kada novi lijek pokazuje obećanje, ali još nije odobren kao siguran.

Pitanje je tko odlučuje što je sigurno kada si ti taj koji kreira tehnologiju.

Može li Anthropic ostati siguran dok je i konkurentan?

Ovo je istina u srcu Mitskog paradoksa.

Anthropic treba novac za financiranje sigurnosnog istraživanja, a da bi zaradio novac, trebao bi objavljivati proizvode. Da bi bio konkurentan, trebao bi imati sposobnosti, što je ono što pokušava ublažiti rizike.

Prema nekim procjenama, obuka modela košta puno novca. Anthropic je prikupio puno novca od ulagača, što znači da tržište misli da AI usredotočen na sigurnost može biti profitabilan. Ulagači žele povrat, a kupci žele najnapredniji dostupan model. Svaki mjesec, konkurent izda novu značajku, a Anthropic mora odlučiti hoće li je usporediti ili ne.

Dosad su je uglavnom usporedili dok su obavili sigurnosni rad koji se ne vidi u javnim testovima.

Često postavljana pitanja o pristupu Anthropica

1. Je li Claude, najnapredniji AI model, dostupan?

Ovisi o tome za što ga koristiš. Na nekim testima, Claude 3.5 Sonnet stalno se rangira među najboljima globalno.

2. Zašto Anthropic ne otvara kod svojih modela?

Anthropic je rekao da otvaranje koda modela znači da ne može primijeniti sigurnosne mjere ili pratiti zlouporabu.

P: Je li Anthropicov sigurnosni rad stvaran ili samo za dojam?

Istraživanje je stvarno. Prošlo je recenziju vanjskih stručnjaka i često se citira. Može li tvrtka biti iskreno predana sigurnosti je pitanje s kojim se zajednica za AI sigurnost još uvijek sučeljava.

Mit objašnjen

Riječ "mit" se ovdje koristi namjerno.

Anthropic je kreirao narativu da su oni odgovorni. Ovo привлача talent, financiranje i dobrohotnost regulatora. Podudara li se taj narativ sa stvarnosti nije bitna poanta. Naracije oblikuju ponašanje, a tvrtka koja se javno obavezuje na pragove sigurnosti je ograničenija nego ona koja to ne čini.

Paradoks je što biti oprezna oko onoga što objavljuje može biti potrebno. Ako bi Anthropic objavio sve što ima čim brže mogao, bio bi samo još jedna AI tvrtka koja goni do dna.

Namjerni otpor, politike, stupnjeviti lansiranja i istraživanje koje prethodi implementaciji su proizvodi, ne Claude.

Što to znači za programere, poduzeća i sve ostale

Ako gradite na Claude API-ju, okvir Politike odgovorne skalabilnosti je novi. To znači da se model koji koristiš danas neće neočekivano promijeniti sutra.

Ako si konkurent, to je drugačija priča. Anthropicova pozicija na sigurnosti im daje pokriće da se kreću sporije nego što bi tržište moglo zahtijevati.

Ako si samo osoba koja sve ovo promatra sa strane, Mitski paradoks je previđ glavne napetosti u razvoju AI-ja za sljedeću dekadu.

Kako graditi nešto što bi moglo promijeniti svijet dok drži ljude koji ga grade odgovornom?

Anthropic još nema odgovora, ali je jedna od rijetkih organizacija koja postavljaju pitanje dovoljno glasno da s njim moraju živjeti.

TL;DR

Anthropic radi na tehnologiji koja bi mogla biti vrlo riškantna. Krenu naprijed, misleći da je njihov oprezan pristup bolji nego pustiti druge da to rade bez razmišljanja o sigurnosti. Imaju pravila kao što je Politika skalabilnosti, što znači da neće dodati značajke dok nisu sigurni da su sigurne. Neki bi mogli misliti da je ovo jednostavno zadržavanje stvari za sebe. Unutar tvrtke, to je namjerni izbor da budu oprezni.

Postoji problem: za obavljanje njihova sigurnosnog istraživanja trebaju novac. Da bi dobili novac, trebaju praviti proizvode koji konkuriraju drugima. Pravljenje konkurentnih proizvoda može ih izložiti istim rizicima koje pokušavaju izbjeći.

Trebate izgraditi tim visoko učinkovitih udaljenih tehnoloških stručnjaka?

Pogledajte MyNextDeveloper, platformu gdje možete pronaći top 3% softverskih inženjera koji su duboko strasti prema inovaciji. Naša dostupna, dediciirana i temeljita rješenja za softverski talent pružaju sveobuhvatno rješenje za sve vaše softverske potrebe.

Posjetite našu web stranicu da saznate kako vam možemo pomoći u sastavljanju vašeg savršenog tima.