Tekoälyn yhteisössä on kysymys, josta monet ihmiset keskustelevat. Tämä kysymys käydään kehittäjäfoorumeilla ja tekniikan Twitterissä. Kysymys on, miksi Anthropic pitää kehittyneet tekoälymallinsa yksityisinä tai julkaisee ne vain hyvin hallitusti.
Ensi silmäyksellä näyttää siltä, että Anthropic yrittää vain suojata tuotteitaan ja ansaita rahaa. Mutta jos luet heidän tutkimusasiakirjojaan tai julkisia lausuntoja, näet, että tilanne on monimutkaisempi.
Tätä kutsumme Mythos-paradoksiksi. Anthropic on yritys, joka todella uskoo, että se saattaa luoda yhtä tärkeimmistä ja vaarallisimmista teknologioista ihmiskunnan historiassa. Vaikka he niin ajattelevat, he jatkavat siitä huolimatta.
Mitä Anthropic oikeastaan tekee?
Anthropic on laboratorio, joka keskittyy turvallisuuteen ensisijaisesti. Se perustettiin vuonna 2021 OpenAI:n tutkijoiden toimesta, mukaan lukien Dario ja Daniela Amodei. Anthropic sanoo olevansa tekoälyn turvallisuusyritys, ei tekoälyn tuotteiden yritys.
Heidän julkaistu tutkimuksensa on hyvin vakavaa ja keskittyy tekniseen turvallisuuteen. Vuonna 2023 he esittelivät niin sanotut mallintiedot ja käyttökäytännöt, joita monet heidän kilpailijat ovat kopioinneet.
Silti heidän Claude-niminen tekoälymallinsa kehittyy yhä enemmän. Claude 3 Opus suoriutui paremmin kuin GPT-4 testeissä. Claude 3.5 Sonnet tuli erittäin suosituksi kehittäjien keskuudessa välittömästi.
Mitä siis tapahtuu?
Pääongelma on se, miksi Anthropic rakentaa jotakin, jonka he uskovat voivan olla vaarallista.
Kriitikot jatkavat kysymisen: jos Anthropic todella uskoo tekoälyn olevan vaarallista, miksi he rakentavat sitä lainkaan?
Anthropic vastaa, että voimakas tekoäly luodaan joka tapauksessa. Joten on parempi, että turvallisuuskeskeiset laboratoriot työskentelevät sen parissa kuin muut kehittäjät, jotka eivät ajattele riskejä.
Tämä on päätös, joka vaatii Anthropicia pysymään kilpailukykyisenä julkaisemalla edistyneitä malleja, mutta ei julkaisemalla kaikkea, mitä heillä on. Näin se näyttää, kun he ovat varovaisia siitä, mitä he julkaisevat.
Vastuullisen skaalautumisen politiikka: kehys, jota kukaan ei pyytänyt (mutta kaikki tarvitsivat)
Syyskuussa 2023 Anthropic julkaisi niin sanotun Scaling Policy -dokumentin. Tämä on asiakirja, joka sanoo, missä olosuhteissa he julkaisevat ja eivät julkaise mallejaan.
Se esitteli niin sanotut AI Safety Levels -tasot, joka on tasojärjestelmä sille, kuinka turvallinen tai vaarallinen malli on. Korkeimmat tasot kuvaavat järjestelmiä, joita voitaisiin käyttää vahingon aiheuttamiseen tai omaksi itseään toistamaan.
Kehys sanoo, että Anthropic lopettaa mallin julkaisemisen, jos se saavuttaa turvallisuustason ilman asianmukaisia turvatoimia. Mikään muu suuri tekoälyn laboratorio ei ole julkaissut mitään vastaavaa.
Miltä näyttää, kun Anthropic on varovainen siitä, mitä he julkaisevat?
Mitä Anthropic tutkii sisäisesti ja mitä ne julkaisevat julkisesti, on ero. Anthropicilla on osa maailman parhaista tekoälyn tutkijoista. He ovat julkaisseet löydöksiä siitä, miten neuroverkot toimivat, mikä on erittäin tärkeää.
Mitä he julkaisevat ja mitä he julkaisevat, on kaksi eri asiaa. On todennäköisesti malliversiota ja tutkimustuloksia, joita Anthropic ei vielä julkaise, ei kilpailun vuoksi, vaan koska heidän oma politiikka sanoo – ei vielä.
Ulkoapäin katsottuna näyttää siltä, että Anthropic on salaperäinen. Sisältä katsottuna se on enemmän kuin mitä lääkeyhtiö tekee, kun uusi lääke näyttää lupaavilta, mutta sitä ei ole vielä hyväksytty turvalliseksi.
Kysymys on kuka saa päättää, mikä on turvallista, kun olet sinä luomassa teknologiaa.
Voiko Anthropic pysyä turvallisena ja kilpailukykyisenä?
Tämä on totuus Mythos-paradoksin keskellä.
Anthropicilla on oltava rahaa turvallisen tutkimuksen rahoittamiseen, ja rahan ansaitsemiseksi heidän on julkaistava tuotteita. Ollakseen kilpailukykyinen, heidän on oltava kyvykäs, mikä on se, mitä he yrittävät lieventää riskejä.
Joidenkin arvioiden mukaan mallin kouluttaminen maksaa paljon rahaa. Anthropic on kerännyt paljon rahaa sijoittajilta, mikä tarkoittaa, että markkinat uskovat turvallisuuskeskeisen tekoälyn olevan kannattavaa. Sijoittajat haluavat tuottoa, ja asiakkaat haluavat edistyneimmän saatavilla olevan mallin. Joka kuukausi kilpailija julkaisee uuden ominaisuuden, ja Anthropicin on päätettävä, vastaako se siihen vai ei.
Toistaiseksi he ovat pääosin vastanneet siihen samalla kun tekevät turvallisuustyötä, joka ei näy julkisissa testeissä.
Usein kysytyt kysymykset Anthropicin lähestymistavasta
1. Onko Claude, kehittynein tekoälymalli, saatavilla?
Se riippuu siitä, mihin käytät sitä. Joissain testeissä Claude 3.5 Sonnet on ollut johdonmukaisesti malleista parhaiten parempi maailmanlaajuisesti.
2. Miksi Anthropic ei avoimlähdeistä mallejaan?
Anthropic on sanonut, että mallin avoimlähdeistäminen tarkoittaa, että he eivät voi soveltaa turvatoimia tai valvoa väärinkäyttöä.
K: Onko Anthropicin turvallisuustyö todellista vai vain näytöstä?
Tutkimus on todellista. Se on läpikäynyt vertaisarvioinnin ja sitä on siteerattu laajasti. Se, ovatko yritys todella sitoutuneita turvallisuuteen, on kysymys, jota tekoälyn turvallisuusyhteisö edelleen keskustelee.
Mythos selitettynä
Sana "mythos" käytetään tarkoituksella tässä.
Anthropic on luonut narratiivin, että he ovat vastuulliset. Tämä houkuttelee kykyjä, rahoitusta ja sääntelyystävällisyyttä. Se, vastaako tämä narratiivi todellisuutta, ei ole pointti. Narratiivit muovaavat käyttäytymistä, ja yritys, joka on julkisesti sitoutunut turvallisuusrajoihin, on rajoittuneempi kuin se, joka ei ole.
Paradoksi on se, että varovaisuus siitä, mitä he julkaisevat, saattaa olla välttämätöntä. Jos Anthropic julkaisi kaiken, mitä sillä oli yhtä nopeasti kuin se pystyi, se olisi vain toinen tekoälyn yritys kilpailemassa pohjaan.
Tarkotuksellinen kitka, käytännöt, vaiheittaiset julkaisut ja julkaisemista edeltävä tutkimus ovat tuotteita, eivät Claude.
Mitä tämä tarkoittaa kehittäjille, yrityksille ja kaikille muille
Jos rakennat Claude API:n päälle, Vastuullisen skaalautumisen politiikka -kehys on uutta. Se tarkoittaa, että malli, jota käytät tänään, ei muutu odottamattomasti huomenna.
Jos olet kilpailija, niin se on eri tarina. Anthropicin turvallisuusasema antaa heille suojan liikkua hitaammin kuin markkinat saattavat vaatia.
Jos olet vain henkilö, joka katsoo kaikkea tätä ulkoapäin, Mythos-paradoksi on esikatselu keskeisestä jännitteestä tekoälyn kehityksessä seuraavalle vuosikymmenelle.
Kuinka rakentaa jotakin, joka voisi muuttaa maailmaa samalla kun pidetään sitä rakentavat ihmiset vastuullisina?
Anthropicilla ei ole vielä vastausta, mutta he ovat yksi harvoista organisaatioista, jotka kysyvät kysymystä niin kovaa, että heidän on elettävä sen kanssa.
TL;DR
Anthropic työskentelee teknologialla, joka voisi olla erittäin riskialtista. He jatkavat eteenpäin ajatellen, että heidän varovainen lähestymistapa on parempi kuin antaa muiden tehdä se ajattelematta turvallisuutta. Heillä on säännöt, kuten Scaling Policy, mikä tarkoittaa, että he eivät lisää ominaisuuksia, kunnes he ovat varmoja, että ne ovat turvallisia. Jotkut ihmiset saattavat ajatella, että tämä on vain asioiden pitämistä itselleen. Yrityksen sisällä se on tietoinen valinta olla varovainen.
On ongelma: turvallisuustutkimuksen tekemiseksi he tarvitsevat rahaa. Rahan saamiseksi heidän on tehtävä tuotteita, jotka kilpailevat muiden kanssa. Kilpailukykyisten tuotteiden tekeminen voi altistaa heidät samoille riskeille, joita he yrittävät välttää.
Etsitkö korkean suorituskyvyn etäteknisen tiimin rakentamista?
Tutustu MyNextDeveloperiin, alustaan, jossa voit löytää parhaat 3% ohjelmistoinsinööreistä, jotka ovat syvästi intohimoittuneita innovaatiosta. Meidän pyynnöstä, omistautuneita ja perusteellisia ohjelmistolahjakkuusratkaisuja tarjoavat kattavan ratkaisun kaikkiin ohjelmistovaatimuksiin.
Vieraile verkkosivullamme selvittääksesi, miten voimme auttaa sinua kokoamaan täydellisen tiimisi.
