Tá ceist ann ar a bhfuil go leor daoine sa chomhphobal Intleachta Saorga ag caint. Tá an cheist seo á plé ar fóraim forbróra agus ar theicneolaíocht Twitter. An cheist atá ann ná cén fáth a bhfuil Anthropic a choinneáil ar a samhlacha AI uachtar príobháideach nó ag scaoileadh amach iad ar bhealach an-rialaithe amháin.
Ar dtús, dealraíonn sé go bhfuil Anthropic ag iarraidh a tháirgí a chosaint agus airgead a dhéanamh. Ach má léann tú a bpháipéir taighde nó a ráitis phoiblí, feicfidh tú go bhfuil an scéal níos casta.
Is é seo an rud ar a dtugaimid an Paradacsa Mythos. Is cumann a bhfuil a fhios aici go bhféadfadh sí a bheith ag cruthú ceann amháin de na teicneolaíochtaí is tábhachtaí agus is contúirte i stair an duine. Fiú agus iad ag smaoineamh mar sin, tá siad fós ag obair air.
Cad atá Anthropic a dhéanamh i ndáiríre?
Is saotharlann a bhfuil fócas ar shábháilteacht ar dtús ag Anthropic. Bunaíodh iad in 2021 ag taighdeoirí OpenAI, lena n-áirítear Dario agus Daniela Amodei. Deir Anthropic gur cuideachta shábháilteachta AI a bhí ann, ní cuideachta táirgí AI.
Tá a taighde foilsithe an-dhéanach, ag fócas ar shábháilteacht theicniúil. In 2023, thug siad isteach rud ar a dtugtar card samhlacha agus beartais úsáide, agus rinne go leor de na iomaitheoirí acu a chóipeáil.
Ach tá an samhail AI ar a dtugtar Claude ag éirí níos fhearr agus níos fhearr. Rinne Claude 3 Opus níos fearr ná GPT-4 ar thrialacha. Bhí Claude 3.5 Sonnet an-fhréamh i measc forbróirí láithreach.
Mar sin cad atá ar bun?
Is é an phríomhchéist ná cén fáth ar a bhfuil Anthropic ag tógáil rud nach bhfuil siad ag smaoineamh gur d'fhéadfadh a bheith contúirteach.
An cheist ar a bhfuil a bheirteoir ag gearán: má bhraithíonn Anthropic go bhfuil AI contúirteach, cén fáth ar a bhfuil siad ag tógáil ar chor ar bith?
Freagraíonn Anthropic gur cruthófar AI cumhachtach, is cuma cad atá i gceist. Mar sin is fearr a bheith ag saotharlanna fócas ar shábháilteacht ag obair air seachas forbróirí eile nach bhfuil ag smaoineamh ar na riachtanais.
Is cinneadh a bhfuil gá do Anthropic a fhanacht iomaitheoil trí mhsamhlacha uachtar a scaoileadh, ach gan gach rud a bhí aici a scaoileadh. Seo a bhraithíonn sé nuair atá siad ag bheith cúramach maidir le cad atá siad ag scaoileadh.
An Beartais Scála Freagrach: Creatchluichí nach raibh dúine ar bith a iarraidh Air (Ach bhí gá do gach duine)
I Meán Fómhair 2023, d'fhoilsigh Anthropic rud ar a dtugtar an Beartais Scála. Is doiciméad seo a rá faoi na coinníollacha ar scaoilfidh agus ar ní scaoilfidh siad a samhlacha.
Thug sé isteach rud ar a dtugtar Leibhéal Sábháilteachta AI, ar nós córas leibhéal maidir le cé chomh sábháilte nó contúirteach is atá samhail. Déanann na leibhéal is airde cur síos ar chórais a d'fhéadfaí a úsáid chun dochar a dhéanamh nó a atáirgeadh ar a gcuid féin.
Deir an creatchluiche go stopfaidh Anthropic samhail a dhíphlé má bhíonn sé ag teacht slán leibhéal gan sábháilteachta leor gan sábháilteachta. Níor fhoilsigh aon saotharlann mór AI eile rud cosúil leis seo.
Cad a bhraithíonn sé nuair a bhíonn Anthropic ag bheith cúramach maidir le cad atá siad ag scaoileadh?
Tá bearna ann idir cad atá Anthropic ag taighde go hinmheánach agus cad atá siad ag scaoileadh go poiblí. Tá roinnt de na forbróirí AI is fearr ar an domhan ag Anthropic. Tá torthaí foilsithe aici ar conas a oibríonn líonra neural, atá an-tábhachtach.
Cad atá siad ag foilsiú agus cad atá siad ag feidhmiú tá dhá rud difriúil. Tá leagan samhail agus torthaí taighde ann nach bhfuil Anthropic ag scaoileadh fós, ní chuige go bhfuil iomaíocht ann, ach toisc go bhfuil a beartais féin a rá - ní fós.
Ó an taobh amuigh, dealraíonn sé go bhfuil Anthropic ag bheith rúnda. Ó an taobh istigh, tá sé níos cosúil le cad a dhéanann cuideachta dhruglann nuair a thaispeánann druga nua an dóchas ach nár fhormheas a bheith slán fós.
An cheist ná cé a bhí i ndon a chinneadh cad atá slán nuair gur tú féin a bhí ag cruthú an teicneolaíochta.
An bhféadfaidh Anthropic a fhanacht slán agus a bheith fós iomaitheoil?
Seo an fhírinne ag lár an Paradacsa Mythos.
Bíonn airgead ag gá do Anthropic chun taighde sábháilteachta a fhondúrú, agus chun airgead a dhéanamh, bíonn gá aici táirgí a scaoileadh. Chun a bheith iomaitheoil, bíonn gá aici feidhmeanna a bheith aici, agus sin an rud ar a bhfuil siad ag iarraidh a mhaolú na riachtanais.
De réir roinnt meastachán, cosnaíonn samhail a dhréachtú go leor airgead. Tá go leor airgead ardaithe ag Anthropic ó infheastóirí, rud a chiallaíonn go gcreideann an margadh gur féidir AI a dhíriú ar shábháilteacht a bheith infheistitheach. Is iarraidh infheastóirí tuairisceáin, agus ba bhreá le custaiméirí an samhail is fhearr ar fáil. Gach mí, scaoileann comhghleacaitheoir gné, agus bíonn gá do Anthropic a chinneadh cibé é a mheaitseáil nó nach bhfuil sé.
Go dtí seo, tá siad den chuid is mó a mheaitseáil é agus an obair shábháilteachta a dhéanamh nach bhraithíonn sé in trialacha poiblí.
Ceisteannaí comhghnacha faoi an cur chuige Anthropic
1. An bhfuil Claude, an samhail AI is fhearr, ar fáil?
Braitheann sé ar cad atá tú ag úsáid é do. Ar roinnt tástanna, tá Claude 3.5 Sonnet i measc na samhlacha go geal gach tráth ar domhan.
2. Cén fáth nach bhfuil Anthropic a oscailte-fhoinse a samhlacha?
Deir Anthropic go gciallaíonn sampla a oscailte-fhoinse go bhféadfaidh siad sábháilteachta nó monatóireacht ar dhrochoibreachta a chur i bhfeidhm.
C: An bhfuil an obair shábháilteachta Anthropic fíor nó díreach don tsíon?
Tá an taighde fíor. Tá sé pheered-roinn agus citáilte go leathan. Cibé an bhfuil an chuideachta go fíor tiomantúil do shábháilteacht is ceist atá an pobal sábháilteachta AI fós ag plé.
An Mythos mínithe
Úsáidtear an fhocal "mythos" ar intinn anseo.
Tá scéal cruthaithe ag Anthropic go bhfuil siad na cinn freagrach. Tarraingíonn sé seo talant, maoiniú agus dea-bhraistint rialaitheach. Cibé an bhfuil an scéal seo ag teacht le fíor nó nach bhfuil sé nach bhfuil an pointe. Scéalta a mhúnlaíonn iompar, agus cuideachta a choinníonn go poiblí i leith coisc do shábháilteachta a thabhairt níos srianta ná ceann nach bhfuil ann.
Is é an paradacsa gur féidir a bheith cúramach maidir le cad atá siad ag scaoileadh a bheith riachtanach. Dá bhí Anthropic ag scaoileadh gach rud a bhí aici chomh tapa agus ba bhféidir léi, bheadh sé ach cuideachta AI eile ag rás go dtí an spás.
Tá an frithchúis dhilbhéartha, na beartais, na rolladh stairiúil, agus an taighde a thagann roimh dhíphlé na táirgí agus ní Claude.
Cad a chiallaíonn sé seo do forbróirí, fiontraighe, agus gach duine eile
Más tú ag tógáil ar API Claude, tá an creatchluiche Beartais Scála Freagrach nua. Ciallaíonn sé nach ndéanfaidh an samhail atá tú a úsáid inniu athrú ar bhealach ionraic amárach.
Más tú iomaítheoir, tá scéal difriúil ann. Tugann an seasamh sábháilteachta Anthropic dóibh foluain chun bogadh níos moille ná a d'fhéadfadh an margadh iarraidh.
Más tú i do dhuine a bhraistint ag fad ar fad ó sheo, is é an Paradacsa Mythos réamhleithris ar an dhúnamh lárnach i bhforbairt AI do na deich mbliana atá le teacht.
Conas a thógann tú rud a d'fhéadfadh an domhan a athrú agus na daoine a atógáil a choinneáil freagrach?
Níl freagra aici Anthropic fós, ach tá siad ar cheann de na heagraíochtaí ar a laghad a bhfuil an cheist a ghairtear go hard go bhfuil siad i gcomhréir a bheith ina bheo.
TL;DR
Tá Anthropic ag obair ar theicneolaíocht ar bhféadfadh a bheith an-rioscúil. Brúnn siad ar aghaidh, ag smaoineamh go bhfuil a cur chuige cúramach níos fearr ná a ligint do dhaoine eile a dhéanamh gan a bheith ag smaoineamh ar shábháilteacht. Tá rialacha aici ar nós an Beartais Scála, rud a chiallaíonn nach gcuirfidh siad gné go dtí go bhfuil siad i gcrích go bhfuil siad slán. D'fhéadfadh go bhfuil go leor daoine a shíleann gur rud éachtach atá sé gan fhios dom féin. Taobh istigh an chuideachta, is é cinneadh intuigthe a bheith cúramach.
Tá fhadhb ann: chun a dtaighde sábháilteachta a dhéanamh, bíonn airgead ag gá aici. Chun airgead a fháil, bíonn gá aici táirgí a dhéanamh atá iomaitheoil le daoine eile. Tá táirgí iomaitheoil a dhéanamh ar féidir dóibh iad a nochtadh don riachtanais céanna atá siad ag iarraidh a sheachaint.
Ag lorg a thógáil foireann teicneolaíochta fhada-ghaolach ard-fheidhmíochta?
Féach MyNextDeveloper, ardán ina bhféadfaidh tú an 3% barr de innealtóirí bogearraí a aimsiú atá domhain i ngrá don nuálchóireacht. Soláthraíonn ár thuairimí ar éileamh, tiomanta, agus cuimsitheach soláthair talant bogearraí réiteach cuimsitheach do gach ceann de do riachtanais bhogearraí.
Tabhair cuairt ar ár suíomh gréasáin chun a fhiosrú conas is féidir linn a chabhair leat i d'fhoireann foirfe a thógáil.
