C'è una domanda di cui molte persone nella comunità dell'Intelligenza Artificiale stanno parlando. Questa domanda viene discussa nei forum per sviluppatori e su tech Twitter. La domanda è perché Anthropic mantiene privati i suoi modelli di IA avanzati o li rilascia solo in modo molto controllato.
A prima vista, sembra che Anthropic stia solo cercando di proteggere i suoi prodotti e guadagnare denaro. Ma se leggi i loro articoli di ricerca o le dichiarazioni pubbliche, vedrai che la situazione è più complicata.
Questo è quello che chiamiamo il Paradosso del Mito. Anthropic è un'azienda che davvero pensa di potrebbe stare creando una delle tecnologie più importanti e pericolose della storia umana. Nonostante la pensino così, stanno comunque continuando a lavorarci.
Cosa sta effettivamente facendo Anthropic?
Anthropic è un laboratorio che pone la sicurezza al primo posto. È stato fondato nel 2021 da ricercatori di OpenAI, inclusi Dario e Daniela Amodei. Anthropic dice di essere un'azienda di sicurezza dell'IA, non un'azienda di prodotti di IA.
La loro ricerca pubblicata è molto seria, concentrandosi sulla sicurezza tecnica. Nel 2023, hanno introdotto qualcosa chiamato schede di modello e politiche di utilizzo, che molti dei loro concorrenti hanno copiato.
Eppure il loro modello di IA chiamato Claude sta diventando sempre più avanzato. Claude 3 Opus ha prestato meglio di GPT-4 nei test. Claude 3.5 Sonnet è diventato molto popolare tra gli sviluppatori immediatamente.
Allora cosa sta succedendo?
Il problema principale è perché Anthropic sta costruendo qualcosa che pensa potrebbe essere pericoloso.
La domanda che i loro critici continuano a fare è: se Anthropic davvero pensa che l'IA sia pericolosa, perché la stanno costruendo affatto?
Anthropic risponde che l'IA potente verrà creata, indipendentemente da tutto. Quindi è meglio che laboratori focalizzati sulla sicurezza ci lavorino piuttosto che altri sviluppatori che non stanno pensando ai rischi.
Questa è una decisione che richiede ad Anthropic di rimanere competitiva rilasciando modelli avanzati, ma non rilasciando tutto quello che hanno. Questo è quello che sembra quando stanno facendo attenzione a quello che rilasciano.
La Politica di Scaling Responsabile: Un Framework che Nessuno Ha Chiesto (Ma Che Tutti Avevano Bisogno)
Nel settembre 2023, Anthropic ha pubblicato qualcosa chiamato Politica di Scaling. Questo è un documento che dice sotto quali condizioni distribuiranno e non distribuiranno i loro modelli.
Ha introdotto qualcosa chiamato Livelli di Sicurezza dell'IA, che è come un sistema di livelli per quanto sicuro o pericoloso sia un modello. I livelli più alti descrivono sistemi che potrebbero essere utilizzati per causare danni o replicarsi da soli.
Il framework dice che Anthropic smetterà di distribuire un modello se raggiunge un livello di sicurezza senza adeguate salvaguardie. Nessun altro grande laboratorio di IA ha pubblicato qualcosa di simile.
Che cosa sembra quando Anthropic sta prestando attenzione a quello che rilascia?
C'è un divario tra quello su cui Anthropic sta facendo ricerca internamente e quello che stanno rilasciando pubblicamente. Anthropic ha alcuni dei migliori ricercatori di IA del mondo. Hanno pubblicato scoperte su come funzionano le reti neurali, il che è molto importante.
Quello che pubblicano e quello che distribuiscono sono due cose diverse. Probabilmente ci sono versioni di modelli e scoperte di ricerca che Anthropic non sta ancora rilasciando, non per motivi di concorrenza, ma perché la loro stessa politica dice — non ancora.
Da fuori, sembra che Anthropic stia essendo segreta. Da dentro, è più come quello che fa un'azienda farmaceutica quando un nuovo farmaco mostra promesse ma non è stato ancora autorizzato come sicuro.
La domanda è chi decide cosa sia sicuro quando sei tu quello che sta creando la tecnologia.
Può Anthropic rimanere sicura rimanendo comunque competitiva?
Questa è la verità al centro del Paradosso del Mito.
Anthropic ha bisogno di soldi per finanziare la ricerca sulla sicurezza, e per guadagnare soldi, ha bisogno di rilasciare prodotti. Per essere competitiva, ha bisogno di avere capacità, che è quello che stanno cercando di mitigare i rischi di.
Secondo alcune stime, l'allenamento di un modello costa molto denaro. Anthropic ha raccolto molto denaro dagli investitori, il che significa che il mercato pensa che l'IA focalizzata sulla sicurezza possa essere redditizia. Gli investitori vogliono ritorni, e i clienti vogliono il modello più avanzato disponibile. Ogni mese, un concorrente rilascia una funzionalità, e Anthropic deve decidere se uguagliarla o no.
Finora, hanno per lo più uguagliato mentre facevano il lavoro di sicurezza che non appare nei test pubblici.
Domande frequenti sull'approccio di Anthropic
1. Claude, il modello di IA più avanzato, è disponibile?
Dipende da quello per cui lo stai usando. In alcuni test, Claude 3.5 Sonnet si è costantemente classificato tra i migliori modelli a livello mondiale.
2. Perché Anthropic non rende open-source i suoi modelli?
Anthropic ha detto che rendere open-source un modello significa che non possono applicare salvaguardie o monitorare l'uso improprio.
D: Il lavoro di sicurezza di Anthropic è vero o solo per show?
La ricerca è vera. È stata sottoposta a revisione paritaria e ampiamente citata. Se l'azienda è davvero impegnata nella sicurezza è una domanda che la comunità della sicurezza dell'IA sta ancora dibattendo.
Il Mito spiegato
La parola "mythos" viene usata deliberatamente qui.
Anthropic ha creato una narrazione secondo cui loro sono quelli responsabili. Questo attrae talenti, finanziamenti e simpatia normativa. Se questa narrazione corrisponda alla realtà non è il punto. Le narrazioni modellano il comportamento, e un'azienda che si impegna pubblicamente su soglie di sicurezza è più vincolata di una che non lo fa.
Il paradosso è che fare attenzione a quello che rilasciano potrebbe essere necessario. Se Anthropic rilasciasse tutto quello che ha il più velocemente possibile, sarebbe solo un'altra azienda di IA che corre verso il fondo.
L'attrito deliberato, le politiche, i rollout graduale, e la ricerca che precede la distribuzione sono i prodotti e non Claude.
Quello che questo significa per sviluppatori, aziende e tutti gli altri
Se stai costruendo sull'API di Claude, il framework della Politica di Scaling Responsabile è nuovo. Significa che il modello che stai usando oggi non cambierà inaspettatamente domani.
Se sei un concorrente, è una storia diversa. Il posizionamento della sicurezza di Anthropic dà loro copertura per muoversi più lentamente di quanto il mercato potrebbe richiedere.
Se sei solo una persona che guarda tutto questo da fuori, il Paradosso del Mito è un'anteprima della tensione centrale nello sviluppo dell'IA per il prossimo decennio.
Come costruisci qualcosa che potrebbe cambiare il mondo mantenendo le persone che lo costruiscono responsabili?
Anthropic non ha ancora una risposta, ma sono una delle poche organizzazioni che pongono la domanda abbastanza forte da dovere viverci.
TL;DR
Anthropic sta lavorando su una tecnologia che potrebbe essere molto rischiosa. Continuano, pensando che il loro approccio attento sia meglio di lasciare che altri lo facciano senza pensare alla sicurezza. Hanno regole come la Politica di Scaling, il che significa che non aggiungeranno funzionalità fino a quando non saranno sicure. Alcune persone potrebbero pensare che questo è semplicemente tenere le cose per loro. Dentro l'azienda, è una scelta deliberata di fare attenzione.
C'è un problema: per condurre la loro ricerca sulla sicurezza, hanno bisogno di soldi. Per ottenere soldi, hanno bisogno di fare prodotti che competono con altri. Fare prodotti competitivi può esporli agli stessi rischi che stanno cercando di evitare.
Stai cercando di costruire un team tecnologico remoto ad alte prestazioni?
Scopri MyNextDeveloper, una piattaforma dove puoi trovare il migliore 3% degli ingegneri software che sono profondamente appassionati di innovazione. Le nostre soluzioni di talento software su richiesta, dedicate e approfondite forniscono una soluzione completa per tutti i tuoi requisiti software.
Visita il nostro sito web per esplorare come possiamo aiutarti nell'assemblare il tuo team perfetto.
