Hay una pregunta sobre la que mucha gente en la comunidad de Inteligencia Artificial está hablando. Esta pregunta se discute en foros de desarrolladores y en redes de Twitter dedicadas a tecnología. La pregunta es por qué Anthropic mantiene sus modelos de IA avanzados en privado o solo los lanza de manera muy controlada.
A primera vista, parece que Anthropic solo intenta proteger sus productos y ganar dinero. Pero si lees sus artículos de investigación o declaraciones públicas, verás que la situación es más complicada.
Esto es lo que llamamos la Paradoja del Mito. Anthropic es una empresa que realmente cree que podría estar creando una de las tecnologías más importantes y peligrosas en la historia humana. A pesar de creer eso, aún están trabajando en ello.
¿Qué está haciendo realmente Anthropic?
Anthropic es un laboratorio que prioriza la seguridad. Fue fundado en 2021 por investigadores de OpenAI, incluyendo a Dario y Daniela Amodei. Anthropic dice que es una empresa de seguridad en IA, no una empresa de productos de IA.
Su investigación publicada es muy seria, enfocándose en seguridad técnica. En 2023, introdujeron algo llamado tarjetas de modelo y políticas de uso, que muchos de sus competidores han copiado.
Sin embargo, su modelo de IA llamado Claude se está volviendo cada vez más avanzado. Claude 3 Opus tuvo mejor desempeño que GPT-4 en pruebas. Claude 3.5 Sonnet se hizo muy popular entre desarrolladores inmediatamente.
Entonces, ¿qué está pasando?
El problema principal es por qué Anthropic está construyendo algo que ellos creen que podría ser peligroso.
La pregunta que sus críticos siguen haciendo es: ¿si Anthropic realmente cree que la IA es peligrosa, por qué la están construyendo en absoluto?
Anthropic responde que la IA poderosa será creada, sin importar qué. Entonces es mejor tener laboratorios enfocados en seguridad trabajando en ello que otros desarrolladores que no están pensando en los riesgos.
Esta es una decisión que requiere que Anthropic se mantenga competitiva lanzando modelos avanzados, pero sin lanzar todo lo que tienen. Esto es lo que parece cuando están siendo cuidadosos con lo que lanzan.
La Política de Escalado Responsable: Un Marco que Nadie Pidió (Pero que Todos Necesitaban)
En septiembre de 2023, Anthropic publicó algo llamado la Política de Escalado. Este es un documento que explica bajo qué condiciones harán o no desplegar sus modelos.
Introdujo algo llamado Niveles de Seguridad en IA, que es como un sistema de niveles sobre lo seguro o peligroso que es un modelo. Los niveles más altos describen sistemas que podrían usarse para causar daño o replicarse por sí solos.
El marco dice que Anthropic dejará de desplegar un modelo si alcanza un nivel de seguridad sin protecciones adecuadas implementadas. Ningún otro laboratorio importante de IA ha publicado algo así.
¿Cómo se ve cuando Anthropic está siendo cuidadoso con lo que lanza?
Hay una brecha entre lo que Anthropic está investigando internamente y lo que están lanzando públicamente. Anthropic tiene algunos de los mejores investigadores de IA del mundo. Han publicado hallazgos sobre cómo funcionan las redes neuronales, lo cual es muy importante.
Lo que publican y lo que despliegan son dos cosas diferentes. Probablemente hay versiones de modelos y hallazgos de investigación que Anthropic aún no está lanzando, no por competencia, sino porque su propia política dice — aún no.
Desde el exterior, parece que Anthropic está siendo secreto. Desde adentro, es más como lo que hace una empresa farmacéutica cuando un nuevo medicamento muestra promesa pero aún no ha sido aprobado como seguro.
La pregunta es quién decide qué es seguro cuando eres tú quien está creando la tecnología.
¿Puede Anthropic mantenerse seguro mientras sigue siendo competitiva?
Esta es la verdad en el centro de la Paradoja del Mito.
Anthropic necesita dinero para financiar investigación en seguridad, y para ganar dinero, necesita lanzar productos. Para ser competitiva, necesita tener capacidades, que es lo que están intentando mitigar los riesgos.
Según algunas estimaciones, entrenar un modelo cuesta mucho dinero. Anthropic ha recaudado mucho dinero de inversores, lo que significa que el mercado cree que la IA enfocada en seguridad puede ser rentable. Los inversores quieren retornos, y los clientes quieren el modelo más avanzado disponible. Cada mes, un competidor lanza una función, y Anthropic tiene que decidir si igualarla o no.
Hasta ahora, la mayoría de las veces han igualado mientras hacen el trabajo de seguridad que no aparece en pruebas públicas.
Preguntas frecuentes sobre el enfoque de Anthropic
1. ¿Está Claude, el modelo de IA más avanzado, disponible?
Depende de para qué lo estés usando. En algunas pruebas, Claude 3.5 Sonnet se ha clasificado consistentemente entre los mejores modelos globalmente.
2. ¿Por qué Anthropic no pone sus modelos en código abierto?
Anthropic ha dicho que poner un modelo en código abierto significa que no pueden aplicar protecciones o monitorear el uso indebido.
P: ¿Es el trabajo de seguridad de Anthropic real o solo para la galería?
La investigación es real. Ha sido revisada por pares y citada ampliamente. Si la empresa realmente se compromete con la seguridad es una pregunta que la comunidad de seguridad en IA sigue debatiendo.
El Mito explicado
La palabra "mito" se usa deliberadamente aquí.
Anthropic ha creado una narrativa de que ellos son los responsables. Esto atrae talento, financiamiento y voluntad regulatoria. Si esta narrativa coincide con la realidad no es el punto. Las narrativas moldean el comportamiento, y una empresa que públicamente se compromete con umbrales de seguridad está más limitada que una que no lo hace.
La paradoja es que ser cuidadoso con lo que lanzan podría ser necesario. Si Anthropic lanzara todo lo que tiene tan rápido como pudiera, sería solo otra empresa de IA compitiendo hacia el fondo.
La fricción deliberada, las políticas, los lanzamientos por etapas, y la investigación que precede al despliegue son los productos y no Claude.
Qué significa esto para desarrolladores, empresas, y todos los demás
Si estás construyendo sobre la API de Claude, el marco de la Política de Escalado Responsable es nuevo. Significa que el modelo que estás usando hoy no cambiará inesperadamente mañana.
Si eres un competidor, es una historia diferente. La posición de seguridad de Anthropic les da cobertura para avanzar más lentamente de lo que el mercado podría exigir.
Si eres solo una persona observando todo esto desde afuera, la Paradoja del Mito es un adelanto de la tensión central en el desarrollo de IA para la próxima década.
¿Cómo construyes algo que podría cambiar el mundo mientras mantienes responsables a las personas que lo construyen?
Anthropic aún no tiene una respuesta, pero es una de las pocas organizaciones haciendo la pregunta lo suficientemente fuerte como para tener que vivir con ella.
TL;DR
Anthropic está trabajando en una tecnología que podría ser muy riesgosa. Avanzan, creyendo que su enfoque cuidadoso es mejor que dejar que otros lo hagan sin pensar en la seguridad. Tienen reglas como la Política de Escalado, lo que significa que no añadirán funciones hasta que estén seguros de que son seguras. Algunas personas podrían pensar que esto es simplemente guardarse las cosas para sí mismos. Dentro de la empresa, es una elección deliberada de ser cuidadoso.
Hay un problema: para realizar su investigación en seguridad, necesitan dinero. Para obtener dinero, necesitan hacer productos que compitan con otros. Hacer productos competitivos puede exponerlos a los mismos riesgos que están intentando evitar.
¿Buscas construir un equipo de tecnología remoto de alto rendimiento?
Conoce MyNextDeveloper, una plataforma donde puedes encontrar el 3% superior de ingenieros de software que son profundamente apasionados por la innovación. Nuestras soluciones de talento de software bajo demanda, dedicadas y exhaustivas proporcionan una solución integral para todos tus requisitos de software.
Visita nuestro sitio web para explorar cómo podemos ayudarte a armar tu equipo perfecto.
