- Lefebvrianos desobedecen a León XIV y consuman un cisma en la Iglesia: ¿quiénes son y por qué sus obispos han sido excomulgados?
- Cómo el gobierno de Venezuela dificulta la cobertura periodística en la zona cero de los terremotos
La empresa de inteligencia artificial Anthropic anunció que desde el miércoles 1 permite el acceso a Claude Fable 5 y Mythos 5, dos de sus modelos más avanzados, tras el levantamiento de las restricciones que el gobierno de Estados Unidos había impuesto a la circulación de esta tecnología.
Fable 5 había sido presentado el 10 de junio y estaba disponible para el público general, mientras que Mythos 5 también fue lanzado, pero con restricciones, pues se indicó que solo estaría disponible para entidades y trabajadores que formaran parte de la iniciativa de ciberseguridad.
Esto último se debió a que la variante más reciente de Mythos es capaz de encontrar y explotar fallos de seguridad críticos, algo visto con alarma desde sectores como el financiero o la defensa.
Solo dos días después de que Anthropic luciera sus nuevos sistemas, Washington ordenó a la empresa restringir el acceso a esta potente tecnología por motivos de seguridad nacional, con lo que únicamente ciudadanos estadounidenses podían hacer uso de estas herramientas. El gobierno de Donald Trump argumentó que se detectaron medios para saltar filtros de seguridad que abrían la puerta a un uso no regulado de Fable 5.
El ajuste afectó también a los trabajadores extranjeros de Anthropic, incluso aquellos que laboraban dentro de Estados Unidos.
Luego de semanas de negociaciones, la Administración Trump hizo un levantamiento parcial del impedimento de acceso y el 30 de junio se oficializó que se anulaban las restricciones, según confirmó Anthropic.
“Fuimos informados de que el Departamento de Comercio ha levantado los controles de exportación a Claude Fable 5 y Mythos 5. Restauraremos el acceso mañana (miércoles) y compartiremos una actualización pronto”, publicó la firma de IA el martes en X.
Relación tirante
Las medidas de Washington sobre Anthropic han tenido lugar en un contexto de desencuentro cada vez más prolongado entre la gestión de Donald Trump y la compañía tecnológica.
Cuando las restricciones a Claude Fable 5 y Mythos 5 se oficializaron, la compañía mostró su perplejidad con respecto a la justificación gubernamental de potenciales brechas de seguridad. La empresa de IA sostuvo que el ‘jailbreak’ al que sería vulnerable su modelo no existía como tal y que “todavía no se había encontrado un método universal” para eludir las medidas de seguridad de esta tecnología.
Anthropic añadía que, de existir, esas vulnerabilidades estarían presentes en los otros modelos de inteligencia artificial que sí podían seguir funcionando sin limitaciones por parte del gobierno. En tal escenario, se especuló con que la medida habría sido un medio de presión de la Casa Blanca para que la empresa diera su brazo a torcer con respecto a sus reclamos.
Anthropic tenía un acuerdo con el gobierno de EE. UU. desde julio del 2024 para la introducción de su tecnología en el Departamento de Defensa (DoD) y desde la segunda presidencia de Trump ambas partes discutían los términos para la extensión del vínculo.
Entre los cambios que planteaba el Pentágono estaba el pedido de que la firma de IA retirara las restricciones éticas que su modelo Claude tenía para el uso militar.
El sistema cuenta con una “Constitución” en su programación que le prohíbe ser usado para actividades que contribuyan a causar daño físico a seres humanos o a la creación de armas. Aunque Claude puede entrenarse a sí mismo con un alto grado de autonomía, el modelo siempre se guía por las directrices éticas que le implantaron sus creadores.
Actualmente el DoD estadounidense hace un amplio uso de la tecnología de Anthropic, pero durante sus recientes operaciones en Medio Oriente se encontró con las restricciones de la Constitución de Claude, que dificultaban emplearlo en el control de armas autónomas, sistemas de vigilancia masivos y otros campos de la gestión bélica.
Ante la negativa de Anthropic de retirar esos límites, el Departamento de Defensa resolvió en marzo catalogar a la compañía como un “riesgo para la cadena de suministro y seguridad nacional”. Esta categoría es generalmente empleada para negocios procedentes de los rivales de Washington y le impide a las empresas emprender cualquier contrato con entidades del Estado.
La firma tecnológica respondió con una demanda contra el Pentágono, litigio que sigue en vigencia. Por lo pronto, Anthropic ha logrado una medida cautelar que le permite seguir haciendo negocios con organismos estatales mientras se resuelve la causa judicial.
“IA con ética”
Anthropic fue fundada en el 2021 como una corporación de beneficio público por extrabajadores de OpenAI. Con la llegada de Microsoft como gran inversor, los renunciantes consideraron que la gestión de su exlíder Sam Altman pasó a priorizar de forma desmedida la aplicación comercial inmediata de sus sistemas de IA, dejando de lado el análisis sobre posibles impactos de esta tecnología.
La idea rectora de la empresa es que la inteligencia artificial no debe causar daño a los humanos y que el aumento de escala de esta tecnología debe tener correspondencia con su control.
La Constitución de Claude es parte de estos lineamientos y desde el interior de Anthropic han surgido propuestas como la de establecer un freno global coordinado al desarrollo de la IA con el propósito de “no perder el control humano de estos avances”. La compañía argumenta que ha visto cómo sus propios modelos son cada vez más capaces de desarrollarse a sí mismos de forma exponencial.
La participación de la compañía en el debate ético ha llevado incluso a que uno de sus investigadores más importantes, Christopher Olah, sea parte de la presentación de la encíclica del papa León XIV sobre la inteligencia artificial.
Más allá de estos discursos también ha habido cuestionamientos a la actividad de Anthropic, siendo una de las críticas más habituales su uso de la propiedad intelectual. La compañía ha tenido demandas de editoriales de libros, discográficas y autores por el uso de material con derechos de autor.
El planteamiento de freno controlado a la IA de Anthropic también ha sido visto con sospecha por algunos analistas, que consideran que probablemente se trata de una estrategia de promoción de las cualidades de los modelos de la empresa de cara a su próxima salida a bolsa. Se calcula que el debut bursátil de la firma de IA podría bordear el billón de dólares.
Adicionalmente, se ha criticado que la firma tenga contratos con el Pentágono pese a su discurso de no afectación de la vida humana. Cuando anunció su contrato con el gobierno en el 2024, Anthropic mencionó que integraría sus servicios con los de Palantir, firma que tiene la mayor parte de sus contratos importantes con el área de Defensa de EE. UU. y cuyos sistemas son ampliamente usados en las incursiones militares de Washington.
Durante los ataques estadounidenses contra Irán, medios como The Wall Street Journal y CBS News reportaron que el Pentágono hizo un amplio uso de Claude en las operaciones, incluso a pesar de que se encontraba en vigencia la prohibición de contratación pública para la compañía.
Pese a lo anterior, Anthropic es una de las pocas firmas relevantes de inteligencia artificial que todavía no ha dado libertad de uso de su tecnología al Departamento de Defensa estadounidense. Firmas como Google, Facebook o la misma OpenAI se han mostrado más complacientes con la Administración Trump en este apartado.
VIDEO RECOMENDADO
Fuente: elcomercio.pe