Dario Amodei, director ejecutivo de Anthropic, solicitó que los gobiernos tengan la capacidad de impedir la implementación de modelos de inteligencia artificial que presenten riesgos inaceptables. En un ensayo difundido recientemente, destacó la necesidad de una regulación más estricta que incluya pruebas obligatorias realizadas por organismos externos para evaluar el impacto y el peligro de estas tecnologías.
Entre las categorías de riesgo que mencionó, Amodei resaltó la amenaza a la ciberseguridad y la posibilidad de que la IA facilite el desarrollo de armas biológicas. En caso de que se determine que un modelo pueda causar daños relevantes, el ejecutivo defendió que el gobierno debe poder suspender o desalentar su despliegue. Esta postura representa uno de los llamados más decididos hasta ahora para controlar el avance acelerado de la IA.
Para respaldar esta propuesta, Anthropic también sugirió la creación de un sistema conjunto entre gobiernos y desarrolladores que permita decidir cuándo es necesario desacelerar el desarrollo tecnológico para minimizar potenciales riesgos. Esta iniciativa nace en un contexto global donde la inteligencia artificial avanza a gran velocidad y genera preocupaciones sobre su seguridad y regulación.
En contraste con otras posiciones, como la del gobierno de Estados Unidos, que ofrece un enfoque más voluntario para la supervisión de modelos de IA sin requerir autorizaciones previas, Amodei reclama un marco más vinculante y serio. Comparó la regulación necesaria con la aplicada a tecnologías con alto impacto en la sociedad, como los automóviles, aviones y medicamentos, que requieren controles estrictos para evitar consecuencias letales.
Anthropic causó controversia previamente al presentar Mythos, un modelo de IA con capacidades para detectar y explotar vulnerabilidades en software crítico. Ante el carácter sensible de esta tecnología, la compañía restringió su acceso a un grupo reducido de socios y, posteriormente, lanzó una versión con funcionalidades limitadas en ciberseguridad. Según Amodei, Mythos ilustra claramente el poder y los riesgos que la IA puede implicar si no está bien regulada.