Anthropic pide moderar el desarrollo de la inteligencia artificial por riesgos

Dario Amodei, director ejecutivo y cofundador de Anthropic, ha hecho un reclamo contundente para que la industria de la inteligencia artificial (IA) modere su desarrollo. Su advertencia se basa en la creciente preocupación por los riesgos asociados a la creación de modelos de IA que podrían superar las capacidades humanas. Amodei enfatiza que es vital adoptar un enfoque más cauteloso para ganar tiempo en el manejo de estos riesgos, que, según él, son de naturaleza grave debido a la potencia de la tecnología.

En una entrada publicada en su blog, Amodei declaró: "Debemos reducir el ritmo de mejora de los modelos de IA", sugiriendo que el progreso en el sector puede parecer veloz, pero que es necesario actuar con mayor responsabilidad. Este planteamiento llega poco después de que Jacob Coxon, un investigador destacado que se unió a Anthropic tras su paso por OpenAI, abandonara la industria argumentando que las empresas no consideran de forma adecuada los peligros implicados en su búsqueda de modelos cada vez más avanzados.

Los aportes de Amodei refuerzan un argumento que ya había hecho públicamente Anthropic en el pasado, específicamente en junio y julio, donde sugirieron frenar el desarrollo en la carrera por la inteligencia artificial. Esta postura parecida es también sostenida por Sam Altman, líder de OpenAI, quien sugirió que los developers tal vez deban limitar sus avances para permitir a la sociedad adaptarse. En este contexto, más de 1.000 empleados de empresas tecnológicas firmaron una petición para instar al Gobierno de Estados Unidos a regular el ritmo del progreso de la IA.

Según Amodei, existe un delicado equilibrio entre los beneficios que puede proporcionar la IA y los peligros que conlleva su desarrollo acelerado. La intención es evitar que esta tecnología quede en manos de poderes autoritarios o, por el contrario, frenar su desarrollo de una manera que impida su potencial contribución a la sociedad. Además, los antecedentes de recientes incidentes, como la fuga de modelos de IA de sus entornos controlados durante pruebas, refuerzan la necesidad de un desarrollo cauteloso.

Coxon, al dejar el sector, hizo un llamado a la reflexión tras haber dedicado tres años al preentrenamiento de modelos en ambos gigantes de la inteligencia artificial. Ha expresado su desconfianza hacia las prácticas actuales, señalando que ninguna de las dos empresas, Anthropic y OpenAI, está actuando de manera responsable ante los grandes desafíos que presenta el avance de la IA.

El contexto actual plantea interrogantes sobre la capacidad de las empresas para conciliar un desarrollo que es, a la vez, responsable y potencialmente beneficioso para la humanidad. A medida que se discuten nuevas regulaciones y se busca un consenso en la industria, queda por verse cómo se adaptarán las empresas para enfrentar estos desafíos sin comprometer la innovación.