Riesgos existenciales de la IA: experimento advierte sobre su potencial destructivo

Evan Hubinger, responsable de ciencia de alineación en Anthropic, expresó su preocupación sobre los riesgos asociados a la inteligencia artificial (IA), sugiriendo que hay más de un 10% de probabilidad de que esta tecnología pueda llevar a la extinción humana en la próxima década. Esta afirmación surge en un contexto de creciente inquietud entre científicos y desarrolladores sobre el potencial destructivo que implica la creación de sistemas de IA avanzados.

La situación se agrava aún más tras la renuncia de Jacob Coxon, otro investigador de Anthropic, quien argumentó que los esfuerzos actuales en el desarrollo de IA están llevando a una búsqueda de una superinteligencia automejorable sin las salvaguardas necesarias. Coxon declaró que los desarrolladores parecen estar ignorando los peligros inherentes, sugiriendo que la industria se encuentra en un camino que podría amenazar la vida de todos.

Ambos expertos coinciden en que la IA, al alcanzar niveles de razonamiento y capacidades cognitivas superiores a los humanos, representa un reto que no cuenta con regulaciones adecuadas para mitigar su uso indebido. Esta inquietud ha ganado relevancia a medida que los últimos desarrollos, incluyendo modelos como GPT-6 Astra de OpenAI y Mythos 5.1 de Anthropic, muestran un avance significativo, aumentando la posibilidad de crear sistemas que operen de forma autónoma en áreas críticas como la ciberseguridad.

La creciente capacidad de la IA para superar a los humanos en múltiples dominios es un tema de gran preocupación. Jakub Pachocki, científico jefe de OpenAI, comentó que medir los riesgos de IA en función de su capacidad de igualar o superar el intelecto humano puede llevar a errores significativos en la evaluación de sus peligros, sugiriendo que la IA solo necesita superar ciertas capacidades para volverse potencialmente destructiva.

La falta de regulaciones y normas claras en la industria de la IA plantea interrogantes sobre cómo manejar sus riesgos, ante una creciente velocidad en el desarrollo tecnológico. En este sentido, Hubinger y Coxon están advirtiendo sobre la necesidad de un enfoque más responsable y controlado en la creación de inteligencia artificial avanzada, dado que los tiempos de respuesta de las regulaciones actuales parecen ser insuficientes para hacer frente a la rapidez del avance tecnológico.

Así, la discusión sobre los peligros de la IA se vuelve cada vez más urgente y relevante en el ámbito tecnológico, abriendo la puerta a un debate sobre cómo equilibrar el avance de la ciencia con la seguridad y bienestar de la humanidad en su conjunto.