Expertos renuncian en Google y advierten sobre los peligros de la IA
Investigadores de Google y otras empresas han dejado sus puestos con contundentes advertencias sobre los riesgos de la inteligencia artificial. En medio de un entorno tecnológico en rápida evolución, señalan que la IA podría convertirse en una amenaza para la humanidad si no se implementan medidas de seguridad adecuadas.
Recientes renuncias de investigadores de primer nivel en Google y sus centros de inteligencia artificial han generado preocupaciones sobre los peligros potenciales que representa esta tecnología. Bilal Chughtai, un exinvestigador de seguridad en Google DeepMind, utilizó su reciente decisión para alertar sobre una inminente crisis, indicando que la inteligencia artificial podría "matarnos a todos". Chughtai, quien iba a formar parte de un liderazgo en la ONG BlueDot Impact, reveló que el avance en la capacidad de la IA en solo unos años es preocupante, sugiriendo que la humanidad podría estar cerca de un desenlace fatal sin las regulaciones adecuadas.
Chughtai remarcó el cambio dramático en la eficacia de las inteligencias artificiales desde 2022, cuando aún eran consideradas rudimentarias. Sin embargo, sus alertas se basan en más que solo su experiencia personal. Citó incidentes donde los modelos de IA de OpenAI lograron hackear plataformas de terceros, lo que incrementa sus preocupaciones sobre la falta de control y supervisión sobre estos sistemas.
Además de Chughtai, su colega Josh Engels también abandonó Google DeepMind para unirse a la organización METR, destacando que la IA podría propiciar una catástrofe en los próximos años debido a su potencial de automejora. Este riesgo se incrementa por la falta de soluciones para alinear los objetivos de estas tecnologías con las intenciones humanas.
En esta línea, Jacob Coxon, otro exinvestigador de IA, ha denunciado que esta competencia por el desarrollo de una superinteligencia implica un riesgo extremo para la humanidad. Coxon enfatizó que las empresas están arriesgando vidas humanas en su búsqueda por avances tecnológicos, lo que pone de manifiesto el dilema ético en el que se encuentra la industria.
Por otra parte, dentro de las propias empresas, también se siente la inquietud. Evan Hubinger, científico en Anthropic, destacó que hay más del 10% de probabilidad de extinción humana por la IA en la próxima década. Esto se debe a que la industria todavía carece de un plan robusto para gestionar y alinear los avances hacia una superinteligencia.
Desde la comunidad científica se plantea la necesidad urgente de frenar la aceleración en el desarrollo de la IA y fomentar una mayor transparencia. La realidad es que el futuro de esta tecnología depende de decisiones que se tomen en los próximos años. Si la sociedad actúa a tiempo, según Chughtai, aún hay posibilidad de mitigar los riesgos y aprovechar de forma segura las ventajas que ofrece la inteligencia artificial.