Google propone una pausa en inteligencia artificial y controles obligatorios

El laboratorio de investigación Google DeepMind ha respaldado la idea de pausar el avance de la inteligencia artificial más potente y ha solicitado la inmediata intervención de gobiernos. Esta posición, expresada por Demis Hassabis, se alinea con las advertencias que también han hecho otras figuras prominentes del sector tecnológico, como los líderes de Anthropic y OpenAI, sobre los peligros que acarrea una aceleración descontrolada en el desarrollo de esta tecnología.

Hassabis subrayó la importancia de implementar un marco regulatorio que contemple auditorías de seguridad previas al lanzamiento de nuevos modelos de inteligencia artificial. Propuso la creación de un ente regulador que combine intereses tanto públicos como privados, lo cual sería un paso fundamental para mitigar los riesgos asociados a estos sistemas avanzados.

Según Hassabis, el actual ritmo de desarrollo podría acercar a la industria a la creación de una Inteligencia Artificial General (IAG), que podría igualar o incluso superar las capacidades humanas en un plazo más cercano del previsto por los analistas. Esta aceleración plantea una serie de desafíos éticos y de seguridad que, según él, deben ser abordados inmediatamente para evitar consecuencias potencialmente catastróficas.

La postura de Google no solo evidencia una creciente preocupación en la industria sobre los riesgos de la inteligencia artificial, sino que también refleja una tendencia hacia la colaboración entre competidores para establecer pautas y regulaciones. El directivo de DeepMind destacó que, en las décadas venideras, se podría considerar este periodo como el inicio de la singularidad, refiriéndose al punto en que la inteligencia artificial podría generar cambios bruscos e imprevisibles en la sociedad.

En este contexto, Hassabis se unió a la visión de Dario Amodei de Anthropic, quien argumentó que los riesgos asociados a la inteligencia artificial ya no son meras hipótesis, sino amenazas reales que requieren atención inmediata. Estas declaraciones se intercalan con los recientes llamados de otros líderes del sector, quienes comparten la inquietud sobre las repercusiones de no contar con salvaguardias adecuadas.

Con la propuesta de una pausa, Google busca generar un consenso en el sector tecnológico que propicie un desarrollo más seguro y controlado de la inteligencia artificial. La respuesta a esta iniciativa podría definir el rumbo de la regulación en el campo tecnológico y su impacto en la economía global.

A medida que la discusión sobre la inteligencia artificial avanza, queda por ver cómo reaccionarán otras empresas y gobiernos ante estos llamados a la acción, y si se instaurarán las medidas sugeridas por Google y sus aliados del sector.