Líderes de IA instan a la ONU a mejorar controles internacionales sobre la tecnología

Durante la Asamblea General de la ONU, líderes de OpenAI y Anthropic, Sam Altman y Dario Amodei, expresaron su preocupación por los riesgos que representan los sistemas avanzados de inteligencia artificial. Junto a otros expertos, abogaron por la creación de mecanismos internacionales de seguridad y regulación, reflejando la creciente inquietud en torno a la evolución de esta tecnología.

Amodei subrayó el peligro que implica una gestión inadecuada de la inteligencia artificial, afirmando que una falta de control podría poner en riesgo a la humanidad. Altman, en concordancia, enfatizó el temor de que las capacidades de esta tecnología puedan desarrollarse hasta un punto en que la humanidad pierda control sobre su evolución. Estas declaraciones ponen de manifiesto la urgencia de establecer límites y regulaciones en el avance de la IA.

Además de Altman y Amodei, el encuentro incluyó la participación de Yoshua Bengio, destacado investigador en el campo de la IA, y Clément Delangue, CEO de Hugging Face. Este último destacó la importancia de diferenciar entre aplicaciones beneficiosas y dañinas de la inteligencia artificial, así como las desiguales capacidades de empresas y países para gestionar potenciales amenazas derivadas de esta tecnología. Delangue también abogó por una mayor transparencia en los desarrollos relacionados con la IA, incluyendo la promoción de herramientas de código abierto.

Bengio advierte que los peligros de los sistemas avanzados de IA trascienden fronteras nacionales, sugiriendo que ningún país puede enfrentar solo las amenazas de alcance global que podrían surgir. Esta declaración resuena con el llamado del secretario general de la ONU, António Guterres, quien subrayó la necesidad de coordinar esfuerzos internacionales para enfrentar estos desafíos. Guterres argumentó que, aunque cada país puede establecer sus propias regulaciones, es esencial la creación de salvaguardas comunes y el intercambio de información entre naciones.

El debate sobre la regulación de la IA también provoca discusiones dentro del ámbito tecnológico. Algunos expertos sostienen que las advertencias sobre riesgos existenciales pueden ser utilizadas como herramienta de presión por las grandes corporaciones para moldear el marco regulatorio futuro. Por otro lado, se argumenta que los verdaderos peligros de la IA dependen de los contextos y las decisiones que la sociedad tome respecto a su uso.

A medida que la inteligencia artificial continúa su avance, el llamado a la acción por parte de los líderes tecnológicos sugiere que la cooperación internacional y la regulación se están convirtiendo en una necesidad urgente para mitigar los riesgos asociados con su desarrollo.