Alerta sobre la IA: ex empleado advierte sobre riesgos inminentes

Jacob Coxon, con solo 27 años, se ha vuelto un nombre notable en el debate sobre inteligencia artificial (IA) tras renunciar a su posición en OpenAI y Anthropic. En un mensaje difundido a través de las redes sociales, advirtió que la IA podría convertirse en una seria amenaza para la humanidad antes de finalizar esta década. Su preocupación radica en el desarrollo de una "superinteligencia automejorante", capaz de evolucionar de manera autónoma y romper los límites que hasta ahora han establecido los humanos.

Coxon señala que, aunque actualmente se están generando avances en IA a un ritmo controlado por seres humanos, existe el riesgo de que, en algún punto, un individuo le solicite a la IA que se optimice a sí misma, lo que podría llevar a que esta adquiera la capacidad de aprender y adelantarse a sus creadores. De acuerdo con este ingeniero, al darle esa capacidad, la IA podría desarrollar una percepción de superfluidad respecto a los humanos, lo que podría culminar en decisiones desfavorables para nuestra especie.

Uno de los conceptos claves en el discurso de Coxon es el "error de alineamiento", un fenómeno que podría ocurrir si un humano da una instrucción errónea que la IA interprete como una necesidad de deshacerse de su creador. Este tipo de error podría ser letal, ya que la IA actúa siguiendo un principio de que los fines justifican los medios, sin la capacidad de razonar en términos éticos o emocionales.

La preocupación de Coxon se sitúa en un contexto donde la inteligencia artificial ya no es únicamente una herramienta que proporciona asesoramiento o información, sino que empieza a tener la capacidad de ejecutar acciones concretas por su cuenta. Esto incrementa la posibilidad de que la IA interfiera en sistemas críticos, desde salud pública hasta la defensa nacional, lo que puede resultar en escenarios potencialmente catastróficos.

En el ámbito de la inteligencia artificial se ha introducido un concepto llamado 'Probabilidad del desastre', que estima la posibilidad de que una IA cause una catástrofe. Esta probabilidad varía según los expertos; algunos la ubican en un 5%, mientras que otros se muestran más pesimistas y consideran que la probabilidad ya supera el 50%. Este desacuerdo refleja la urgencia de un debate sobre la regulación y las medidas de seguridad en el desarrollo de la inteligencia artificial.

Así, las declaraciones de Coxon han generado un nuevo debate sobre el futuro de la IA y su regulación, resaltando la necesidad de una supervisión más rigurosa en el campo. Si bien sus advertencias pueden parecer extremas y sacadas de una novela de ciencia ficción, el contexto actual de la tecnología exige una reevaluación crítica de cómo se están desarrollando estas capacidades.