Nuevas normas de la UE establecen transparencia para la inteligencia artificial

La Unión Europea ha puesto en marcha nuevas normas de transparencia para sistemas de inteligencia artificial (IA), que entraron en vigencia el 2 de agosto. Estas regulaciones buscan que las empresas informen a los usuarios cuando están interactuando con máquinas o cuando el contenido que están viendo ha sido alterado. Las principales compañías responsables de plataformas de IA, como OpenAI, Google y Anthropic, deberán diseñar sus servicios para cumplir con estas obligaciones. Las responsabilidades también se extienden a aplicaciones de IA en el sector público y en el ámbito comercial, así como en sistemas de reconocimiento de emociones y análisis biométrico.

A partir de diciembre, se requerirá que los sistemas de IA añadan marcas de agua a todos los textos, imágenes, vídeos y audios generados o manipulados por máquinas, facilitando así a los ciudadanos la identificación de esta información. Sin embargo, las plataformas de IA no asumen la responsabilidad legal por el contenido creado por sus usuarios, lo que significa que son estos últimos los que deben informar sobre las manipulaciones. Las normas permiten exenciones para contenidos de ficción, artísticos o satíricos, pero no eluden casos en los que la información generada sea relevante para el debate público, como en procesos judiciales, electorales o de salud pública, en los que se exige mayor supervisión.

Una preocupación reciente ha llevado a la UE a prohibir la creación de imágenes sexualizadas generadas por IA sin el consentimiento de los involucrados, reflejando los escándalos generados por diversas plataformas. La Oficina de Inteligencia Artificial de la Comisión Europea ahora tiene la autoridad para supervisar y evaluar los modelos de IA considerados de alto riesgo, con la posibilidad de imponer multas significativas a aquellos que no cumplan con los nuevos estándares. Las sanciones pueden alcanzar hasta 15 millones de euros o el 3% de la facturación anual global de la compañía, dependiendo de cuál sea mayor.

Sin embargo, persisten interrogantes sobre la capacidad de la Comisión Europea para auditar efectivamente estos modelos riesgosos, especialmente si el acceso a tecnologías estadounidenses es restringido en el futuro. En este sentido, se encuentra en negociación con la empresa Anthropic para facilitar la evaluación del modelo de inteligencia artificial Mythos sin comprometer la seguridad de las infraestructuras europeas.

Las nuevas normas de la UE representan un paso importante hacia la regulación del uso de inteligencia artificial, mirado con atención desde varios sectores. Estas medidas no solo buscan proteger a los consumidores, sino también regular el impacto cada vez mayor que la IA tiene en la vida cotidiana y en áreas críticas como la salud y la justicia. El éxito de estas regulaciones dependerá de la implementación efectiva y de la disposición de las empresas para adaptarse a estas exigencias.