WIC publica un informe sobre el marco de seguridad y gobernanza de la IA

El 8 de noviembre, el Comité Especializado en Inteligencia Artificial de la Conferencia Mundial de Internet (CEIA) presentó los resultados de su Programa de Seguridad y Gobernanza de la IA, en el informe titulado «Impulsando un marco global para la seguridad y la gobernanza de la IA para el bienestar de la humanidad», durante la Cumbre de Wuzhen de WIC 2025.
Zeng Yi, copresidente del CEIA de la WIC, codirector del Programa de Seguridad y Gobernanza de la IA, director del Centro Internacional de Investigación en Ética y Gobernanza de la IA del Instituto de Automatización de la Academia China de Ciencias (CASIA) y decano del Instituto de Seguridad y Gobernanza de la IA de Pekín (Beijing-AISI), junto con Seán Ó hÉigeartaigh, codirector del Programa de Seguridad y Gobernanza de la IA del CEIA de la WIC, profesor investigador y director del programa IA: Futuros y Responsabilidad del Centro para el Futuro de la Inteligencia de la Universidad de Cambridge, presentaron el proceso de elaboración y los principales contenidos de este logro de investigación conjunto.

El informe revisa sistemáticamente las exploraciones y prácticas de seguridad y gobernanza global de IA, identifica los desafíos clave que deben abordarse y se basa en la experiencia de gobernanza multilateral en otros campos. Centrándose en el diseño del mecanismo, discutimos cómo establecer un marco global de seguridad y gobernanza de IA basado en la visión de una comunidad de futuro compartido para la humanidad, y buscamos promover un amplio consenso internacional sobre el establecimiento de este sistema.

El informe enfatiza que el panorama global de seguridad y gobernanza de inteligencia artificial está cada vez más fragmentado, lo que hace urgente y necesario establecer un sistema global integral de seguridad y gobernanza de inteligencia artificial. Identifica cuatro desafíos principales que deben abordarse: primero, prevenir y responder a los riesgos globales de seguridad y seguridad de la IA; En segundo lugar, equilibrar las diferencias en las capacidades nacionales de desarrollo y las necesidades de gobernanza; En tercer lugar, coordinar a múltiples partes interesadas para lograr una acción efectiva; El cuarto es superar los obstáculos e interferencias causados por la geopolítica y la ideología en este proceso. 

Con este fin, el informe cree que todas las partes deben integrar y optimizar los recursos de seguridad y gobernanza globales mediante medidas como fortalecer los mecanismos de coordinación de respuesta a riesgos, profundizar la cooperación en fomento de la capacidad, fortalecer la revisión y supervisión del cumplimiento y perfeccionar la evaluación científica y los mecanismos de toma de decisiones. Deberían promover conjuntamente el establecimiento de un sistema global de seguridad y gobernanza de IA centrado en las Naciones Unidas para garantizar la seguridad y la seguridad, promover la inclusión, aclarar responsabilidades y rendición de cuentas, fortalecer la coordinación efectiva y garantizar una gobernanza autorizada y eficiente. 

La redacción del informe condenó la sabiduría de muchas partes y, después de muchas rondas de discusiones en profundidad, recibió respuestas y apoyo positivos de las organizaciones miembros de WIC SC AI. Los expertos y académicos reconocen altamente la importancia práctica de construir un marco global integral de seguridad y gobernanza de IA y reconocen unánimemente la integridad y constructividad del informe. Se espera que la publicación del informe proporcione una referencia útil para discusiones globales relevantes, cree aún más un amplio consenso y promueva conjuntamente la formación de un nuevo marco global para la seguridad y gobernanza de IA.