En un encuentro histórico en Bletchley Park, la cuna del cómputo moderno y antiguo centro de descifrado de códigos de la Segunda Guerra Mundial, delegados de 28 naciones se reunieron para abordar lo que podría ser uno de los desafíos más significativos de nuestro tiempo: los riesgos potencialmente «catastróficos» de los avances en inteligencia artificial (IA).
La Primera Cumbre Internacional de Seguridad de IA, un evento que congregó a potencias mundiales como Estados Unidos y China, se centró en la IA de «frontera», una tecnología emergente que algunos científicos advierten que podría amenazar la existencia misma de la humanidad. El Primer Ministro británico, Rishi Sunak, calificó la declaración resultante del encuentro como «un logro trascendental», subrayando la urgencia de comprender los riesgos asociados con la IA.
Sin embargo, la Vicepresidenta de los Estados Unidos, Kamala Harris, instó a los países, incluido el Reino Unido, a adoptar medidas más rápidas y extensas. En una dirección en la Embajada de EE.UU., Harris enfatizó que debemos actuar ahora para abordar «el espectro completo» de los riesgos de la IA, no solo las amenazas existenciales, sino también aquellas que están causando daños actuales, como los algoritmos defectuosos que afectan los planes de salud o el uso de deep fakes en situaciones de abuso.
La cumbre, que es parte de la visión de Sunak para posicionar al Reino Unido como un centro de innovación en computación, marca el comienzo de un diálogo global sobre el desarrollo seguro de la IA. Este esfuerzo culminó con la firma del «Bletchley Declaration», aunque el acuerdo es ligero en detalles y no propone una forma de regular el desarrollo de la IA. A pesar de ello, representa un compromiso de «acuerdo y responsabilidad compartidos» sobre los riesgos de la IA, estableciendo una serie de futuras reuniones.
Los comentarios del Vice Ministro de Ciencia y Tecnología de China, Wu Zhaohui, resaltaron la «incertidumbre, incomprensibilidad y falta de transparencia» de la tecnología de IA, subrayando la necesidad de colaboración global para mitigar sus riesgos y desafíos.
La presencia de figuras como Elon Musk y líderes de organizaciones influyentes, como la Comisión Europea y la ONU, junto a ejecutivos de empresas líderes en IA como Anthropic, DeepMind de Google y OpenAI, añade peso a la urgencia y seriedad del tema en discusión.
Los desafíos que plantea la IA son complejos y multifacéticos, desde cuestiones éticas hasta de seguridad y privacidad. La cumbre ha sido una plataforma para debates sustanciales y para fomentar la confianza entre naciones. Este diálogo abierto es crucial, especialmente cuando consideramos la tensión entre los beneficios del código abierto y los riesgos de seguridad que esto puede implicar, como lo señaló Yoshua Bengio.
En contraste con Sunak, quien ha advertido contra la regulación apresurada de la IA, Harris destacó la necesidad de abordar los daños sociales que ya están ocurriendo, y señaló la orden ejecutiva reciente del Presidente Biden como un ejemplo del liderazgo estadounidense en el desarrollo de reglas para la IA que funcionen en interés público.
El encuentro de Bletchley Park es solo el comienzo de una conversación mundial necesaria y oportuna. Con futuras cumbres planeadas en Corea del Sur y Francia, el mundo está dando sus primeros pasos hacia una gobernanza de IA que sea segura, ética y beneficiosa para todos.
Al inicio de la reunión, la Secretaria de Tecnología del Reino Unido, Michelle Donelan, anunció que los 28 países y la Unión Europea habían firmado la Declaración de Bletchley sobre la Seguridad de la IA. Esta destaca la «necesidad urgente de comprender y gestionar colectivamente los posibles riesgos mediante un nuevo esfuerzo global conjunto».
Corea del Sur ha acordado organizar una mini cumbre virtual sobre IA dentro de seis meses, seguida por otra presencial en Francia dentro de un año, según informó el gobierno del Reino Unido.
