UN Global Dialogue Co-Leads Issue Call to Action on Safe, Secure, and Trustworthy AI
Partnership on AI ·
The post UN Global Dialogue Co-Leads Issue Call to Action on Safe, Secure, and Trustworthy AI appeared first on Partnership on AI .
Share
This past July, 170 countries came together in Geneva for the first UN Global Dialogue on AI Governance. Today, the Co-Leads of Cluster 3 on Safe, Secure, and Trustworthy AI — one from government, one from civil society — are laying out five steps to carry that momentum forward.
Paula Bogantes Zamora, Minister of Science, Innovation, Technology and Telecommunications of Costa Rica, and PAI’s CEO, Rebecca Finlay, have written jointly to the Dialogue’s Co-Chairs ahead of UNGA.
They propose the following steps before the Dialogue reconvenes in New York in 2027.
Geneva showed growing consensus across stakeholder groups on what we need to achieve. The next test is whether we can turn that consensus into action through a shared baseline and interoperability tested in practice. We look forward to working with the co-chairs and our partners as we work towards the next dialogue
Read the letter below.
Leer la carta en Español
H.E. Ms. Egriselda López Permanent Representative of El Salvador to the United Nations Co-Chair, Global Dialogue on AI Governance
H.E. Mr. Rein Tammsaar Permanent Representative of Estonia to the United Nations Co-Chair, Global Dialogue on AI Governance
cc: Independent International Scientific Panel on AI; Cluster Co-Leads
Re: Cluster 3 Reflections and Proposed Steps Toward New York, May 2027
Excellencies,
We write jointly, as Co-Leads of Cluster 3 on Safe, Secure, and Trustworthy AI, to express our gratitude for your stewardship of this inaugural Dialogue, and to offer reflections drawn from our session, including interventions from participants across government, industry, and civil society, together with written recommendations submitted during the discussion.
It is a tremendous achievement to convene 170 countries, alongside industry, civil society, and academia, around a technology that is moving this quickly. Under your leadership, the Dialogue has created a truly global forum in which AI governance can be deliberated by all who will live with its consequences. Our responsibility now is to ensure that what began in Geneva arrives in New York with momentum.
As Co-Leads, we were tasked with convening this cluster to build convergence on the infrastructure needed for global AI safety and interoperability, including identifying common baselines for frontier systems, common methods to verify them, and the shared resolve to hold systems to those standards.
That mandate resolved, in practice, into a single question — one the cluster’s interventions kept returning to from every angle: how do shared evidence and direction become governance that actually connects across borders? Participants converged, with unusual consistency, on six priorities:
We believe five steps are within reach before the Dialogue reconvenes in New York in May 2027, and we respectfully submit them for your consideration, including through reference in the Co-Chairs’ report, which we see as the natural vehicle for turning convergence into a mandate for the intersessional period.
The convergence our cluster witnessed in Geneva suggests the field is ready for its next step toward governance that is measured by evidence, built by all regions as equal partners, and capable of evolving as the technology does. Each Dialogue gives us a rare chance to measure where the field actually stands against a shared baseline, and to be honest about what is still missing.
Closing the gap between innovation and accountability starts by asking different questions than the ones currently driving the field: not how fast a system can be deployed, but who it serves and who answers when it fails; not how powerful a system is, but how verifiable its safety is, and against what evidence.
We hope the New York Dialogue, building on Geneva, will mark real progress on these questions.
We are grateful for your leadership, and we stand ready to support you, the Independent International Scientific Panel on AI, and our fellow cluster leads in carrying this work forward.
Please accept, Excellencies, the assurances of our highest consideration.
Minister Paula Bogantes Zamora Ministry of Science, Innovation, Technology and Telecommunications, Costa Rica Co-Lead, Cluster 3
Rebecca Finlay Chief Executive Officer, Partnership on AI Co-Lead, Cluster 3
Excma. Sra. Egriselda López Representante Permanente de El Salvador ante las Naciones Unidas Copresidenta, Diálogo Mundial sobre la Gobernanza de la IA
Excmo. Sr. Rein Tammsaar Representante Permanente de Estonia ante las Naciones Unidas Copresidente, Diálogo Mundial sobre la Gobernanza de la IA
cc: Panel Científico Internacional Independiente sobre la IA; Colíderes de los Grupos Temáticos
Ref.: Reflexiones del Grupo Temático 3 y pasos propuestos con vistas a Nueva York, mayo de 2027
Excelencias:
Les escribimos de manera conjunta, en nuestra calidad de Colíderes del Grupo Temático 3 sobre una IA segura, protegida y confiable, para expresarles nuestro agradecimiento por la conducción de este Diálogo inaugural y para compartir las reflexiones surgidas de nuestra sesión, incluidas las intervenciones de participantes provenientes del sector público, la industria y la sociedad civil, junto con las recomendaciones escritas presentadas durante la discusión.
Es un logro enorme convocar a 170 países, junto con la industria, la sociedad civil y la academia, en torno a una tecnología que avanza a esta velocidad. Bajo su liderazgo, el Diálogo ha creado un foro verdaderamente global en el que la gobernanza de la IA puede deliberarse entre todas las personas que vivirán sus consecuencias. Nuestra responsabilidad ahora es asegurar que lo que empezó en Ginebra llegue a Nueva York con impulso.
Como Colíderes, se nos encomendó convocar este grupo temático para construir convergencia sobre la infraestructura necesaria para la seguridad y la interoperabilidad globales de la IA, lo que incluye identificar líneas base comunes para los sistemas de frontera, métodos comunes para verificarlos y la voluntad compartida de exigir que los sistemas cumplan esos estándares.
Ese mandato se resolvió, en la práctica, en una sola pregunta —a la que las intervenciones del grupo volvieron desde todos los ángulos—: ¿cómo se convierten la evidencia y la orientación compartidas en una gobernanza que realmente conecte a través de las fronteras? Las personas participantes convergieron, con una consistencia poco común, en seis prioridades:
Consideramos que hay cinco pasos alcanzables antes de que el Diálogo vuelva a reunirse en Nueva York en mayo de 2027, y los sometemos respetuosamente a su consideración, incluso mediante su mención en el informe de las Copresidencias, que vemos como el vehículo natural para transformar la convergencia en un mandato para el periodo entre sesiones.
La convergencia que nuestro grupo temático presenció en Ginebra sugiere que el campo está listo para su siguiente paso hacia una gobernanza que se mida con evidencia, que se construya con todas las regiones como socias en igualdad de condiciones y que sea capaz de evolucionar al ritmo de la tecnología. Cada Diálogo nos da una oportunidad poco frecuente de medir dónde se encuentra realmente el campo frente a una línea base compartida, y de ser honestos sobre lo que aún falta.
Cerrar la brecha entre la innovación y la rendición de cuentas empieza por hacer preguntas distintas a las que hoy impulsan el campo: no qué tan rápido puede desplegarse un sistema, sino a quién sirve y quién responde cuando falla; no qué tan poderoso es un sistema, sino qué tan verificable es su seguridad, y con base en cuál evidencia.
Esperamos que el Diálogo de Nueva York, sobre la base de Ginebra, marque un progreso real en estas preguntas.
Les agradecemos su liderazgo y quedamos a su disposición para apoyarles, así como al Panel Científico Internacional Independiente sobre la IA y a nuestros colegas líderes de los demás grupos temáticos, en llevar adelante este trabajo.
Aprovechamos la ocasión para reiterarles, Excelencias, el testimonio de nuestra más alta consideración.
Ministra Paula Bogantes Zamora Ministerio de Ciencia, Innovación, Tecnología y Telecomunicaciones, Costa Rica Colíder, Grupo Temático 3
Rebecca Finlay Directora Ejecutiva, Partnership on AI Colíder, Grupo Temático 3
The post UN Global Dialogue Co-Leads Issue Call to Action on Safe, Secure, and Trustworthy AI appeared first on Partnership on AI .