Momento Pugwash de AI
Pablo Bustamante Pardo
Director de Lampadia
Un nuevo gran reto para la humanidad, organizar las instituciones y los mecanismos necesarios para regular el desarrollo y aplicación de la Inteligencia Artificial (AI).
Lamentablemente, esta vez no contamos con el ascendiente y liderazgo de Bertrand Russell y Albert Einstein. En nuestro mundo de liderazgos fallidos, vamos a tener que crecer ante la adversidad, como dicen en Inglaterra, ‘necessity is the mother of invention’ (la necesidad es la madre de la invención).
En este tema, los peruanos debiéramos ir preparándonos para propiciar y participar en los esfuerzos internacionales que deben desarrollarse. Pensemos en nuestros mejores pensadores para que se vayan preparando. ¿Propuestas?
Mientras tanto leamos el análisis de Project Syndicate:
Project Syndicate
ANNE-MARIE SLAUGHTER y FADI CHEHADÉ
24 de julio de 2023
Glosado por Lampadia
Los principales científicos, tecnólogos, filósofos, especialistas en ética y humanitarios de todos los continentes deben unirse para asegurar un acuerdo amplio sobre un marco para gobernar la IA que pueda ganar apoyo a nivel local, nacional y global. Afortunadamente, no tendrían que empezar de cero.
Hace casi exactamente 66 años, 22 destacados científicos de diez países, incluidos los Estados Unidos y la Unión Soviética, se reunieron en Pugwash, Nueva Escocia, para identificar los peligros que plantean las armas nucleares e idear formas pacíficas de resolver conflictos entre países. Así nació la organización internacional conocida como Conferencias Pugwash sobre Ciencia y Asuntos Mundiales, o el Movimiento Pugwash. Aunque el mundo difícilmente está libre de armas nucleares, los esfuerzos del Movimiento para promover el desarme fueron lo suficientemente poderosos como para ganar el Premio Nobel de la Paz en 1995.
Hoy, el mundo necesita un nuevo Movimiento Pugwash, esta vez centrado en la inteligencia artificial. A diferencia de las armas nucleares, la IA es tan prometedora como peligrosa, y su capacidad destructiva es aún más teórica que real. Aun así, ambas tecnologías plantean riesgos existenciales para la humanidad. Por lo tanto, los principales científicos, tecnólogos, filósofos, especialistas en ética y humanitarios de todos los continentes deben unirse para asegurar un amplio acuerdo sobre un marco para gobernar la IA que pueda ganar apoyo a nivel local, nacional y global.
A diferencia del Movimiento Pugwash original, la versión AI no tendría que diseñar un marco desde cero. Ya están en marcha decenas de iniciativas para gobernar y guiar el desarrollo y las aplicaciones de IA. Los ejemplos incluyen el Plan para una declaración de derechos de IA en los Estados Unidos, las Directrices de ética para una IA confiable en la Unión Europea, los Principios de IA de la OCDE y la Recomendación de la UNESCO sobre la ética de la inteligencia artificial.
En cambio, el nuevo Movimiento Pugwash se centraría en gran medida en conectar a los actores relevantes, alinearse con las medidas necesarias y garantizar que se implementen ampliamente. Las instituciones serán vitales para este esfuerzo. Pero, ¿qué tipo de instituciones se necesitan y se pueden establecer o empoderar de manera realista para enfrentar el desafío de la IA rápidamente?
El secretario general de las Naciones Unidas, António Guterres, ha pedido un “multilateralismo en red”, en el que la ONU, “las instituciones financieras internacionales, las organizaciones regionales, los bloques comerciales y otros”, incluidas muchas entidades no gubernamentales, “trabajen juntos de manera más estrecha y eficaz”. Pero para ser eficaces, tales redes de múltiples partes interesadas tendrían que estar diseñadas para cumplir funciones específicas.
Un documento publicado este mes por un grupo de destacados académicos y expertos en IA de universidades y empresas tecnológicas identifica cuatro funciones de este tipo con respecto a la IA: difundir tecnología beneficiosa, armonizar la regulación, garantizar un desarrollo y uso seguros y gestionar los riesgos geopolíticos.
Comprensiblemente, muchos consideran que “garantizar un desarrollo y uso seguros” es la máxima prioridad. Por lo tanto, se están realizando esfuerzos para desarrollar una institución que identificará y monitoreará los daños reales y potenciales que surjan de las aplicaciones de IA, al igual que el Panel Intergubernamental sobre Cambio Climático monitorea el riesgo existencial del cambio climático. De hecho, el Observatorio Global de IA, propuesto recientemente por la Iniciativa de Igualdad e Inteligencia Artificial, se inspiraría explícitamente en el IPCC, que es esencialmente una red de redes que funciona muy bien para acumular conocimiento de muchas fuentes diferentes.
Las redes de acumulación, desde el Sistema de Informes de Incidentes de la Agencia de Seguridad de Infraestructura y Ciberseguridad de EE. UU. hasta Wikipedia, tienen un centro autorizado central que puede reunir información y análisis de muchos tipos diferentes de instituciones, algunas de las cuales ya están conectadas en red. Pero un centro de este tipo no puede tomar medidas rápidas en función de la información que recopila. Para gobernar AI, todavía se necesita una institución multilateral jerárquica con el poder de tomar e implementar decisiones, como un Consejo de Seguridad de la ONU que funcione.
En cuanto a la función de difundir tecnología beneficiosa (que es tan importante para la mayoría de las personas como prevenir daños), es probable que una red combinada de innovación y colaboración funcione mejor. Las redes de innovación generalmente incluyen muchos nodos remotos, para garantizar el acceso a la mayor cantidad posible de fuentes de nuevas ideas y prácticas, y un número limitado de centros enfocados en transformar ideas en acción, colaborar en las mejores prácticas y prevenir la explotación. Los centros podrían estar centrados en regiones específicas o quizás vinculados a Objetivos de Desarrollo Sostenible de la ONU específicos.
Armonizar la regulación, incluida la experimentación con diferentes tipos de regulación, requerirá una estructura más amplia, flexible y máximamente inclusiva. Las tecnologías de IA son simplemente demasiado amplias y de rápido movimiento para que una o incluso varias autoridades reguladoras centralizadas tengan alguna posibilidad de canalizarlas y guiarlas por sí solas. En su lugar, proponemos una red de múltiples centros ampliamente distribuida que admita lo que llamamos ” gobernanza digital”.
Nuestro modelo se basa en la arquitectura distribuida y el sistema de cogobernanza que son ampliamente reconocidos por mantener la estabilidad y la resiliencia de Internet. Hace décadas, los investigadores de tecnología, apoyados por el gobierno de EE. UU. y las primeras empresas de Internet, crearon varias instituciones en una constelación poco coordinada, cada una con sus propias responsabilidades funcionales.
Internet Society promueve una Internet abierta y globalmente conectada. El Consorcio World Wide Web desarrolla estándares web. El Foro de Gobernanza de Internet reúne a las partes interesadas para discutir cuestiones de política relevantes. Y la Corporación de Internet para la Asignación de Nombres y Números (ICANN) coordina y protege los identificadores únicos de Internet.
La clave del éxito de estas instituciones es que funcionan a través de redes distribuidas entre pares y autónomas que reúnen a una amplia gama de partes interesadas para codiseñar normas, reglas y pautas de implementación. ICANN, por ejemplo, tiene docenas de redes autoorganizadas que se ocupan del Sistema de Nombres de Dominio, crucial para permitir que los usuarios naveguen por Internet, y coordina otras redes autónomas, como las cinco instituciones regionales que administran la asignación de direcciones IP para el mundo.
Estas instituciones son capaces de manejar una amplia gama de cuestiones de política, desde las técnicas hasta las políticas. Cuando Rusia invadió Ucrania en 2022, las autoridades ucranianas presionaron a la ICANN para que eliminara .ru del directorio maestro del Sistema de Nombres de Dominio, conocido como la zona raíz, que es administrado por 12 instituciones en cuatro países, coordinadas, pero no controladas por la ICANN. Finalmente, la Autoridad de Números Asignados de Internet rechazó la solicitud.
Una conferencia tipo Pugwash sobre IA no tendría escasez de propuestas para considerar, o socios gubernamentales, académicos, corporativos y cívicos para involucrar. Los participantes originales de Pugwash respondían a una llamada de gigantes intelectuales como el filósofo Bertrand Russell y el físico Albert Einstein. ¿Quién dará el paso hoy?
Anne-Marie Slaughter, exdirectora de planificación de políticas en el Departamento de Estado de EE. UU., es directora ejecutiva del grupo de expertos New America, profesora emérita de política y asuntos internacionales en la Universidad de Princeton y autora de Renewal: From Crisis to Transformation in Our Lives, Work, and Politics (Princeton University Press, 2021 ) .
Fadi Chehadé, expresidente y director ejecutivo de ICANN (2012-16), es codirector ejecutivo de Ethos Capital y miembro del Panel de Alto Nivel sobre Cooperación Digital del Secretario General de las Naciones Unidas.
Lampadia