La Declaración de Bletchley y los riesgos de la IA
Un total de 28 países que incluyen EE UU, China, Reino Unido, Arabia Saudí, Emiratos Árabes, Australia y toda la UE en bloque, se han puesto de acuerdo en firmar la Declaración de Bletchley, que expresa la voluntad de llevar a término un desarrollo ‘seguro y responsable’ de la Inteligencia Artificial (IA).
[Ciencia – Tecnología / Empresa – Información Digital]
La Declaración de Bletchley, redactada durante la Cumbre de Seguridad de la Inteligencia Artificial | IA Safety Summit, celebrada en Bletchley Park, fue publicada el 1 de noviembre de 2023. Esta declaración pone de acuerdo las principales potencias mundiales.
Hasta 28 países, incluyendo la UE, Reino Unido, China, EE UU y Arabia Saudí, han plasmado en un documento su preocupación en desarrollar una Inteligencia Artificial ‘segura y responsable’ que redunde en el bienestar de las personas y de la comunidad globalmente.
La Declaración de Bletchley empieza diciendo: «La Inteligencia Artificial (IA) presenta enormes oportunidades globales: tiene el potencial de transformar y mejorar el bienestar humano, la paz y la prosperidad.
Para lograr esto, afirmamos que, por el bien de todas las personas, la IA debe diseñarse, desarrollarse, implementarse y utilizarse de manera segura, centrada en el ser humano, confiable y responsable.
Acogemos con beneplácito los esfuerzos de la comunidad internacional hasta ahora para cooperar en materia de IA para promover el crecimiento económico inclusivo, el desarrollo sostenible y la innovación.
Además, proteger los derechos humanos y las libertades fundamentales y fomentar la confianza pública en los sistemas de IA para realizar plenamente su potencial».
Los riesgos de la IA
Además de las oportunidades que nos ofrece la IA, hay que tener en cuenta también los riesgos que puede conllevar: «La IA también plantea riesgos importantes, incluso en esos ámbitos de la vida diaria.
Con ese fin, acogemos con satisfacción los esfuerzos internacionales pertinentes para examinar y abordar el impacto potencial de los sistemas de IA en los foros existentes y otras iniciativas relevantes.
Además del reconocimiento de la protección de los derechos humanos, transparencia y explicabilidad, equidad, rendición de cuentas, regulación, seguridad, adecuada supervisión humana, aspectos éticos, mitigación de prejuicios, privacidad y protección de datos.
También observamos el potencial de riesgos imprevistos derivados de la capacidad de manipular contenido o generar contenido engañoso. Todas estas cuestiones son de importancia crítica y afirmamos la necesidad y urgencia de abordarlas. […]».
Así, se reconoce que las posibilidades de esta tecnología «no se entienden completamente y, por lo tanto, son difíciles de prever», y alerta de un ‘posible mal uso’ en campos como la ciberseguridad y la biotecnología, y del hecho de que pueda crecer la desinformación.
Hay potencial para daños graves, incluso catastróficos, sean deliberados o no intencionados, derivados de las capacidades más significativas de estos modelos de IA.
Agenda para abordar el riesgo fronterizo de la IA
«En el contexto de nuestra cooperación, y para informar la acción a nivel nacional e internacional, nuestra agenda para abordar el riesgo fronterizo de la IA se centrará en:
>> Identificar los riesgos de seguridad de la IA de interés compartido,
> construir una comprensión compartida científica y basada en evidencia de estos riesgos, y
> mantener esa comprensión a medida que las capacidades continúan aumentando, en el contexto de un enfoque global más amplio para comprender el impacto de la IA en nuestras sociedades.
>> Construir políticas respectivas basadas en riesgos en nuestros países para garantizar la seguridad a la luz de dichos riesgos, colaborando según corresponda y reconociendo que nuestros enfoques pueden diferir según las circunstancias nacionales y los marcos legales aplicables.
Esto incluye:
> junto con una mayor transparencia por parte de los actores privados que desarrollan capacidades de IA de vanguardia,
> métricas de evaluación apropiadas,
> herramientas para pruebas de seguridad y
> el desarrollo de capacidades e investigaciones científicas relevantes del sector público».
Acción internacional conjunta
Además los promotores de la Declaración de Bletchley, organizarán encuentros y foros internacionales de manera periódica para mantener una acción conjunta entre todos los países firmantes.
Igualmente apoyarán una red internacionalmente inclusiva de investigación científica sobre la seguridad de la IA en la frontera, que abarque y complemente la colaboración multilateral, plurilateral y bilateral existente y nueva.
Todo ello para facilitar la provisión de la mejor ciencia disponible para la formulación de políticas y el bien público.
Corea del Sur será el anfitrión del primer foro, de forma virtual, dentro de seis meses; y Francia acogerá uno de forma presencial a finales de 2024.
Bletchley y el ordenador Colossus
El lugar donde se ha desarrollado la Cumbre y se ha producido esta Declaración se escogió por su significado histórico en materia de inteligencia computacional.
Bletchley Park es el nombre de una instalación militar localizada en Buckinghamshire, Inglaterra, en la que se realizaron los trabajos de descifrado de códigos alemanes durante la Segunda Guerra Mundial.
Recibe su nombre de la mansión victoriana que domina el enclave. La primera computadora Colossus fue diseñada y construida en Bletchley Park, permitiendo romper los códigos de la máquina alemana Enigma.
Gran parte de su personal, en torno al 75%, fueron mujeres, entre ellas la mátematica Ann Mitchell.
Los informes que generaron, a partir de la información interceptada y descifrada, clasificados con la palabra ‘Ultra’, contribuyeron a recortar la duración del conflicto.
El lugar es ahora un museo localizado en la ciudad de Bletchley, cerca de Milton Keynes, Buckinghamshire, a 80 kilómetros al norte de Londres.
Allí desarrolló su actividad como criptoanalista el matemático Alan Turing, cuyo archivo permanece en la mansión y recientemente ha sido comprado para conservarlo.
Equipo Torrese
eMagazine 39ymas.com
Origen de las imágenes:
freepik.es – rawpixel.com
elchapuzasinformatico.com
Wikipedia
Ver:
> Inteligencia artificial híbrida contra las Fake News
> El Proyecto Q* de OpenAI – Científicos advierten de los riesgos
> ChatGPT o Google Bard – La OMS pide una IA segura y ética
> Gemelos digitales y ‘Blockchain’ – Tendencias tecnológicas 2023 – 1
> Internet de las Cosas, Inteligencia Artificial y Metaverso – Tendencias tecnológicas 2023 – 2
> Katherine Johnson – Matemática clave para la llegada a la Luna
> La Inteligencia Artificial Generativa – Una revolución creativa
> Aprendizaje automático (Machine Learning) – Inteligencia Artificial – Carles Gomara
> Inteligencia artificial y robotización – Revolución sanitaria en 2022
> Carme Torras – Robótica asistencial e Inteligencia artificial
> ‘Tus electrodomésticos te espían’ – Luis Enrique Benítez Jaspe
> Margaret Hamilton – Primera ingeniera de software
> Katherine Johnson – Matemática clave para la llegada a la Luna
> Ada Lovelace y otras mujeres pioneras en programación
1 – 28-11-2023