Inteligencia artificial ética: ¿podría Suiza asumir el liderazgo?

Getty Images/istockphoto / Peshkova

El debate sobre el rastreo de contactos resalta la urgencia de abordar tecnologías no reguladas todavía como la inteligencia artificial (IA). Con una sólida democracia y un prestigio de primer nivel en materia de investigación, Suiza tiene el potencial necesario para formar parte de la vanguardia que defina y dé forma a la IA ética. 

¿Qué es la inteligencia artificial (IA)? “La inteligencia artificial es lo mejor o lo peor que le ha ocurrido nunca a la humanidad”, dijo en una ocasión el célebre científico Stephen Hawking, fallecido en 2018.

En diciembre de 2018, un grupo de expertos creado por la Comisión Europea presentó el borrador de un documento de directrices éticas para una IA fiableEnlace externo. Sin embargo, hasta el momento no se ha llegado a un acuerdo sobre una estrategia global capaz de definir principios comunes, y que incluya normas sobre transparencia, protección de la privacidad, legitimidad y legalidad.

Gracias a sus características singulares -una democracia sólida, su posición de neutralidad y una investigación de primer orden-, Suiza se encuentra en una excelente situación para desempeñar un papel de liderazgo en la configuración del futuro de una IA que se ajuste a estándares éticos. El Gobierno suizo reconoce la importancia de la inteligencia artificial para el progreso del país y, con este objetivo, ha participado en distintos foros a escala internacional.

¿Qué es la IA?

No hay una definición única de lo que puede ser la IA. A menudo se dividen en dos categorías, la Inteligencia artificial general o “fuerte” (IA fuerte), que se esfuerza por replicar de manera muy aproximada el comportamiento humano, y la inteligencia artificial estrecha o “débil” (IA débil), que se centra en tareas singulares, como el reconocimiento facial, la traducción automática o las recomendaciones de contenido, como los vídeos de YouTube.

Sin embargo, en el ámbito doméstico el debate solo acaba de comenzar, aunque lo ha hecho de manera muy seria, ya que Suiza y otros países se enfrentan en la actualidad a los problemas relacionados con la privacidad en lo que se refiere al uso de nuevas tecnologías, como las aplicaciones para el rastreo de contactos que tienen por objeto frenar la propagación de la COVID-19.

El proyecto europeo Pan-European Privacy-Preserving Proximity Tracing initiative (PEPP-PT) (Rastreo paneuropeo de proximidad para preservar la privacidad) abogaba por un sistema centralizado de datos, lo que suscitó una profunda inquietud por la transparencia y gestión de los datos. El proyecto fue descartado cuando varios países, entre los que figuraba Suiza, se decidieron a favor de un sistema descentralizado y que mejoraba la privacidad denominado DP-3TDescentralized Privacy-preserving Proximity Tracing (Rastreo descentralizado de proximidad que preserva la privacidad). Alemania dio jaque mate al protocolo PEPP-PT cuando, a finales del mes pasado, decidió abandonar también el proyecto.

“Europa se ha visto inmersa en un vigoroso y animado debate sobre las ventajas e inconvenientes del enfoque centralizado o descentralizado para el rastreo de proximidad. El debate ha sido muy beneficioso, ya que ha conseguido sensibilizar a una amplia franja de la población sobre este tema y, además, ha demostrado el alto nivel de preocupación con que están siendo diseñadas y fabricadas estas aplicaciones. La gente solo usará la app de rastreo de proximidad si está convencida de que no tiene que sacrificar su privacidad para salir del aislamiento”, afirma Jim Laurus, decano de la Facultad de Ciencias de Computación y Comunicación de la Escuela Politécnica Federal de Lausana (EPFL). Laurus es además miembro del grupo que inició el proyecto DP-3T en la EPFL.

Según una encuesta reciente, casi dos tercios de los ciudadanos suizos se han mostrado favorables al rastreo de proximidad. La app DP-3T fue lanzada el 13 de mayo en modo de prueba, a la espera de la definición de las condiciones legales para generalizar su uso, según lo que decidió el Parlamento suizo. Sin embargo, el debate resalta la urgencia de dar respuesta a cuestiones relacionadas con la ética y la gestión de los datos en las tecnologías no reguladas.

​​​​​​​

El “modelo suizo”

Por primera vez, la inteligencia artificial ha sido incluida en la estrategia del Gobierno suizo con objeto de crear las condiciones adecuadas que aceleren la transformación a la sociedad digital.

En diciembre pasado un grupo de trabajo entregó un informe al Consejo Federal (gobierno) llamado “Desafíos de la inteligencia artificial”. El informe señalaba que Suiza estaba preparada para explotar el potencial de la IA, pero los autores prefirieron deliberadamente no destacar las cuestiones éticas y la dimensión social de la IA, centrándose en cambio en distintos casos de uso de la inteligencia artificial y los desafíos que plantean.

“En Suiza el Gobierno federal no impone una visión ética global para la IA. Sería algo incompatible con nuestra tradición democrática que el Gobierno prescribiera una postura de arriba abajo”, señaló a swissinfo.ch Daniel Egloff, director de Innovación en la Secretaria de Estado de Educación, Investigación e Innovación. Egloff añadió que los principios éticos absolutos son difíciles de establecer ya que pueden cambiar de un contexto tecnológico a otro. “No obstante, empieza a surgir una visión ética de la IA en las conversaciones entre los agentes nacionales e internacionales interesados en esta cuestión, incluyendo a la ciudadanía, y el Gobierno ha tomado un papel activo en ese debate”, puntualizó.

Visto en un contexto más amplio, el Gobierno insiste en que se ha implicado a fondo en foros internacionales cuando se trata de discusiones sobre ética y derechos humanos. El embajador Thomas Schneider, director de Asuntos Internacionales de la Oficina Federal de Comunicación (OFCOM), aseguró a swissinfo.ch que a este respecto Suiza “es uno de los países más activos en el Consejo de Europa, en Naciones Unidas y en otros foros”. Añadió también que la intención de OFCOM y del Ministerio de Asuntos Exteriores es convertir a Ginebra en un centro mundial de gobernanza de la tecnología.

¿Una palabra de moda más?

¿Cómo es posible entonces definir qué es ético o no ético al hablar de tecnología? Según Pascal Kaufmann, neurocientífico y fundador de la Fundación MindfireEnlace externo para una IA centrada en el ser humano, el concepto de ética aplicado a la IA es solo una nueva palabra de moda: “Existe mucha confusión sobre el significado de la IA. Lo que muchos llaman IA tiene poco que ver con la inteligencia y bastante más con la computación pura y dura. Por eso tiene poco sentido hablar de una IA ética. Para ser éticos sugiero apresurarse a crear IA para la gente, en lugar de para gobiernos autocráticos o para las grandes compañías tecnológicas. Inventar políticas éticas no nos lleva a ninguna parte y no nos ayudará a crear IA”.

Anna Jobin, que realiza un posdoctorado en el Laboratorio de Ética y Política de Salud en la Escuela Politécnica Federal de Zúrich (ETHZ) no es de la misma opinión. Según sus investigaciones, cree que las consideraciones éticas deben formar parte del desarrollo de la IA: “No podemos tratar la IA como algo exclusivamente tecnológico y agregar un poco de ética al final, sino que los aspectos éticos y sociales deben estar incluidos en el debate desde el principio”. Como el impacto de la IA en nuestras vidas no va a hacer otra cosa que aumentar, Jobin considera que es imprescindible la participación de los ciudadanos en los debates sobre las nuevas tecnologías que utilizan IA y que las decisiones sobre la inteligencia artificial deben incluir a la sociedad civil. Sin embargo, reconoce también los límites de hacer una enumeración de principios éticos si falta una gobernanza ética.

Para Peter Seele, profesor de Ética empresarial en la Universidad de la Suiza Italiana (USI), la clave para resolver estos problemas es poner en pie de igualdad negocios, ética y ley. “Las empresas se sienten atraídas por las regulaciones. Necesitan un marco legal para prosperar. Las leyes buenas que alinean negocio y ética crean el marco ideal para todos los actores”, señala Seele. El reto consiste en encontrar un equilibrio entre esos tres pilares.

La combinación perfecta

Aun cuando el enfoque suizo descansa principalmente en la autorregulación, Seele cree que establecer un marco legal daría un impulso significativo a la economía y a la sociedad.

Si Suiza asumiera un papel principal en la definición de estándares éticos, su sistema político, basado en la democracia directa y cooperativas controladas democráticamente, podría desempeñar un papel central en sentar las bases de la democratización de la IA y la economía de datos personales. Tal y como sugirió la Academia Suiza de Ciencias de Ingeniería en un informe técnico a finales de 2019, el modelo para eso podría ser MIDATAEnlace externo, una cooperativa suiza sin fines de lucro que garantiza la soberanía de los ciudadanos sobre el uso de sus datos, actuando como un administrador fiduciario en lo que a la recopilación de datos se refiere. Los propietarios de una cuenta de datos pueden convertirse en miembros de MIDATA y participar en el gobierno democrático de la cooperativa. También pueden permitir el acceso selectivo a sus datos personales para estudios clínicos y fines de investigación médica.

La aparición de un ecosistema de datos abiertos que fomenta la participación de la sociedad civil está contribuyendo a crear conciencia sobre las implicaciones del uso de datos personales, especialmente por razones de salud, como en el caso de la app de rastreo de contactos de proximidad. Sin embargo, aunque se reconozca que el sistema descentralizado hace un mejor trabajo al preservar los derechos fundamentales que el sistema centralizado, existe inquietud porque todos ellos son susceptibles de ataques cibernéticos.

La creación de un marco legal para la IA podría ser el punto de arranque de un debate público sobre la validez y la ética de los sistemas digitales.

Traducción del inglés: José M. Wolff