La máquina y la moral

Las tecnologías digitales en línea ofrecen grandes oportunidades para la economía y la sociedad, pero plantean problemas éticos. Un ejemplo, entre muchos, es el reconocimiento facial. Suiza, una de las naciones líderes en el campo de la inteligencia artificial (IA), enfrenta el desafío.

La pérdida de empleos debido a la automatización, la protección de datos, el reconocimiento facial, los videos deepfake, la seguridad informática, el uso indebido de la IA y las tecnologías robóticas: la digitalización ha traído consigo un número históricamente sin precedentes de nuevos desafíos éticos.

El último ejemplo es el software ChatGPT, un chatbot basado en inteligencia artificial (IA) que ha generado preocupaciones en diversos sectores. Desde su introducción a finales del otoño de 2022, ha estado constantemente en el centro de atención por su capacidad para realizar tareas como codificar y corregir errores en programas informáticos. ChatGPT también plantea varias cuestiones éticas.

Lo que podría suceder si la IA cayera en manos equivocadas es algo que ni siquiera nos atrevemos a imaginar. La comunidad internacional, por ejemplo, aún está dividida sobre la necesidad de establecer reglas estrictas para los “robots asesinos”. Las conversaciones dentro de los organismos de las Naciones Unidas en Ginebra han sido en gran parte infructuosas.

En la actualidad, no existen armas completamente autónomas de este tipo. Sin embargo, según los activistas, dada la rápida evolución y las grandes inversiones en el campo de la inteligencia artificial y otras tecnologías clave, podrían convertirse en realidad en cuestión de años.

Suiza es uno de los países líderes en el desarrollo de la inteligencia artificial (IA). Por IA se entiende un software que aprende a pensar y tomar decisiones como un ser humano. El proceso de aprendizaje se basa en el procesamiento de grandes cantidades de datos.

Numerosas startups en Suiza están desarrollando sistemas de aprendizaje, ya sea en forma de robots, aplicaciones o asistentes digitales, que deberían simplificar nuestras vidas gracias a los grandes datos. Estas empresas se enfrentan constantemente a cuestiones éticas. El dilema fundamental es: ¿dónde debería trazarse la línea roja para una empresa que quiere vender tecnologías?

Este problema se vuelve especialmente evidente en la interfaz entre la investigación y la aplicación concreta. Por lo tanto, las universidades suizas también participan en proyectos financiados por el ejército estadounidense. Estos proyectos van desde cámaras de vigilancia del espacio aéreo hasta drones de reconocimiento controlados de manera autónoma.

Suiza muestra ambiciones

Suiza busca liderar en términos de estándares éticos relacionados con la inteligencia artificial (IA). Pero, ¿por dónde puede comenzar para asumir el papel pionero al que aspira? Gracias a su estatus de país neutral y a su sólido sector de investigación, Suiza tiene el potencial para desafiar los enfoques dominantes de China y Estados Unidos, convirtiéndose en un tercer polo de investigación en IA que “no funcione como una sociedad o una empresa estatal”, según afirmó el alcalde de Davos, Philipp Wilhelm.

La ciudad en los Alpes de los Grisones está trabajando para convertirse en un centro neutral para el desarrollo de tecnologías basadas en la IA que sean responsables, inclusivas y democráticas. “Lo que falta es un enfoque neutral, independiente y humanista”, declaró Wilhelm.

Existe un amplio consenso en que son necesarias reglas y definiciones claras que tracen los límites éticos. Con este fin, el gobierno suizo ha establecido el grupo de trabajo interdepartamental “Inteligencia Artificial”. A finales de noviembre de 2020, adoptó pautas para la Administración Federal.

“Es importante que Suiza aproveche el potencial que surge de las nuevas posibilidades ofrecidas por la inteligencia artificial”, afirma el grupo de trabajo interdepartamental en un informe dirigido al gobierno federal. “Por lo tanto, es necesario asegurar las mejores condiciones marco posibles para que Suiza pueda afirmarse y desarrollarse aún más como uno de los principales lugares innovadores en el mundo para la investigación, el desarrollo y la aplicación de la IA. Al mismo tiempo, también es necesario abordar los riesgos asociados con el uso de la IA y tomar medidas a tiempo”.

Cada uno tiene una moral diferente

Desde muchas partes se está solicitando un estándar global vinculante. A finales de 2018, un grupo de expertas y expertos de la Comisión Europea desarrolló la primera regla ética.

En junio de 2023, el Parlamento Europeo aprobó un primer proyecto de ley sobre inteligencia artificial (Ley de IA).

En diciembre de 2023, el Parlamento Europeo, la Comisión Europea y los Estados miembros acordaron finalmente un conjunto de normas vinculantes para el uso de la inteligencia artificial. En marzo de 2024 el Parlamento dio luz verde al endurecimiento de las reglamentaciones de la IA en la Unión Europea. Es la primera de este tipo en todo el mundo. 

El reglamento pretende prohibir los sistemas de IA que supongan un riesgo “intolerable” para los ciudadanos y la democracia. Eso incluye, por ejemplo, los sistemas que utilizan datos personales sensibles para la manipulación psicológica, la clasificación social y la elaboración de perfiles raciales, sexuales y religiosos. 
La UE calificó la decisión de “momento histórico”.Enlace externo No obstante, ¿en qué posición queda entonces Suiza, que como país no miembro no pudo opinar sobre la regulación de la IA?

En general, ya existen numerosas directrices y declaraciones de este tipo. Sin embargo, un análisis sistemático realizado por el Health Ethics and Policy Lab del Politécnico Federal de Zúrich (ETHZ) reveló que no se encuentra un único principio ético común en 84 documentos relevantes.

Sin embargo, en más de la mitad de las declaraciones se mencionan cinco valores fundamentales: transparencia, justicia y equidad, prevención de daños, responsabilidad y protección de datos y privacidad.

Esta discusión también parece estar encendida entre los gigantes tecnológicos como Google. En 2021, la empresa despidió a dos expertas en ética de IA en medio de una controversia. Esto ha planteado dudas sobre si la construcción de IA en línea con los principios morales es realmente una prioridad para las grandes empresas tecnológicas.

El argumento más importante a favor del uso de la inteligencia artificial es probablemente que puede simplificar nuestras vidas. Principalmente, porque estos sistemas nos ayudan a ahorrar tiempo y asumen tareas tediosas, como puede hacer ChatGPT. En el mejor de los casos, la IA incluso puede salvar vidas humanas, por ejemplo, si se combina con un dron de rescate que puede operar en espacios reducidos.

Por otro lado, el think tank del Parlamento Europeo estima que para 2030, la inteligencia artificial podría contribuir entre un 1,5% y un 4% a la reducción global de emisiones de gases de efecto invernadero. A grandes rasgos, esto equivaldría al tráfico aéreo total.

“Los desafíos para transformar los sistemas en sectores como el suministro de energía, la nutrición, la vivienda y la movilidad son enormes”, escribe el grupo de trabajo de la Confederación sobre la IA. El equipo de expertos está convencido de que la IA “jugará un papel importante como tecnología clave para abordar estos desafíos”.

Debido a la pandemia de coronavirus, muchos servicios pasaron a la forma digital casi de la noche a la mañana. Esto realmente impulsó la presencia de la inteligencia artificial en la vida cotidiana. Por ejemplo, el uso de robots para desinfectar espacios en edificios públicos como escuelas y hospitales.

Miedo por los puestos de trabajo y las personas

Se prevé que el uso de IA en el trabajo conduzca pronto a la racionalización de empleos. Esto se debe a que, como muestra la investigación, más de la mitad del trabajo humano actual puede ser realizado de manera más rápida y eficiente por sistemas automatizados.

El investigador suizo Xavier Oberson se encuentra entre aquellos que proponen gravar a los robots si se utilizan para trabajos tradicionalmente realizados por personas. Según el profesor, los ingresos de dicho impuesto deberían ser destinados al financiamiento de seguros sociales y la formación de desempleados.

Adaptado del italiano al español por José Kress