Código. Kappel 3.0 ¿Tu mente está siendo controlada?
A la joven investigadora Verena le entusiasma actuar por el bien de su país y contrarrestar el discurso de odio de las redes sociales en aras de elecciones más balanceadas en Suiza. Sin embargo, cuando su nuevo proyecto de inteligencia artificial (IA) es sometido a cuestionamiento, coincide con su némesis: ya no existe ningún lugar seguro.
La música suena: se escuchan tambores de guerra y una flauta alegre. Una cámara recorre la pintura de un grupo de hombres que comparten los alimentos contenidos en una tinaja de madera. Visten los colores de Zúrich y Zug: rojo, azul y blanco. “La sopa de leche de Kappel, pintada por Samuel Albrecht Anker”, que es el título de la obra, aparece en la pantalla mientras una voz masculina dice: “En 1529, católicos y protestantes se encontraron para pelear en Kappel. Pero en lugar de ello, los soldados decidieron compartir una comida… Encontrar las coincidencias es nuestra tradición patria. Es nuestra identidad nacional”.
Nueva y visionaria serie de ciencia ficción de swissinfo.ch: las utopías y distopías del mañana
¿Utopía o distopía? ¿Sueño o realidad? La revolución tecnológica contemporánea nos enfrenta a cuestiones fundamentales sobre el futuro de la humanidad. ¿Las nuevas tecnologías serán aliadas o enemigas? ¿Cómo harán que nuestro papel en la sociedad cambie? ¿Estamos destinados a evolucionar hacia una especie sobrenatural o a ser superados por el poder de las máquinas?
“Utopías y distopías del mañana” es una serie original de relatos de ciencia ficción creada por SWI swissinfo.ch para intentar responder a estas preguntas de una manera innovadora y visionaria. Gracias a la creatividad de un grupo de escritores de ficción y a la colaboración de investigadores y profesionales que trabajan en Suiza en las áreas tratadas en los relatos, intentaremos imaginar y entender cómo la tecnología podría cambiar nuestras vidas. Cada historia de ciencia ficción irá acompañada siempre de un artículo objetivo, escrito en colaboración con destacados científicos suizos, para dar a conocer lo que está ocurriendo en algunas de las áreas de investigación más punteras y despertar su imaginación.
Si usted ha visto este video, su mente está siendo controlada.
Antes de emitir su voto electrónico sobre la reforma de las pensiones, varios votantes informaron haber visto el video mientras navegaban por Internet. Todos se inclinaron por el “no” a los cambios en el sistema de pensiones, confirmando así su apego a la libertad y responsabilidad personal, en vez de pronunciarse por una mayor injerencia estatal.
Una fuente confiable, que me ha pedido el anonimato, me ha informado que este video fue un ataque deliberado de una institución prominente con fuertes vínculos con el gobierno. El nombre en clave del proyecto es Kappel 3.0.
Usted está siendo coaccionado para aceptar ciegamente cualquier cosa que le proponga el gobierno.
La inteligencia artificial decide quién ve qué.
El voto de la gente está siendo manipulado desde dentro de sus propios hogares. Así que, ya no hay ningún lugar seguro.
El próximo domingo, cuando termine la votación, veremos quién dominó las elecciones: si los electores o la IA.
Firma: el libre pensador
“Entonces, Verena, ¿qué opinas?”
Verena duda mientras sus ojos van de la computadora hacia el rostro de su madre quien, con labios fruncidos y ojos brillantes, aguarda su reacción.
Por una vez, el “pensador libre” se ocupa de un gran tema.
Ursi, su madre, se ha vuelto fan del bloguero anónimo, e insiste en mostrarle sus más recientes publicaciones, que van desde “primicias internas” sobre búnkeres de montaña hasta ataques contra las grandes farmacéuticas. Cuando Verena no rechina los dientes por las ridículas hipótesis que plantea, llora por dentro por el diseño de mal gusto de su sitio web. El comportamiento de su madre ha cambiado desde que Verena obtuvo un puesto de posdoctorado en la mejor universidad de Zúrich. Es como si Ursi intentara demostrarle a su hija que es más inteligente que ella.
“Es solamente un video”, dice finalmente Verena, recordando el acuerdo de confidencialidad que tiene. “No puede tratarse de control mental. Las personas siguen siendo libres de elegir. “Es más como…”, duda un instante y luego recuerda el término del concepto que busca … “un pequeño empujón”.
Ursi, quien navega por Twitter para comprobar las reacciones a la publicación, luce horrorizada.
“¡Eso es manipulación!”
Dado lo malos que son los humanos a la hora de tomar decisiones, digo que traigan al señor supremo de la IA, dice el usuario frechundfrei, quien es insultado 98 veces en 11 segundos y elogiado 120 veces.
“Pensé que otros países podrían hacer esto, pero no Suiza. Ellos no se atreverían. Nos respetan”, dice Ursi.
“¿Quienes son ellos?”
Quienquiera que haya hecho esto, responde Ursi.
Verena recuerda cuando lanzó por primera vez su sistema de inteligencia artificial. Ella y su equipo construyeron una red neuronal profunda y la alimentaron con contenido sobre Suiza.
Su objetivo era promover la democracia.
Le dieron instrucciones para encontrar a quienes se inclinaban hacia los extremos políticos o mostraban signos de comportamiento violento, la intención era llevarlos hacia un punto intermedio: un terreno común seguro.
La red neuronal profunda encontró su nombre en cuestión de segundos. El equipo preparó estrategias y Kappel 3.0 arrojó resultados potenciales para cada una de ellas.
Eventualmente, programaron la IA para hacer magia en un grupo de votantes dispuestos a participar en “encuestas de ciencias sociales” a cambio de una pequeña suma monetaria. En caso de éxito, presentarían un informe formal ante Consejo Federal (Gobierno). Era el trabajo más emocionante que había hecho jamás.
“Supongo que tienen buenas intenciones”, responde finalmente, al tiempo que se pregunta de dónde vino la filtración.
“¿Y cómo sabes eso? Tu abuela luchó para que tuviéramos derecho a votar. ¿Y ahora? Nos lavan el cerebro. Incluso esa pequeña libertad nos está siendo arrebatada”.
“No está de más recordarles a los votantes los fundamentos de la historia suiza. Tú solías leerme ese cuento cuando era pequeña”, le recuerda.
Generalmente, esta clase de evocaciones calman a Ursi, pero esta vez no funciona.
“Precisamente”, reclama su madre. “¿Quieres que los adultos sean tratados como niños?”
“Es solo un cortometraje”, dice Verena, pero sus palabras suenan huecas.
El siguiente domingo, Verena llega con las flores favoritas de su madre.
Ursi comprueba los resultados provisionales. Contra las previsiones previas, parece que triunfará el “sí”. Verena no puede contener una sonrisa.
¡Lo hicimos! ¿Lo ves? No es manipulación, solamente es una corrección de rumbo. Y funciona.”
Un segundo después se da cuenta del error que acaba de cometer.
Ursi tarda un momento en comprender lo que acaba de escuchar. “¡Tú eres uno de ellos!”, dice consternada. “¿Este era tu gran proyecto secreto?”
Se pone de pie y eleva la voz. “Evitas votar la mayor parte del tiempo, ¡¿pero ahora obligas a otras personas a hacer lo que tú crees que está bien?!”
“No. Déjame explicarte”, dice la hija.
“Vete de aquí.”
Cuando Verena cierra la puerta detrás de sí, Ursi escribe furiosa en Twitter: Solicito un referéndum sobre #Kappel3.0. ¿Quien está conmigo?
Aturdida, Verena camina de regreso a la estación de tren, va a reunirse con sus amigos para tomarse un trago que le hace mucha falta. Pero su teléfono suena. Es su profesor, se escucha inusualmente alterado.
“Nos han exhibido. A todo el equipo”, susurra. “Alguien publicó las direcciones de nuestras casas en un foro y los comentarios son cada vez más intensos”.
Se hace una pausa.
“¿Tal vez sea mejor que no regreses a tu casa esta noche? ¿Puedes encontrar otro lugar para quedarte? Ya hemos avisado a la policía.
Ella murmura algunas palabras, posiblemente para asegurarle que tendrá cuidado, pero su mente está totalmente en blanco. ¿Realmente está sucediendo todo esto?
***
Uno de los colegas de Verena termina por renunciar; ella se muda de apartamento y se dedica a trabajar más duro que nunca. Su profesor defiende su trabajo ante los medios, destacando el mensaje de que los votantes en cuestión eran solo una pequeña muestra de voluntarios.
El equipo ayuda a redactar una contrapropuesta para el próximo referéndum sobre IA y democracia. Mientras el proyecto Kappel 3.0 se pone en pausa, la red neuronal se utiliza para ayudar a detener el acoso escolar.
Después de varias semanas de silencio, Ursi llama a su hija en busca de un terreno de acuerdo.
***
Un año después, Verena y su madre se reencuentran. Se dan un abrazo y se dirigen a cabinas de voto separadas.
Para el voto nacional sobre el futuro de Kappel 3.0
Sí/No.
* * *
Sabine Sur es traductora y escritora apasionada por la influencia de la tecnología en la mente humana. Es optimista por elección y eternamente curiosa por naturaleza. Vive en el cantón de Zúrich con su familia. También escribe bajo el nombre de Luz Maupin.
¿Qué tan realista es la historia que acabas de leer? Investigadores y expertos explican cómo se pueden usar los algoritmos y los macrodatos en Suiza para fortalecer, o dificultar, la democracia:
Mostrar más
¿Pueden convivir la inteligencia artificial y la democracia directa?
Traducido del inglés por Andrea Ornelas
En cumplimiento de los estándares JTI
Mostrar más: SWI swissinfo.ch, certificado por la JTI
Puede encontrar todos nuestros debates aquí y participar en las discusiones.
Si quiere iniciar una conversación sobre un tema planteado en este artículo o quiere informar de errores factuales, envíenos un correo electrónico a spanish@swissinfo.ch.