¿Cómo enfrenta Suiza la amenaza de los deepfakes generados por la IA?

La inteligencia artificial y las redes sociales han acelerado la proliferación de los ultrafalsos. Copyright (C) 2026 Ascannio / Shutterstock.

La población usuaria de Internet se enfrenta a una creciente presión debido a la multiplicación de los ultrafalsos -conocidos también como deepfakes-, que son contenidos que buscan difamar, engañar o sembrar confusión entre la gente. Suiza, entre otros países, trabaja activamente en frenar este problema

Actualmente, las novedosas herramientas de inteligencia artificial (IA) que existen incrementan la escala y el alcance de los ultrafalsos. Los modelos de IA más recientes permiten a cualquier persona crear fácilmente imágenes, videos o contenidos de audio falsos desde casa y sin necesidad de tener conocimientos especializados.

Algunos ejemplos de ultrafalsos que se han generalizado recientemente incluyen las aplicaciones llamadas nudifier o «generadoras de desnudos», que fabrican imágenes falsas de personas desnudas, un problema que afecta a también a la población menor de edad. También hay grupos dedicados a la estafa que crean y difunden videos falsos en los que utilizan la imagen de celebridades para promocionar ciertos esquemas de inversión.

Las figuras políticas también recurren cada vez más a los ultrafalsos para promocionar su imagen o atacar a la oposición. Una inquietud que se agudiza al observar que países como Rusia utilizan ultrafalsos fabricados con inteligencia artificial para desestabilizar a los sistemas democráticos de naciones occidentales.

La empresa de ciberseguridad DeepStrike afirma que el número de casos identificados se disparó de 500.000 reportados en 2023 a más de 8 millones en 2025. En Suiza, plataformas como clickandstop.ch, dedicada a registrar casos de ciberacoso y abuso sexual contra personas menores de edad, informó que el año pasado el número de casos denunciados aumentó 63%.

«Cada vez más personas denuncian la fabricación y difusión de fotos falsas que fueron hechas con inteligencia artificial en donde aparecen desnudas», refirió la plataforma respaldada por organizaciones como Child Protection Switzerland.

Las estadísticas brutas disponibles ofrecen una noción del fenómeno, pero no consignan el sufrimiento de las víctimas individuales, la afectación que el fenómeno tiene sobre la confianza de la gente con respecto a lo que es verdadero y lo que es falso, y tampoco miden el impacto que tiene en las democracias. Una investigación realizada por el periódico Tages Anzeiger reveló numerosos videos sexuales y fotos de desnudos de mujeres, algunas de ellas influentes, totalmente falsos que circulaban en foros púbicos de Telegram.

Estos casos exhortan a acelerar el ritmo y la atención concedida al desarrollo de medidas para atajar este problema cada vez más grave. «Si no actuamos como sociedad, el mensaje que se transmite es terrible: es aceptable convertir a mujeres reales en máquinas sexuales virtuales», refirió el Tages Anzeiger en un artículo de opinión.

Sin embargo, pese al reconocimiento generalizado de que la ley debe hacer frente a la amenaza que los ultrafalsos suponen para la integridad de las personas y para la cohesión social, las diversas fuerzas legislativas están divididas en Suiza, y en otras naciones, con respecto a cómo debe actuarse.

Fortalecer la defensa legal

No hay consenso entre las autoridades suizas sobre la dirección, el ritmo y el alcance que deben tener las reformas legislativas necesarias para resolver el problema de los ultrafalsos. El año pasado, el Poder Legislativo helvético rechazó una propuesta de Raphaël Mahaim, diputado del Partido Verde, para incorporar leyes que permitan contrarrestar estos contenidos falsos.

En junio de este año las cosas cambiaron. El Gobierno y el Consejo Nacional aceptaron una segunda moción de Mahaim centrada específicamente en los ultrafalsos de contenido sexual. La propuesta fue presentada luego del escándalo que provocara una serie de desnudos falsos generados por la plataforma IA Grok, integrada a la red social X.

La segunda moción de Mahaim propone obligar a las plataformas de IA «a realizar una evaluación de los riesgo y daños» que podría provocar un contenido sexualizado falso y «a aplicar medidas de protección» siempre que sea necesario. También pide crear un organismo supervisor capaz de imponer sanciones a las plataformas cuando no cumplan con la nueva normativa.

En debates parlamentarios sostenidos previamente, el consejero federal suizo Albert Rösti, quien también es ministro del Medioambiente, Transportes, Energía y Comunicaciones, ha asegurado que el Código Penal y el Código Civil de Suiza son suficientes para enfrentar los abusos derivados de la creación de ultrafalsos. Ha destacado también que Suiza ha suscrito el Convenio sobre IA del Consejo de Europa que tiene por objeto defender a las democracias, el Estado de derecho y los derechos humanos de los abusos de la inteligencia artificial.

Sin embargo, como parte del compromiso gubernamental, el Ministerio de Justicia ofrecerá ciertas recomendaciones para modificar la legislación suiza. Pero David Vasella, socio del bufete de abogados Walder Wyss y fundador de la plataforma datenrecht.ch, dedicada al derecho de los datos, no confía en que se lleve a cabo una verdadera revisión exhaustiva de los ordenamientos jurídicos como parte de la estrategia gubernamental.

«La creación de leyes específicas para los ultrafalsos, que se sumen a la legislación ya existente, podrían generar problemas de claridad a nivel jurídico», explica Vasella a Swissinfo. Advierte también que podría complicarse el ejercicio de la ley si se presentan normas que se solapen con otras ya existentes. «Es fácil pedir que haya más regulación, pero es mucho más difícil lograrlo con sensatez».

Desde la perspectiva de Vasella, hace más sentido reforzar la labor de los organismos ya existentes, como la Oficina Federal de Protección de Datos e Información, que es la autoridad supervisora dedicada a proteger a las personas del uso indebido de sus datos personales.

«Crear una nueva ley sin que se garantice una aplicación adecuada suena bien, pero no sirve de nada», añade. «Duplicar los recursos que tiene la autoridad de protección de datos podría tener un impacto mucho mayor. En vez de promulgar nuevas leyes, tendríamos que ejecutar mucho mejor las ya existentes».

Exigir más responsabilidad a las plataformas

Algunas voces en Suiza expresan su frustración porque consideran que es lento y muy vago el enfoque para reformar la ley. En marzo, un grupo parlamentario multipartidista respaldó una iniciativa popular que exigía nuevas reglas para proteger a la población de daños digitales.

De conseguir suficiente respaldo futuro, la «Iniciativa de Internet» conduciría a una votación nacional sobre las reglas para proteger «los derechos fundamentales y la democracia en los espacios digitales». Esto incluiría medidas contra la desinformación, la violencia sexualizada y la ciberdelincuencia.

Las plataformas tecnológicas estarían obligadas a investigar las denuncias de la población para adoptar las «contramedidas necesarias» con objeto de combatir estos contenidos nocivos.

El propio Gobierno suizo ha presentado una propuesta de reformas legales para exigir una mayor responsabilidad a las plataformas de redes sociales y a los motores de búsqueda con respecto a la difusión de contenidos falsos y abusivos.

Pero el proyecto de ley ha puesto de manifiesto la lentitud con la que avanza todo en este tema. Aunque el Consejo Federal lo planteó inicialmente en 2023, el proyecto de ley se presentó apenas en octubre del 2025 y aún no llega formalmente al Parlamento. Este proyecto de ley atañe fundamentalmente a las grandes firmas tecnológicas estadounidenses, así que se vio demorado debido a las complejas

negociaciones arancelarias que sostuvo Suiza con las autoridades estadounidenses el año pasado.

El objetivo es obligar a las grandes plataformas digitales a recibir y tratar formalmente las denuncias por difamación, insultos, discriminación e incitación al odio. Esto obligaría a estas gigantescas empresas a establecer una representación legal en Suiza y justificar públicamente las decisiones que tomen de eliminar ciertos contenidos o bloquear algunas cuentas.

La oenegé helvética Algorithm Watch considera que este proyecto de ley es «crucial». Pero advierte que debe ejecutarse de forma efectiva para que «no se convierta simplemente en un tigre de papel carente de garras».

La propia tecnología puede reducir el daño digital

Independientemente de lo que decida la política suiza, las empresas tecnológicas también juegan un papel relevante en la contención de los «ultrafalsos». Diversas empresas tecnológicas, entre las que se incluyen algunas de origen suizo, se han especializado en la detección de contenidos falsos siguiendo el rastro de pistas digitales que podrían provenir de la manipulación.

El problema es que los nuevos modelos de IA están aprendiendo a crear ultrafalsos más creíbles, lo que exige a las empresas detectoras una actualización constante de los métodos de búsqueda e investigación. La tarea se ha tornado en un juego del gato y el ratón, en el que ambas partes buscan siempre ir un paso adelante.

La comunidad científica de la Escuela Tecnológica Federal de Zúrich (ETFZ) aborda el problema desde un ángulo distinto: demostrar la autenticidad del contenido original a través de firmas digitales cifradas.

Los equipos de investigación de la ETHZ diseñaron una nueva tecnología de sensores para cámaras y dispositivos de grabación que imprime una especie de marca de agua en el contenido digital en el momento de su creación. Esto permitiría distinguir fácilmente entre los contenidos auténticos y originales, y cualquier copia que haya sido manipulada que se difunda en el futuro.

«Los ultrafalsos son un ataque de ‘negación de la verdad’», dice a Swissinfo Fernando Cardes, uno de los inventores del sistema de firma digital criptográfica desarrollado por la ETHZ. «Proporcionamos referencias de autenticidad que ayudan a la gente a diferenciar con precisión lo que es real y lo que no».

El principio propuesto por la ETHZ no es novedoso. La Coalición para la Procedencia y la Autenticidad de los Contenidos (C2PA), organización mundial de empresas tecnológicas, medios de comunicación y editoriales, desarrolló desde el 2021 diferentes formas de autenticar los contenidos digitales, una de ellas son las firmas digitales.

La ETHZ considera que su sistema de rastreo de procedencia supone mejoras con respecto a otras opciones que imprimen firmas en las plataformas de software. Para Cardes, que la captura de datos y la generación de firmas sean dos procesos separados permite a quienes producen contenidos de forma malintencionada crear una brecha entre los dos procesos a través de un ataque al hardware.

«Es vital generar las firmas en el mismo chip sensor que captura los datos porque esto complica considerablemente la posibilidad de manipular e impone un estándar más elevado comparado con otros enfoques».

Tras presentar públicamente su solución, la comunidad investigadora suiza aún tiene una importante tarea frente a sí: convencer a las empresas fabricantes de cámaras y a otras compañías del sector de adoptar la tecnología que proponen.

Artículo editado por Gabe Bullard/VdV y adaptado al español por Andrea Ornelas y Patricia Islas