Ministra suiza interpone una denuncia por el chatbot Grok para alertar sobre la violencia digital
Karin Keller-Sutter presentó una denuncia contra insultos publicados a través del chatbot de IA de Grok para llamar la atención sobre la violencia digital y desmarcarse de la concepción estadounidense de la libertad de expresión.
La consejera federal suiza Karin Keller-Sutter ha presentado una denuncia por una contribución con contenido denigrante y sexista generada a través de la plataforma de inteligencia artificial (IA) de Elon Musk.
El modelo de IA, que se dio a sí mismo el nombre de ‘MechaHitlerEnlace externo’, no se limita a insultar de forma complaciente, también generó cada hora miles de imágenes deepfake sexualizadasEnlace externo de mujeres y menores durante un tiempo a principios de 2026. La revista estadounidense ‘The NationEnlace externo’ lo llamó «chatbot pedófilo». Por los deepfakes sexualizados, la Unión Europea (UE) abrió una investigación exhaustiva contra el bot conversacional de IA de GrokEnlace externo.
La querella de Keller-Sutter se dirige contra una denigración sexualizada publicada en forma textual: el pasado 10 de marzo, un pensionista suizo pidió al modelo de IA que «criticara duramente» a la ministra con vocabulario vulgar y sexualizado. Luego compartió el output del bot en la plataforma X (antes Twitter), un post que ya se ha borrado entretanto.
La violencia digital afecta sobre todo a las mujeres
La violencia digital afecta sobre todo a las mujeres, que pueden llegar a sufrir trastornos del sueño y ansiedad, afecciones bien documentadas, explica Simone Eymann de Public Discourse Foundation. «Al mismo tiempo, la violencia digital puede hacer que las afectadas se retiren del espacio público, lo cual tiene consecuencias para nuestra democracia», advierte.
En el discurso público, las mujeres políticamente activas están más expuestas a la violencia digital que los hombres. En la actualidad, casi una de cada cuatro mujeres afectadas en Alemania sopesa abandonar su activismo por este motivo, según un estudio de la Universidad Técnica de Múnich y de HateAidEnlace externo.
Eymann celebra la denuncia de Keller-Sutter: «Cuando una persona de interés público decide no callarse, sino intervenir activamente, transmite un importante mensaje: da a entender que hay que tomar en serio la violencia digital».
Con su denuncia, la consejera federal da una señal clara contra la violencia digital. Por otra parte, también se somete a debate la cuestión de la libertad de expresión cuando un miembro del gobierno actúa contra las injurias.
¿Cómo influyen las redes sociales en la democracia? Participe en el debate:
Mostrar más
¿Qué tipo de declaraciones tiene que aguantar una política o un político?
Jordi Calvet-Bademunt es experto en derecho de ‘The Future of Free Speech’, un grupo de reflexión de la Universidad Vanderbilt en Estados Unidos que se dedica a investigar la libertad de expresión en el contexto internacional. Con referencia a EE.UU., el jurista señala a este medio que el «discurso injurioso dirigido contra políticas y políticos goza de mayor protección legal». «Depende de los detalles del mensaje si el contenido concreto en este caso es digno de protección conforme a la ley suiza», afirma Calvet-Bademunt en declaraciones a Swissinfo.
El think-tank se posiciona a favor de una libertad de expresión de amplio alcance. En opinión de Calvet-Bademunt, la libertad de expresión «no sólo» protege «declaraciones inofensivas» sino también afirmaciones «indecentes, chocantes o desconcertantes». Esta protección es especialmente importante para declaraciones sobre temas políticos, «incluidas las afirmaciones sobre políticas y políticos».
«Esto no quiere decir que la sociedad deba consentir o tolerar cualquier tipo de opinión protegida, pero la protección de declaraciones controvertidas es fundamental para el buen funcionamiento de nuestras democracias», subraya Calvet-Bademunt.
Calvet-Bademunt cree que la denuncia de Keller-Sutter forma «parte de una tendencia más generalizada en las democracias» de un escepticismo creciente de la clase política con respecto a la IA que conduce a exigir más medidas restrictivas. «La India confrontó a Google cuando su modelo de IA advirtió que algunos expertos consideraban “fascistas” las leyes del primer ministro Modi. Turquía bloqueó parcialmente el acceso a Grok después de que el chatbot diera respuestas que denostaban los valores religiosos e injuriaban al presidente Erdoğan y a Atatürk», prosigue el experto del grupo de reflexión.
Según estándares internacionales, Turquía no es una democracia liberal. Pero el bot incluye con Polonia también a un Estado de la UE en esta categoría, lo cual provocó que el presidente polaco Donald Tusk se defendiera contra las aserciones de GrokEnlace externo.
Contenido externo
El discurso de J.D. Vance en Múnich sobre la libertad de expresión en Europa
Una particularidad de X es que, además de la gran cantidad de bots, siguen activos en la plataforma muchas autoridades y muchos exponentes de la política. También la consejera federal Keller-Sutter comunicó a través de X durante su presidencia en 2025. Ella misma generó revuelo cuando a principios de 2025, siendo presidenta de la Confederación, elogió el discurso del vicepresidente estadounidense J.D. Vance en la Conferencia de Seguridad de Múnich, calificándolo de «alegato en pro de la democracia directa».
En Múnich, Vance se refirió a una serie de ejemplos para ilustrar por qué, en su opinión, la libertad de expresión estaba en declive en Europa. Para corroborarlo, aludió a operaciones policiales en Alemania «contra ciudadanos» que estaban «bajo sospecha por comentarios antifeministas publicados en Internet». Poco después, Keller-Sutter relativizóEnlace externo sus elogios a Vance.
En abril de 2026, el portavoz de la ministra declaró en la edición dominical del diario ‘NZZ’ que, en referencia al elogio, Keller-Sutter únicamente había valorado una parte del discurso. Insultos vulgares no formaban parte de la libertad de expresión y «son punibles en Suiza»; es preciso combatir la violencia contra las mujeres, explicó el portavoz.
¿Hay que temer ahora un conflicto entre Suiza y EE.UU.?
Ya en el titular, el diario ‘NZZ’ insinuó por qué Keller-Sutter también estaba haciendo geopolítica con su denuncia: «Ahora hay que temer un conflicto abierto con EE.UU.». La denuncia se dirige contra una persona desconocida, aclara el portavoz de la ministra en su respuesta a Swissinfo. Ahora es la fiscalía la que tiene que decidir si debe ser demandado judicialmente el pensionista que escribió el prompt u otras personas, precisa.
Pero la justicia suiza también tendrá que dirimir qué responsabilidad incumbe al operador de Grok, la plataforma X que pertenece a Elon Musk. La compañía X Switzerland S.L. aún no se ha expresado sobre la denuncia. Tampoco ha contestado a una solicitud de información de Swissinfo.
La Administración estadounidense de Donald Trump suele reaccionar con dureza contra reglamentaciones de los gigantes tecnológicos que impone la UE. Incluso ha sancionado a personas que desempeñan un papel determinante en la regulación de la IA y de las redes sociales en la UE. Por eso es muy bien posible que se desate un conflicto contra el Gobierno suizo.
Jordi Calvet-Bademunt cree que el comportamiento del Gobierno estadounidense ha contribuido, en parte, a esta tendencia internacional negativa en relación con la libertad de expresión. Como ejemplo concreto menciona la «presión constante de las autoridades del presidente Trump» contra la compañía de IA Anthropic, al señalar que su chatbot era demasiado «woke».
En EE.UU., la libertad de expresión se concibe de una manera diferente a Europa desde hace mucho tiempo. No obstante, parece que esta visión está perdiendo adeptos entre la población estadounidense.
Sólo el 61% de la población estadounidense consiente los ultrajes a la bandera
Según el Índice de Future of Free Speech de 2025Enlace externo, entre la ciudadanía estadounidense está disminuyendo el apoyo a la libertad de la palabra. En 2024, todavía el 60% de los estadounidenses opinaba que la libertad de expresión también se extendía a declaraciones injuriosas contra las minorías, un 5% menos que en 2021. Al mismo tiempo, sólo el 61% aprobaba que la libertad de expresión incluía los ultrajes a la bandera nacional, hasta un 10% menos que en 2021.
El índice también demuestra que, incluso en EE.UU., una mayoría sabe diferenciar entre individuos que insultan y las ofensas automatizadas de los modelos de la IA. Sólo una minoría está de acuerdo con permitir a los modelos de la IA que produzcan contenidos que afrenten su religión o ultrajen la bandera de EE.UU. Sólo una de cada cinco personas asiente que los modelos de la IA puedan producir deepfakes de representantes de la política.
Probablemente, la demanda judicial de Keller-Sutter contra Grok será bien acogida en Suiza. Las grandes empresas tecnológicas tienen una mala reputación, como demostró recientemente una encuesta de Gfs.Bern. Nueve de cada diez personas en Suiza piensan que estas empresas persiguen únicamente fines de lucro, y el 84% de las personas encuestadas temen «una influencia política demasiado fuerte de los países de origen de dichas empresas».
Poca gente siembra mucho odio en la red
Son pocas las personas que con sus contribuciones siembran mucho odio en Internet, como reveló un estudio del EPF de Zúrich y de Public Discourse Foundation publicado en diciembre de 2025Enlace externo. «Sólo el 5% de los usuarios escriben el 78% de los comentarios de odio. Una moderación enfocada puede hacer la diferencia», explica Eymann de Public Discourse Foundation.
Pero las grandes plataformas, como X, Facebook o Instagram, han recortado masivamente sus plantillas de moderadores. Por eso, Eymann hace un llamamiento a los usuarios: «Las réplicas empáticas tienen su efecto. No sólo influyen en los autores, también en todos aquellos que leen las respuestas».
Considera plausible que «herramientas generativas de la IA como Grok» contribuyan al aumento del «volumen y la dinámica de los discursos de odio» en Internet. Es muy fácil generar contenidos ofensivos y denigrantes en un sólo clic. «Hoy se puede generar en segundos lo que antes requería tiempo y esfuerzo. Y eso también concierne el discurso de odio», concluye Eymann.
Editado por Reto Gysi von Wartburg. Adaptado del alemán por Antonio Suárez Varela. Versión en español revisada por Carla Wolff.
¿Qué es el «contradiscurso» y cómo se puede aplicar como estrategia contra el odio en Internet? Más información al respecto en el siguiente artículo:
Mostrar más
El contradiscurso planta cara al odio en internet
En cumplimiento de los estándares JTI
Mostrar más: SWI swissinfo.ch, certificado por la JTI
Puede encontrar todos nuestros debates aquí y participar en las discusiones.
Si quiere iniciar una conversación sobre un tema planteado en este artículo o quiere informar de errores factuales, envíenos un correo electrónico a spanish@swissinfo.ch.