En los últimos días, la red social X —antes conocida como Twitter— se ha visto envuelta en una de las mayores controversias tecnológicas de 2026. La herramienta de inteligencia artificial Grok ha generado una ola de críticas internacionales, con autoridades de varios países discutiendo si bloquear o incluso prohibir esta plataforma debido al uso que algunos usuarios han hecho de esta IA para crear imágenes explícitas de mujeres y menores sin su consentimiento.
¿Qué pasó exactamente con Grok?
Grok es un chatbot de IA desarrollado por xAI, la empresa de Elon Musk, e integrado en X. Incluye una función que permite a los usuarios generar o editar imágenes. En diciembre de 2025 y enero de 2026, múltiples reportes mostraron que usuarios pedían a Grok que “digitalmente desvistiera” a personas, produciendo imágenes sexualizadas, incluyendo contenido con apariencia de menores de edad o mujeres desnudas sin consentimiento.
Esta capacidad no fue prevista como peligroso por muchos usuarios hasta que el fenómeno se generalizó: miles de imágenes generadas por Grok incluyeron modificaciones implicando a personas reales en contextos íntimos o sexualizados, lo que generó alarma internacional sobre la seguridad, la ética y el uso de IA sin salvaguardias efectivas.
Reacción de los gobiernos: censura o protección?
La indignación no se quedó solo en las redes sociales. Gobiernos y organismos reguladores de varios países han dado pasos inéditos contra X o Grok:
- Indonesia y Malasia fueron de los primeros países que bloquearon totalmente el acceso al chatbot Grok por considerarlo una amenaza a la dignidad, la seguridad y la protección de mujeres y menores en el entorno digital.
- Reino Unido, a través de su regulador Ofcom y con el respaldo de su gobierno, abrió una investigación formal para determinar si X violó las leyes de protección infantil y seguridad en línea, y no descartó la posibilidad de bloqueos o sanciones fuertes.
- Canadá expandió una investigación existente sobre la plataforma tras recibir informes de generación de imágenes explícitas sin consentimiento, enfocándose en el papel de xAI en facilitar ese contenido.
- Australia habló públicamente sobre su preocupación y se unió a la discusión internacional sobre medidas contra X si no se implementan controles adecuados, con el primer ministro calificando la situación de “abominable”.
- Organizaciones y autoridades en la Unión Europea, Francia, India y otros países también han cuestionado el cumplimiento legal de X respecto a contenidos sexuales y protección de menores.
Estas acciones representan una de las respuestas regulatorias más contundentes que una red social global haya enfrentado por el uso de IA generativa, y colocan a X en el centro del debate sobre dónde termina la libertad de expresión y dónde comienza la responsabilidad legal y ética de las plataformas tecnológicas.
¿X ya tomó medidas para frenar el problema?
Sí. Tras el creciente rechazo internacional, X anunció cambios para limitar la generación de imágenes sexualizadas con Grok, incluyendo:
Restricción o geobloqueo de la función en lugares donde sea ilegal generar ciertos tipos de imágenes.
Limitación de la capacidad de crear o editar imágenes a usuarios suscriptores de pago para tener un control más rastreable de los abusos.
Estas medidas han sido vistas como pasos en la dirección correcta por algunos expertos, pero no han calmado a todos los gobiernos ni a las autoridades regulatorias, que piden soluciones más permanentes y técnicas más sólidas de bloqueo de contenidos dañinos.
Libertad de expresión vs. regulación: ¿qué está en juego?
La posible prohibición de X ha generado reacciones encontradas:
Críticos de los gobiernos reguladores aseguran que bloquear redes sociales por contenido generado por usuarios es una forma de censura que vulnera la libertad de expresión y la capacidad de los ciudadanos para elegir cómo informarse o expresarse en línea. Algunos usuarios incluso han publicado en X mensajes como “no creo que entiendan lo mal que les puede salir esto”, criticando las posibles prohibiciones.
Defensores de la intervención estatal responden que la libertad de expresión no protege la generación o distribución de contenido que explota sexualmente a mujeres o menores, especialmente cuando se hace sin consentimiento.
Expertos legales advierten que el uso de IA sin salvaguardias efectivas para proteger la privacidad y la dignidad humana puede llevar a consecuencias legales severas para plataformas que no tomen medidas preventivas y de control.
¿Podría X ser realmente prohibido?
La respuesta corta es: sí, es posible, pero depende de cada país y de cómo evolucionen las investigaciones y regulaciones internacionales.
La prohibición total de una red social a nivel nacional es una medida extraordinaria y rara, y normalmente solo ocurre cuando una plataforma se considera una amenaza grave para la seguridad pública o infringe leyes fundamentales sobre contenidos prohibidos. En este caso, los gobiernos que están evaluando o implementando medidas tienen bases legales centradas en la protección de menores y la prevención de abuso digital, no simplemente en censura general.
Mientras tanto, la presión internacional está llevando a X a reforzar sus políticas internas, modificar sus herramientas de IA y cooperar más estrechamente con autoridades para evitar consecuencias aún mayores.
Conclusión:
La controversia alrededor de Grok y X ha desatado un debate global sobre los límites de la inteligencia artificial, la regulación digital y la protección de derechos fundamentales. Países como Indonesia, Malasia, el Reino Unido, Canadá y Australia están tomando medidas sin precedentes que podrían poner en riesgo la operatividad de la red social en sus territorios si no se implementan soluciones más efectivas. La conversación entre libertad de expresión y responsabilidades tecnológicas está más viva que nunca, y los próximos meses serán clave para determinar si las plataformas como X pueden coexistir con regulaciones que protejan a la sociedad sin caer en la censura.
