Después de varios días de cuestionamientos públicos y presiones oficiales, X decidió restringir una de las funciones más controvertidas de Grok, su herramienta de inteligencia artificial. La plataforma limitó la creación y edición de imágenes, una capacidad que había quedado en el centro de la polémica tras la viralización de deepfakes y manipulaciones visuales de mujeres sin su consentimiento.
La decisión se tomó luego de que numerosos usuarios utilizaran Grok para alterar fotografías reales, generando imágenes de mujeres desnudas, en bikini o con lencería a partir de retratos previamente publicados en la red social. La facilidad con la que se producían estos contenidos y la falta de controles efectivos despertaron un fuerte rechazo social.
Según datos difundidos por Bloomberg, el fenómeno alcanzó niveles alarmantes: se estimó que llegaban a generarse hasta 6700 imágenes de este tipo por hora. En muchos casos, los pedidos apuntaban a sexualizar imágenes de mujeres que solo habían compartido una foto común en X, sin considerar contexto ni edad.
Ante este escenario, la compañía resolvió que solo los usuarios con suscripción paga podrán generar imágenes con Grok. Si bien la función no fue eliminada, el objetivo es reducir el acceso masivo y desalentar el uso abusivo de la IA.
No obstante, la medida tuvo un impacto parcial. La restricción impide que Grok genere automáticamente este tipo de imágenes al responder publicaciones o comentarios dentro de X, pero los usuarios aún pueden crear imágenes sexualizadas desde la pestaña específica del chatbot y luego publicarlas manualmente. Además, la aplicación independiente de Grok, que funciona fuera de la red social, todavía permite generar imágenes sin necesidad de una cuenta paga.
Esta situación reavivó las críticas sobre el alcance real de las limitaciones y la responsabilidad de la empresa frente al uso de su inteligencia artificial fuera del entorno principal de X.
El propio Elon Musk, junto con la cuenta oficial de Seguridad de la plataforma, advirtió que la creación y difusión de imágenes sexuales sin consentimiento es ilegal y que la empresa puede avanzar con acciones legales. Sin embargo, muchos usuarios señalaron que la reacción fue tardía y que Grok continuaba aceptando pedidos para generar imágenes sugestivas que no violaban de forma explícita las normas internas.
La controversia también encendió alertas a nivel internacional. En Estados Unidos, el gobierno instó al regulador británico Ofcom a utilizar todas sus facultades frente a X, incluidas acciones judiciales. Desde la Unión Europea, las críticas fueron más duras: la Comisión Europea calificó este tipo de publicaciones como ilegales y atroces, mientras que el primer ministro británico, Keir Starmer, las definió como vergonzosas y repugnantes.
Aunque la restricción aplicada por X marca un cambio, el debate sigue abierto. Las limitaciones a Grok evidencian una reacción ante la presión pública y regulatoria, pero también dejan en claro las dificultades para controlar el uso de herramientas de inteligencia artificial que operan tanto dentro como fuera del ecosistema de la red social. Con gobiernos y reguladores atentos, ahora resta saber si estas medidas serán suficientes o si la plataforma deberá avanzar con cambios más profundos.
