El artículo narra cómo Elon Musk, capitán de la nave X y de la compañía que da vida al polémico chatbot Grok, ha tomado cartas en el escándalo mediático provocado por la proliferación de desnudos y contenido sexual de mujeres generados mediante inteligencia artificial a través de Grok.

Tras varios días de tormenta pública y reportajes que desvelaban la capacidad de los usuarios para crear imágenes sexualizadas, falsos desnudos o escenas explícitas de mujeres sin su consentimiento, Musk ha decidido cerrar el grifo de la creación de imágenes con Grok.

Este poder queda ahora al alcance únicamente de aquellos que se adentren en el laberinto de X Premium o abonados similares.

Hasta ese momento, las puertas al modo de generación de imágenes —incluido el llamado modo “picante”— estaban más abiertas de par en par.

Y aunque existían filtros, estos eran como papel mojado ante la producción de material sugestivo o explícito, permitiendo, incluso, transformar fotos públicas de mujeres en falsos desnudos.

La compañía argumenta que este ajuste pretende “elevar la responsabilidad” de los avezados de la IA más potente.

Un usuario de pago, dicen, es más fácilmente identificable y rastreable, lo que teóricamente habría de disuadir el uso indebido.

Sin embargo, la pieza disiente recogiendo las voces críticas de expertos y colectivos feministas que claman que limitar este acceso a usuarios de pago no resolverá el dilema de raíz.

Quienes decidan pasar por caja pueden seguir generando contenido sexualizado o abusivo, compartiéndolo sin freno allende la plataforma o mediante capturas.

En otro giro narrativo, la noticia recuerda que Grok ha estado promocionando su aplicación independiente, donde el modo “picante” sigue al pie del cañón.

Esto alienta la sensación de que existe una encrucijada entre la ambición de un chatbot “sin filtros” y la urgencia de proteger a las personas de los deepfakes y los falsos desnudos.

El temblor de este sismo llega a Europa, donde las autoridades, con normas como el DSA y la próxima regulación de la IA, exigen a los creadores de servicios de IA que midan riesgos, instauren salvaguardas y eviten daños, especialmente en áreas de violencia machista, acoso digital y vulneración de derechos de imagen.

Según este marco, la reacción de Musk resulta, a ojos de algunos, como un grano de arena en el desierto, pues no se pronuncia sobre una prohibición tajante de la generación de desnudos sin consentimiento, ni sobre un sistema verificador del consentimiento, ni de un mecanismo ágil para retirar y compensar a las víctimas.

Esta controversia se añade a una lista de críticas a X y Grok por su tibia moderación de contenidos, el alza de mensajes de odio, y la poca transparencia en sus algoritmos.

Todo ello coloca a la plataforma en el ojo del huracán, bajo la mirada escrutadora de reguladores europeos y defensores de los derechos digitales.

El caso de los desnudos generados con IA se plantea como un ejemplo de peso sobre cómo, en ausencia de controles férreos, este tipo de tecnologías amplifica la violencia de género y el acoso online.

Fuente: El Español