Adiós Grok. La inteligencia artificial (IA) de la red social X, propiedad del magnate Elon Musk, ha anunciado que finalmente bloqueará la generación de imágenes sexualizadas a través de la plataforma.
-
-
-
-
-
-
-
La orden llega después de grandes reticencias por parte del propio Musk y cambios de opinión. La polémica creció en redes sociales después de que comenzaran a circular multitud de imágenes transformadas para exponer a personas con ropa interior o bikinis, incluyendo menores de edad.
En un mensaje que se ha publicado en la plataforma, la cuenta de seguridad de X ha explicado que la medida surge del compromiso de la red social para "crear un espacio seguro para todos y continuar con la tolerancia cero con cualquier forma de explotación sexual de menores, desnudos sin consentimiento y contenido sexual no deseado".
"Hemos implementado medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora, como bikinis. Esta restricción se aplica a todos los usuarios, incluidos los suscriptores de pago", recoge la red social en su publicación.
Cambios de postura y presiones
La medida llega después de varios cambios de postura y de que incluso el propio Elon Musk defendiese mantener la herramienta sin modificaciones. Inicialmente llegó a burlarse de las críticas, publicando un montaje de él con un bikini, intentando restar importancia a las acusaciones.
Pero la presión fue creciente y el pasado 9 de enero, la red social X anunció que la función de generación de imágenes se limitaría a usuarios con suscripción. Esta limitación no fue suficiente y finalmente la empresa ha terminado por bloquearla para todos, incluyendo fotografías o ilustraciones con bikinis o prendas íntimas.
"Bloqueamos geográficamente la posibilidad de todos los usuarios para generar imágenes de personas reales en bikini, ropa interior y atuendos similares a través de la cuenta Grok y en Grok in X en aquellas jurisdicciones donde sea ilegal", ha expresado la empresa.
La medida solo ha salido adelante tras recibir multitud de presiones. Muchos usuarios han denunciado estas imágenes, y ya son varios los países que han tomado medidas. La Unión Europea ha reclamado a la aplicación que conserve toda la documentación relativa a la generación de imágenes hasta finales de año, mientras que Reino Unido llegó a amenazar con el bloqueo de la red social, mientras que Malasia e Indonesia directamente prohibieron el uso de Grok.
Además, se han pronunciado varias organizaciones que velan por el cumplimiento de los derechos digitales, seguridad infantil y los derechos de las mujeres, que han reclamado abiertamente a Apple y Google que tomen medidas para "prohibir Grok" en sus tiendas de aplicaciones.
"Grok se está utilizando para crear cantidades masivas de imágenes íntimas no consentidas, incluyendo material de abuso sexual infantil, contenido que constituye un delito penal y que infringe directamente las Directrices de Revisión de Aplicaciones de Apple", denunciaban en una carta abierta.
