Elon Musk limita las funciones de edición de imágenes de Grok ante la avalancha de pornografía no consentida | Tecnología

El multimillonario Elon Musk, propietario de la red social X y de la plataforma de inteligencia artificial (IA) Grok, que permitía crear y recrear imágenes sexualizadas y violentas de mujeres y niñas, ha decidido limitar la aplicación de generación y edición de material audiovisual ante la avalancha de quejas por la vulneración del derecho a la propia imagen, a la vida privada y al honor, así como por las amenazas de prohibición de numerosos Gobiernos, incluido el español. Musk ha anunciado la medida en su propia red social, aunque ha dejado abiertas las habilidades de la aplicación a los suscriptores de pago.Las posibilidades de crear vídeos pornográficos de mujeres sin su consentimiento, así como de imágenes simulando agresiones y feminicidios, se extendió de forma vertiginosa, a una velocidad superior a la de los organismos reguladores para evitarlo. Este miércoles, la ministra de Juventud e Infancia, Sira Rego, solicitó por escrito a la Fiscalía General del Estado que investigue a X y su IA por presuntos “delitos de difusión de material de violencia sexual contra la infancia”. La medida se sumó a la de otros Gobiernos, principalmente europeos, que propusieron incluso la prohibición de X, además de la imposición de sanciones.Finalmente, Musk ha reaccionado parcialmente en X, donde ha publicado el siguiente anuncio: “La generación y edición de imágenes actualmente está limitada a suscriptores de pago.”Las funciones de creación de contenidos audiovisuales han quedado, por lo tanto, restringidas a aquellos usuarios con cuentas de pago e identificados con todos sus datos. Esta decisión se debe a que Musk considera que la responsabilidad de los contenidos que genera su IA no le corresponde a la plataforma, sino al usuario. “Cualquiera que use Grok para crear contenido ilegal o use X para publicar contenido ilegal afrontará consecuencias. La responsabilidad legal sigue siendo de la persona que crea o sube el contenido”, sostiene.La generación de imágenes pornográficas y violentas no consentidas en la red social de Musk se generalizó a finales de diciembre. Sin embargo, Musk minimizó el problema desde el principio y llegó a publicar una imagen propia en bikini para dar a entender que la habilidad se trataba de una función inocente. Sin embargo, la reacción de Gobiernos y usuarios ha llevado a limitar por ahora la aplicación a quienes puedan ser inmediatamente identificados como responsables de los contenidos generados.Ricard Martínez, director de la cátedra de Privacidad y Transformación Digital y profesor de la Universidad de Valencia, ya advirtió de la ilegalidad de las prácticas de erotización no permitida de contenidos: “No se puede sexualizar sin consentimiento ninguna imagen, aunque se especifique que es una recreación. Todos y cada uno de nosotros tenemos reconocido el derecho a la propia imagen, a la vida privada y al honor. En los entornos digitales debemos entender esto desde un punto de vista práctico y material. Utilizar sin permiso la imagen de alguien para sexualizarla constituye un comportamiento ilícito”.Martínez discrepa con el planteamiento de Musk sobre la responsabilidad final de la difusión de este tipo de contenidos y advierte que implica al creador, para el que reclama educación digital y sexual, y a las plataformas prestadoras de servicios digitales, que facilitan su creación y difusión y están obligadas por ley a analizarlas y evitarlas de forma proactiva.