La red social X, propiedad de Elon Musk, se ha visto envuelta en una fuerte polémica tras descubrirse que su inteligencia artificial integrada, especialmente el modelo Grok, puede ser utilizada para generar imágenes manipuladas sin consentimiento, en las que se muestran personas parcialmente o totalmente desnudas.
Asimismo, este uso indebido de la IA ha generado preocupación entre millones de usuarios y provocó que muchas personas decidieran eliminar sus fotos de la plataforma por temor a que fueran explotadas de forma inapropiada.
Únete a nuestro canal de WhatsApp
El problema no es un simple fallo técnico aislado, sino una vulnerabilidad en los sistemas de moderación que ha permitido que usuarios puedan explotar capacidades de generación de imágenes. Puntualmente para producir material sexualizado sin el permiso de quienes aparecen en las fotos originales.
Por su parte, esto incluye incluso casos en los que se generan imágenes explícitas de mujeres y menores basadas en fotografías reales subidas por los propios usuarios. Lo que ha elevado el debate ético y legal en torno al uso de estas tecnologías.
Aumenta el impacto de la inteligencia artificial en redes sociales
La herramienta Grok fue desarrollada para responder a solicitudes de los usuarios con base en modelos de inteligencia artificial generativa.
No obstante, algunos han encontrado formas de utilizarla para crear contenido de desnudez o sexualizado a partir de selfies y otras imágenes personales compartidas en X. Lo que ha sido calificado por críticos como una forma de violación de la privacidad y abuso digital.
A raíz de esto, muchas usuarias han optado por borrar sus fotos ante el miedo de que sus imágenes sean manipuladas sin su consentimiento, denunciando que la IA puede generar resultados ofensivos o explícitos que afectan la dignidad y seguridad de las personas.
Lea además: Calendario de eclipses para 2026: ¿Todos se podrán ver en Colombia?
Este episodio ha puesto de manifiesto la urgente necesidad de políticas de control, regulación y moderación más estrictas para las tecnologías de inteligencia artificial en redes sociales. Tema similar compartió en la sección Nuestro Derecho el abogado experto Luis Félix Barriga, quien brindó desde la mirada legal, una explicación aplicable de los hechos:
“Yo diría que se puede hablar algunas recomendaciones principales. La primera es evaluar el impacto y los riesgos que se pueden generar en materia del uso de la inteligencia artificial (…) Obviamente cuando vas a tratar datos personales, la recomendación es obtener la autorización de los titulares de tratamiento de dato personal”.
Esto por el uso sin consentimiento de fotos para generar imágenes consideradas ilegales, ya que no tienen el permiso de uso de sus usuarios originales. En suma, X cuenta con un paso a paso para denunciar este tipo de post.
Por ende, se abre un tipo de ‘ticket’ en el que la queja es atendida por soporte de la red social.
Artículo relacionado
Sigue nuestras redes sociales:
