Ciencia y Tecnología

Imágenes íntimas creadas con IA: una herramienta letal de extorsión digital

Autoridades de distintos países empiezan a lanzar alertas, en especial a adolescentes, por el alarmante aumento de demandas por este tipo de imágenes.

Imágenes íntimas creadas con IA: una herramienta letal de extorsión digital
Montaje de 90minutos.co

Autoridades de distintos países empiezan a lanzar alertas, en especial a adolescentes, por el alarmante aumento de demandas por este tipo de imágenes.

Compartir

En pleno siglo XXI, la inteligencia artificial se ha convertido en un arma peligrosa en manos criminales: los deepfakes sexuales, o desnudos falsos generados digitalmente, se utilizan para chantajear a víctimas en todo el mundo.

Únete a nuestro canal de WhatsApp

Además del daño psicológico, el relato de casos extremos, como el suicidio de un adolescente en Kentucky presionado con una imagen falsa creada con IA, revela el impacto devastador de esta práctica. Asimismo, el FBI ha advertido que estos delitos están en auge y tienen entre las víctimas frecuentes a menores de 14 a 17 años.

Crece la preocupación por el uso de IA para crear imágenes de personas sin consentimiento

Un informe de la ONG Thorn señala que el 6 % de los adolescentes en EE. UU. ha sido afectado directamente por imágenes o videos de desnudos falsos generados con IA. Muchas veces, los agresores recopilan fotos de redes sociales o medios públicos y, mediante algoritmos crean contenido sexualizado que aparenta pertenecer a la víctima.

Le puede interesar: ¿Cómo identificar videos hechos con IA? tenga cuidado

hacker
Tomado de Unsplash.

Alerta por sextorsión en aplicaciones de citas

En el Reino Unido, expertos en fraude confirmaron que el 28 % de estudiantes ha sido blanco de estafas digitales donde se piden imágenes íntimas para luego exigir pago por su no difusión, frecuentemente con perfiles falsos impulsados por IA.

De igual manera, en España, también fue detenido un hombre que contactaba con mujeres en apps para obtener imágenes y luego extorsionarlas por sumas millonarias de euros. Actualmente esta práctica no ha llegado a Colombia, sin embargo, las autoridades tienen un protocolo de denuncia ante casos de sexting, extorsión, pornografía infantil, prostitución infantil, entre otros.

Asimismo, debe saber que la Constitución lo ampara en caso de que esto ocurra con tres leyes fundamentales para respetar sus derechos en caso de una situación así.

  • Ley 1581 de 2012, que habla sobre la protección de datos personales.
  • Ley 1273 de 2009 por medio del cual se modificó el Código Penal y se creó una protección a la violación de los datos personales que da de 8 a 12 años de cárcel.
  • Ley 1336 de 2009​ que habla sobre la lucha contra la explotación, la pornografía y el turismo sexual con niños, niñas y adolescentes.

Aquí un paso a paso de lo que debería hacer en caso de ser víctima:

Imágenes íntimas creadas con inteligencia artificial son motivo de extorsión

Ante esta amenaza, distintos países han adoptado medidas: en Reino Unido, fue aprobada una ley que penaliza la creación de deepfakes sexuales con hasta dos años de prisión. Mientras que en Estados Unidos ya hay regulación similar.

En el caso de Europa, la próxima directiva de la Unión Europea pretende criminalizar el uso de desnudos falsos generados con IA, integrados como violencia digital de género.

Ahora bien, especialistas recomiendan mantenerse alerta en redes sociales, proteger la privacidad digital y evitar compartir imágenes sensibles. Ya que las imágenes íntimas creadas con inteligencia artificial para la extorsión suelen realizarse por la extracción de fotos o videos.

Es clave no ceder ante extorsiones, y acudir de inmediato a las autoridades. Asimismo, Jesús Alfonso López, profesor de la Universidad Autónoma de Occidente y con 30 años trabajando con Inteligencia Artificial, puntualiza que:

“Se ha vuelto cada vez más complejo a detectar si el contenido es generado por interés artificial o no. Eso sigue siendo un reto (…) laboratorios de inteligencia artificial generando herramientas para identificar estos contenidos. Hay siempre un margen de error y el margen de error para mí es más complicado cuando manejas texto”.

@noti90minutos ¿Contenido real o generado por IA? Expertos revelan cómo identificarlo #ia #noticias #fyp ♬ original sound - Noticiero 90 Minutos

Artículo relacionado

Sigue nuestras redes sociales:

Lee más noticias

Ciencia y Tecnología

País prohíbe redes sociales a menores de 16 años y promueve multas: ¿de qué se trata?

Malasia comenzó a aplicar una ley que restringe el acceso a redes sociales y obliga a las plataformas digitales a verificar la edad.

País prohíbe redes sociales a menores de 16 años y promueve multas: ¿de qué se trata?
Fotografía de archivo del logotipo de Facebook. EFE/ Mauritz Antin

Malasia comenzó a aplicar una ley que restringe el acceso a redes sociales y obliga a las plataformas digitales a verificar la edad.

Compartir

 Malasia restringe desde este lunes el acceso a las redes sociales a menores de 16 años, una medida que delega en las tecnológicas imponer la tecnología necesaria para su control y que impone multas de hasta 2,5 millones de dólares para las compañías que infrinjan la normativa, siguiendo la estela de la política ya aplicada por Australia.

Únete a nuestro canal de WhatsApp + ¡Síguenos en Google News!

La normativa exige a las plataformas con más de 8 millones de usuarios en el país, incluidas Facebook, Instagram, TikTok y YouTube, implementar sus propios sistemas de verificación de edad y bloquear las cuentas de menores de 16 años.

Pexels

En el caso de que las plataformas no cumplan con la ley, Malasia contempla multas de hasta 10 millones de ringgit (2,5 millones de dólares o más de 2,1 millones de euros). Mientras, exime a los padres de represalias por el posible incumplimiento de sus hijos, aunque les recomienda mantener una supervisión.

Lea también: Salud bucal infantil: hábitos clave para cuidar los dientes de los niños desde los primeros meses de vida

La medida busca frenar el ciberacoso y proteger a los menores de los riesgos digitales

"Desde hoy, los proveedores de redes sociales deberán garantizar que solo los usuarios mayores de 16 años puedan crear nuevas cuentas y acceder a las funciones del servicio apropiadas para su edad",

Apunta en un comunicado la Comisión de Comunicaciones y Multimedia de Malasia (MCMC), responsable de aplicar la medida.

Las plataformas contarán con un periodo "de hasta seis meses" para verificar que las edades de los perfiles de usuarios ya existentes cumplen con la norma establecida, señaló el organismo, que aclaró que se permite el uso de documentos oficiales tales como el carnet de identidad o el pasaporte.

Pexels

"Las redes sociales deben proporcionar instrucciones claras sobre el proceso de verificación, incluidas qué información se requiere, cómo funciona el proceso y cómo se manejará la información de los usuarios",

Subraya.

El objetivo de esta política es aportar una "mayor protección" en las redes a los menores, quienes están expuestos a contenidos "a una escala e intensidad sin precedentes".

"Dado que (los niños) aún están desarrollando su capacidad para evaluar riesgos, gestionar interacciones en redes y tomar decisiones informadas, son particularmente vulnerables a los peligros en internet",

Apunta el MCMC, al mencionar como ejemplos "la exposición a contenido dañino" o "interacciones inseguras" con otros usuarios.

Malasia se posiciona como el segundo país con mayor índice de ciberacoso juvenil en Asia, solo por detrás de China, según datos de UNICEF del pasado año.

Artículo relacionado

Sigue nuestras redes sociales:

Lee más noticias

90 Tec

¿Cuáles son los beneficios de la IA en la educación?

Cada día avanza más la tecnología y crece los interrogantes en las personas, ¿qué tan beneficioso es la implementación de la IA en la educación?

Cada día avanza más la tecnología y crece los interrogantes en las personas, ¿qué tan beneficioso es la implementación de la IA en la educación?

Compartir

En la actualidad muchas instituciones educativas públicas y privadas han implementado la inteligencia artificial, con el objetivo de transformar los procesos de aprendizaje. Cabe mencionar que, es permitido usar la IA como herramienta en el desarrollo de actividades diarias, fortaleciendo el análisis crítico y de verificación a esta tecnología.

Únete a nuestro canal de WhatsApp + ¡Síguenos en Google News!

En este sentido, para 90 minutos digital, el docente David Fernando Ramírez destacó algunos puntos sobre la implementación de la inteligencia artificial en la educación, en donde precisó lo beneficioso de esta implementación tecnológica.

¿Considera que fue un error liberar esta inteligencia artificial en las personas?

No, tengamos presente que no es primera vez que la humanidad se encuentra con desarrollos tecnológicos. Cada vez se han presentado temores naturales con la llegada de la tecnología, que de alguna manera pone todo patas arriba. En este caso, debido a que es primera vez que se desarrolla una tecnología que tiene capacidad de interactuar a través del lenguaje natural. Así que esta tecnología nueva es lo que nos sorprende. Por ende, es importante que las personas tengan acceso a esta herramienta, para que puedan potenciar su creatividad y el pensamiento critico.

Declaración uso inteligencia artificial
Tomado de Adobe Stock Gratuito

¿Qué rol deben implementar los docentes para incorporar la inteligencia artificial?

Tiene que ver como generamos las consignas para dar origen a los diálogos con ChatGPT. Es una responsabilidad grande del usuario, generar una consigna o algoritmo que del otro lado te responda de manera fiel y respetuosa. Por lo tanto puede haber un dialogo constructivo, en ultimas es una conversación de tres agentes, el profesor, el estudiante y la inteligencia artificial. Así que lo que se pretende con la IA, es potenciar lo que se ha venido potenciando, en donde el estudiante se vuelva más curioso, ese es el objetivo.

Lea también: Más de 10.000 uniformados custodiarán las elecciones presidenciales en el Valle del Cauca

¿Qué rol debe tener el estudiante en implementar la inteligencia artificial en proceso educativo?

Desde el rol de estudiante, el estudiante debe buscar hacerse más inteligente, independiente de la idea que tenga para hacerlo. Desde este punto de vista, los estudiantes deben mirar los agentes de la IA no como un colchón para que el estudiante no haga nada, por el contrario la inteligencia artificial debe usarse como herramienta para que las ideas propias del estudiante brillen con el apoyo de la IA.

Tomado de Pexels. / Imagen de referencia.

Las personas que no se encuentran en una institución educativa superior, ¿cómo pueden usar la inteligencia artificial?

Yo pensaría que lo ideal es la exploración de nuevos mundos, nuevas culturas, pretendiendo conversaciones con un turista virtual, algo así como ¿dime cómo es la comida en marruecos? Todo depende de los intereses de las personas y podemos hacer múltiples usos, desde el entretenimiento hasta el aprendizaje.

¿La educación tiene miedo al desconocimiento?

Algunos humanos pueden hacer uso de la inteligencia artificial, igual que una persona mal intencionada puede tener herramientas que te ayuden a esparcir información que no es veraz. Incluso se pueden armar asonadas, movimientos políticos rápidos que emergen de la nada, por la manipulación de inteligencia artificial.

Artículo relacionado

Sigue nuestras redes sociales:

Lee más noticias

Ciencia y Tecnología

TUM: el robot cuadrúpedo que impulsa la innovación y la educación tecnológica en Cali

TUM, el robot cuadrúpedo desarrollado por la UAO y Corporación Talentum en Cali, busca impulsar la educación tecnológica en niños y jóvenes

TUM, el robot cuadrúpedo desarrollado por la UAO y Corporación Talentum en Cali, busca impulsar la educación tecnológica en niños y jóvenes

Compartir

La educación y la robótica avanzan en Cali con el proyecto 'TUM', un robot cuadrúpedo desarrollado por ingenieros de la Universidad Autónoma de Occidente y la Corporación Talentum para fomentar en niños y jóvenes el aprendizaje de programación, robótica y nuevas tecnologías de manera interactiva.

Únete a nuestro canal de WhatsApp + ¡Síguenos en Google News!

En ese sentido, este proyecto busca fortalecer las experiencias educativas y acercar la ciencia a distintos territorios de la región, en especial a comunidades rurales.

Asimismo, el proyecto 'TUM' nace como una apuesta conjunta entre la academia y el sector social para impulsar procesos de investigación aplicada enfocados en resolver necesidades reales del territorio.

Por su parte, la plataforma incorpora sensores, programación, códigos y herramientas interactivas que permitirán desarrollar experiencias de aprendizaje más dinámicas para estudiantes de colegios y universidades.

Lea también: Participa en el lanzamiento de la Especialización en Energías Renovables de la UAO

Además, sus desarrolladores destacan que la iniciativa busca demostrar la capacidad de innovación tecnológica que existe en Colombia y en el Valle del Cauca.

De igual manera, el proyecto también pretende reducir brechas de acceso a herramientas tecnológicas en la ruralidad, permitiendo que niños y jóvenes puedan interactuar con soluciones robóticas avanzadas.

“Sentimos que nuestro compromiso realmente con la sociedad es cómo, a través de este tipo de innovaciones, podemos demostrarle a los niños, jóvenes, adolescentes, a las comunidades en la ruralidad, que como país estamos listos para apostarle a este tipo de investigación, que esos sueños los podemos materializar aquí.” expresó Juan José Cardona, Gerente de tecnología Corporación Talentum

En suma, la iniciativa proyecta convertirse en una plataforma adaptable a diferentes sectores como educación, agricultura y desarrollo social.

Tum educación Cali: innovación para transformar territorios

A su vez, la apuesta educativa de TUM busca acercar a estudiantes de colegios a experiencias de aprendizaje más interactivas.

Asimismo, sus creadores aseguran que la plataforma permite aplicar conceptos de física, programación, matemáticas, trigonometría y robótica de manera tangible.

Esto con el fin de facilitar que las y los jóvenes comprendan mejor estos contenidos académicos.

Adicionalmente, el proyecto representa una oportunidad para fortalecer la investigación aplicada y la formación de nuevos talentos en ingeniería y tecnología en la región.

“Lo que se está buscando con esta plataforma es de alguna forma innovar y dar como una solución en lo que es el área del STEAM. Realmente el poder ver algo físico que implemente conceptos como trigonometría, física, cálculo de velocidad y verlo realmente físico ayuda y está demostrado que permite que los estudiantes aprendan mejor y aterricen todo lo que se está viendo.” expresó Sebastián Grajales, Ingeniero Mecatrónico del proyecto

Por lo tanto, desde la Universidad Autónoma de Occidente y la Corporación Talentum esperan que el desarrollo de esta plataforma impulse futuros proyectos de innovación hechos en Colombia.

Finalmente, con este proyecto, ambas instituciones le apuestan al fortalecimiento de la ciencia, la innovación y el desarrollo tecnológico desde Cali como referente para el país.

Artículo relacionado

Sigue nuestras redes sociales: