Ciencia y Tecnología

¿ChatGPT está provocando psicosis en algunos usuarios? Esto opinan expertos

Un testimonio de un usuario generó controversia al sugerir que ChatGPT podría estar relacionado con episodios de psicosis.

¿ChatGPT está provocando psicosis en algunos usuarios? Esto opinan expertos
Tomado de Pexels

Un testimonio de un usuario generó controversia al sugerir que ChatGPT podría estar relacionado con episodios de psicosis.

Compartir

ChatGPT es una inteligencia artificial desarrollada por OpenAI capaz de entender y generar texto, simulando una conversación humana.

Únete a nuestro canal de WhatsApp

Esta IA puede responder preguntas, redactar textos, traducir idiomas, programar, entre muchas otras funciones. Hoy en día, es una de las herramientas más utilizadas en el mundo, e incluso muchas personas la usan simplemente para conversar, como si fuera un amigo.

Sin embargo, en los últimos días ha comenzado a emerger una tendencia que parece sacada de un episodio de Black Mirror.

Se trata del fenómeno de las “alucinaciones” de ChatGPT, que ocurre cuando el sistema genera información falsa o inexacta. Pero lo más inquietante es que algunos usuarios afirman haber desarrollado delirios y manías espirituales tras interactuar intensamente con la IA.

Según un artículo reciente de Rolling Stone, todo comenzó en el subreddit r/ChatGPT, donde se compartió un hilo titulado "psicosis inducida por ChatGPT". En él, un usuario relataba su experiencia personal, que podría haber sido un caso aislado, pero rápidamente se convirtió en un espacio donde decenas de personas comenzaron a compartir relatos perturbadores.

Algunos usuarios decían haber cruzado una línea entre lo digital y lo delirante. Afirmaban haber recibido “misiones sagradas” por parte de la IA, tener conversaciones con “Jesús” o incluso asegurar que ChatGPT es Jesús.

Uno de los testimonios más impactantes lo dio una mujer, quien contó que su segundo matrimonio se terminó por culpa de ChatGPT. Según explicó a Rolling Stone, su esposo comenzó a obsesionarse con la IA, con la que pasaba todo el día haciendo preguntas filosóficas en busca de "la verdad".

En una ocasión, mientras comían en un restaurante, él insistió en que, según las estadísticas, “era el hombre más afortunado del planeta”.

“En su mente, él es una anomalía. Cree que está aquí por una razón, que es especial y puede salvar el mundo”

Mujer a Rolling Stone

Lea también: El universo se acabaría antes: científicos precisan cálculo para final del cosmos

¿De dónde proviene este peligro psicológico?

Expertos señalan que el problema surge cuando ChatGPT amplifica los pensamientos de usuarios vulnerables, sin tener un filtro moral ni preocupación por la salud mental de quien interactúa.

La IA no entiende el mundo, ni tiene ética: simplemente reproduce patrones del lenguaje con los que ha sido entrenada. Por eso, si una persona con tendencias psicóticas le habla de conspiraciones, poderes sobrenaturales o magia, el sistema continuará la conversación sin cuestionarla.

Erin Westgate, psicóloga e investigadora de la Universidad de Florida, explicó a Rolling Stone que muchas personas están usando a ChatGPT como una especie de terapia conversacional.

“A diferencia de un terapeuta, la IA no tiene en cuenta el bienestar del usuario, ni una brújula moral para distinguir entre una historia saludable y una peligrosa. Mientras un profesional guiaría a un paciente lejos de pensamientos nocivos, ChatGPT no tiene esas limitaciones”

Erin Westgate, psicóloga e investigadora de la Universidad de Florida a Rolling Stone

Incluso, recientemente, OpenAI tuvo que desactivar temporalmente una actualización de su modelo más avanzado, GPT-4o, porque el chatbot se volvió excesivamente adulador y halagador. Esto evidenció la falta de consideración sobre cómo las interacciones con la IA pueden evolucionar con el tiempo.

Nate Sharadin, investigador del Centro para la Seguridad de la Inteligencia Artificial, resumió el fenómeno con una frase inquietante:

“Personas con tendencias a experimentar diversos problemas psicológicos, ahora tienen un compañero de conversación siempre disponible con quien experimentar sus delirios”

Nate Sharadin, investigador del Centro para la Seguridad de la Inteligencia Artificial a Rolling Stone

En un mundo cada vez más influenciado por la inteligencia artificial, distinguir entre realidad y ficción se vuelve más difícil. Y lo preocupante es que muchas personas buscan en ChatGPT respuestas sobre la existencia, el sentido de la vida e incluso la naturaleza de la propia IA.

“Las explicaciones son poderosas, aunque estén equivocadas”.

Erin Westgate, psicóloga e investigadora de la Universidad de Florida a Rolling Stone

Una advertencia importante, ahora que la línea entre herramienta tecnológica y guía espiritual comienza a desdibujarse para las personas más vulnerables.

Artículo relacionado

Sigue nuestras redes sociales:

Lee más noticias

Ciencia y Tecnología

País prohíbe redes sociales a menores de 16 años y promueve multas: ¿de qué se trata?

Malasia comenzó a aplicar una ley que restringe el acceso a redes sociales y obliga a las plataformas digitales a verificar la edad.

País prohíbe redes sociales a menores de 16 años y promueve multas: ¿de qué se trata?
Fotografía de archivo del logotipo de Facebook. EFE/ Mauritz Antin

Malasia comenzó a aplicar una ley que restringe el acceso a redes sociales y obliga a las plataformas digitales a verificar la edad.

Compartir

 Malasia restringe desde este lunes el acceso a las redes sociales a menores de 16 años, una medida que delega en las tecnológicas imponer la tecnología necesaria para su control y que impone multas de hasta 2,5 millones de dólares para las compañías que infrinjan la normativa, siguiendo la estela de la política ya aplicada por Australia.

Únete a nuestro canal de WhatsApp + ¡Síguenos en Google News!

La normativa exige a las plataformas con más de 8 millones de usuarios en el país, incluidas Facebook, Instagram, TikTok y YouTube, implementar sus propios sistemas de verificación de edad y bloquear las cuentas de menores de 16 años.

Pexels

En el caso de que las plataformas no cumplan con la ley, Malasia contempla multas de hasta 10 millones de ringgit (2,5 millones de dólares o más de 2,1 millones de euros). Mientras, exime a los padres de represalias por el posible incumplimiento de sus hijos, aunque les recomienda mantener una supervisión.

Lea también: Salud bucal infantil: hábitos clave para cuidar los dientes de los niños desde los primeros meses de vida

La medida busca frenar el ciberacoso y proteger a los menores de los riesgos digitales

"Desde hoy, los proveedores de redes sociales deberán garantizar que solo los usuarios mayores de 16 años puedan crear nuevas cuentas y acceder a las funciones del servicio apropiadas para su edad",

Apunta en un comunicado la Comisión de Comunicaciones y Multimedia de Malasia (MCMC), responsable de aplicar la medida.

Las plataformas contarán con un periodo "de hasta seis meses" para verificar que las edades de los perfiles de usuarios ya existentes cumplen con la norma establecida, señaló el organismo, que aclaró que se permite el uso de documentos oficiales tales como el carnet de identidad o el pasaporte.

Pexels

"Las redes sociales deben proporcionar instrucciones claras sobre el proceso de verificación, incluidas qué información se requiere, cómo funciona el proceso y cómo se manejará la información de los usuarios",

Subraya.

El objetivo de esta política es aportar una "mayor protección" en las redes a los menores, quienes están expuestos a contenidos "a una escala e intensidad sin precedentes".

"Dado que (los niños) aún están desarrollando su capacidad para evaluar riesgos, gestionar interacciones en redes y tomar decisiones informadas, son particularmente vulnerables a los peligros en internet",

Apunta el MCMC, al mencionar como ejemplos "la exposición a contenido dañino" o "interacciones inseguras" con otros usuarios.

Malasia se posiciona como el segundo país con mayor índice de ciberacoso juvenil en Asia, solo por detrás de China, según datos de UNICEF del pasado año.

Artículo relacionado

Sigue nuestras redes sociales:

Lee más noticias

90 Tec

¿Cuáles son los beneficios de la IA en la educación?

Cada día avanza más la tecnología y crece los interrogantes en las personas, ¿qué tan beneficioso es la implementación de la IA en la educación?

Cada día avanza más la tecnología y crece los interrogantes en las personas, ¿qué tan beneficioso es la implementación de la IA en la educación?

Compartir

En la actualidad muchas instituciones educativas públicas y privadas han implementado la inteligencia artificial, con el objetivo de transformar los procesos de aprendizaje. Cabe mencionar que, es permitido usar la IA como herramienta en el desarrollo de actividades diarias, fortaleciendo el análisis crítico y de verificación a esta tecnología.

Únete a nuestro canal de WhatsApp + ¡Síguenos en Google News!

En este sentido, para 90 minutos digital, el docente David Fernando Ramírez destacó algunos puntos sobre la implementación de la inteligencia artificial en la educación, en donde precisó lo beneficioso de esta implementación tecnológica.

¿Considera que fue un error liberar esta inteligencia artificial en las personas?

No, tengamos presente que no es primera vez que la humanidad se encuentra con desarrollos tecnológicos. Cada vez se han presentado temores naturales con la llegada de la tecnología, que de alguna manera pone todo patas arriba. En este caso, debido a que es primera vez que se desarrolla una tecnología que tiene capacidad de interactuar a través del lenguaje natural. Así que esta tecnología nueva es lo que nos sorprende. Por ende, es importante que las personas tengan acceso a esta herramienta, para que puedan potenciar su creatividad y el pensamiento critico.

Declaración uso inteligencia artificial
Tomado de Adobe Stock Gratuito

¿Qué rol deben implementar los docentes para incorporar la inteligencia artificial?

Tiene que ver como generamos las consignas para dar origen a los diálogos con ChatGPT. Es una responsabilidad grande del usuario, generar una consigna o algoritmo que del otro lado te responda de manera fiel y respetuosa. Por lo tanto puede haber un dialogo constructivo, en ultimas es una conversación de tres agentes, el profesor, el estudiante y la inteligencia artificial. Así que lo que se pretende con la IA, es potenciar lo que se ha venido potenciando, en donde el estudiante se vuelva más curioso, ese es el objetivo.

Lea también: Más de 10.000 uniformados custodiarán las elecciones presidenciales en el Valle del Cauca

¿Qué rol debe tener el estudiante en implementar la inteligencia artificial en proceso educativo?

Desde el rol de estudiante, el estudiante debe buscar hacerse más inteligente, independiente de la idea que tenga para hacerlo. Desde este punto de vista, los estudiantes deben mirar los agentes de la IA no como un colchón para que el estudiante no haga nada, por el contrario la inteligencia artificial debe usarse como herramienta para que las ideas propias del estudiante brillen con el apoyo de la IA.

Tomado de Pexels. / Imagen de referencia.

Las personas que no se encuentran en una institución educativa superior, ¿cómo pueden usar la inteligencia artificial?

Yo pensaría que lo ideal es la exploración de nuevos mundos, nuevas culturas, pretendiendo conversaciones con un turista virtual, algo así como ¿dime cómo es la comida en marruecos? Todo depende de los intereses de las personas y podemos hacer múltiples usos, desde el entretenimiento hasta el aprendizaje.

¿La educación tiene miedo al desconocimiento?

Algunos humanos pueden hacer uso de la inteligencia artificial, igual que una persona mal intencionada puede tener herramientas que te ayuden a esparcir información que no es veraz. Incluso se pueden armar asonadas, movimientos políticos rápidos que emergen de la nada, por la manipulación de inteligencia artificial.

Artículo relacionado

Sigue nuestras redes sociales:

Lee más noticias

Ciencia y Tecnología

TUM: el robot cuadrúpedo que impulsa la innovación y la educación tecnológica en Cali

TUM, el robot cuadrúpedo desarrollado por la UAO y Corporación Talentum en Cali, busca impulsar la educación tecnológica en niños y jóvenes

TUM, el robot cuadrúpedo desarrollado por la UAO y Corporación Talentum en Cali, busca impulsar la educación tecnológica en niños y jóvenes

Compartir

La educación y la robótica avanzan en Cali con el proyecto 'TUM', un robot cuadrúpedo desarrollado por ingenieros de la Universidad Autónoma de Occidente y la Corporación Talentum para fomentar en niños y jóvenes el aprendizaje de programación, robótica y nuevas tecnologías de manera interactiva.

Únete a nuestro canal de WhatsApp + ¡Síguenos en Google News!

En ese sentido, este proyecto busca fortalecer las experiencias educativas y acercar la ciencia a distintos territorios de la región, en especial a comunidades rurales.

Asimismo, el proyecto 'TUM' nace como una apuesta conjunta entre la academia y el sector social para impulsar procesos de investigación aplicada enfocados en resolver necesidades reales del territorio.

Por su parte, la plataforma incorpora sensores, programación, códigos y herramientas interactivas que permitirán desarrollar experiencias de aprendizaje más dinámicas para estudiantes de colegios y universidades.

Lea también: Participa en el lanzamiento de la Especialización en Energías Renovables de la UAO

Además, sus desarrolladores destacan que la iniciativa busca demostrar la capacidad de innovación tecnológica que existe en Colombia y en el Valle del Cauca.

De igual manera, el proyecto también pretende reducir brechas de acceso a herramientas tecnológicas en la ruralidad, permitiendo que niños y jóvenes puedan interactuar con soluciones robóticas avanzadas.

“Sentimos que nuestro compromiso realmente con la sociedad es cómo, a través de este tipo de innovaciones, podemos demostrarle a los niños, jóvenes, adolescentes, a las comunidades en la ruralidad, que como país estamos listos para apostarle a este tipo de investigación, que esos sueños los podemos materializar aquí.” expresó Juan José Cardona, Gerente de tecnología Corporación Talentum

En suma, la iniciativa proyecta convertirse en una plataforma adaptable a diferentes sectores como educación, agricultura y desarrollo social.

Tum educación Cali: innovación para transformar territorios

A su vez, la apuesta educativa de TUM busca acercar a estudiantes de colegios a experiencias de aprendizaje más interactivas.

Asimismo, sus creadores aseguran que la plataforma permite aplicar conceptos de física, programación, matemáticas, trigonometría y robótica de manera tangible.

Esto con el fin de facilitar que las y los jóvenes comprendan mejor estos contenidos académicos.

Adicionalmente, el proyecto representa una oportunidad para fortalecer la investigación aplicada y la formación de nuevos talentos en ingeniería y tecnología en la región.

“Lo que se está buscando con esta plataforma es de alguna forma innovar y dar como una solución en lo que es el área del STEAM. Realmente el poder ver algo físico que implemente conceptos como trigonometría, física, cálculo de velocidad y verlo realmente físico ayuda y está demostrado que permite que los estudiantes aprendan mejor y aterricen todo lo que se está viendo.” expresó Sebastián Grajales, Ingeniero Mecatrónico del proyecto

Por lo tanto, desde la Universidad Autónoma de Occidente y la Corporación Talentum esperan que el desarrollo de esta plataforma impulse futuros proyectos de innovación hechos en Colombia.

Finalmente, con este proyecto, ambas instituciones le apuestan al fortalecimiento de la ciencia, la innovación y el desarrollo tecnológico desde Cali como referente para el país.

Artículo relacionado

Sigue nuestras redes sociales: