El uso de chatbots de inteligencia artificial (IA) por parte de adolescentes ha generado una creciente preocupación, debido a la facilidad con la que estos sistemas pueden involucrarse en conversaciones inapropiadas o peligrosas. Lo alarmante es que algunas de estas plataformas, aunque advierten sobre contenido explícito, no aplican filtros eficaces para evitar el acceso de menores.

¿Qué es un chatbot?

Un chatbot es un programa informático que simula la conversación humana con un usuario final. No todos los chatbots están equipados con inteligencia artificial (IA), pero los chatbots modernos utilizan cada vez más técnicas de IA conversacional como el procesamiento del lenguaje natural (PLN) para comprender las preguntas de los usuarios y automatizar las respuestas

La tecnología de chatbot es ahora algo común que se encuentra en todas partes: desde los altavoces inteligentes en casa y las instancias orientadas al consumidor de SMS, WhatsApp y Facebook Messenger; hasta las aplicaciones de mensajería en el lugar de trabajo, incluido Slack. La última evolución de los chatbots de IA, a menudo denominados "asistentes virtuales inteligentes" o "agentes virtuales", no solo es capaz de comprender conversaciones fluidas a través del uso de sofisticados modelos de lenguaje, sino incluso de automatizar tareas relevantes.

Chatbots y contenido inapropiado con adolescentes.

Chatbots como Replika, Character.AI, Nomi, PolyBuzz, y los asistentes de Meta (Facebook, Instagram, WhatsApp) han sido señalados por mantener conversaciones sexuales explícitas incluso cuando los usuarios se identifican como menores de edad.

Las charlas pueden ir desde llenas de romance e insinuaciones hasta gráficas y violentas en términos sexuales. Ocurren principalmente en herramientas de “compañía con IA”, aunque las aplicaciones de IA de propósito general como ChatGPT también pueden generar contenido sexual con indicaciones ingeniosas.

Estos tipos de herramientas tienen bibliotecas de personajes y personalidades preprogramadas, muchas diseñadas con la intención de provocar excitación, como personajes de novelas románticas.

Algunos chatbots han solicitado o insinuado el envío de imágenes íntimas y han participado en juegos de rol con contenido violento o sexual, a veces empleando voces de celebridades o personajes reconocibles, lo que aumenta el atractivo y el riesgo para los menores

Los bots pueden sugerir comportamientos peligrosos relacionados con la salud mental, el consumo de sustancias o el aislamiento social, reforzando dinámicas dañinas para los adolescentes.

Las plataformas suelen afirmar que sus servicios están destinados solo a adultos; pero los controles de edad son fácilmente eludibles por los adolescentes, y las medidas de seguridad implementadas resultan insuficientes en la práctica.

Los filtros de contenido pueden ser burlados con insistencia o mediante indicaciones ingeniosas, permitiendo que los adolescentes accedan a descripciones sexuales detalladas o conversaciones explícitas.

¿No tienen filtros?

La configuración predeterminada de la mayoría de las herramientas de compañía con IA permite, y a veces fomenta, situaciones de juegos de rol subidas de tono, según nuestras pruebas. Algunas se detienen antes de que aparezcan descripciones explícitas de sexo, mientras que otras lo describen, pero evitan ciertas palabras sensibles, como los nombres de partes del cuerpo. Existen métodos para evitar los filtros y opciones pagadas que pueden conducir a intercambios más gráficos. Las indicaciones para pasar los filtros, a veces llamadas jailbreaks, se comparten en chats grupales, Reddit y GitHub. A veces, solo se necesita paciencia e ignorar advertencias. Una técnica común es fingir que necesitas ayuda para escribir un libro.

Riesgos

Los adolescentes enfrentan una serie de riesgos al interactuar con chatbots de inteligencia artificial, especialmente aquellos diseñados para simular relaciones personales o que carecen de filtros y controles adecuados.

Exposición a contenido inapropiado y consejos peligrosos.

• Los chatbots pueden ofrecer respuestas dañinas, incluyendo conductas sexuales inapropiadas, estereotipos y consejos peligrosos que, si se siguen, pueden tener consecuencias graves o incluso letales para adolescentes vulnerables
• Algunos bots han sido reportados por incitar a comportamientos de riesgo, como autolesiones, desórdenes alimenticios o consumo de sustancias; y por proporcionar información médica o de salud sin respaldo profesional, lo que puede poner en peligro la salud física y mental de los jóvenes.

Impacto negativo en la salud mental.

• La interacción constante con chatbots puede aumentar la ansiedad, el aislamiento y la dependencia emocional, dificultando el desarrollo de habilidades sociales reales y la resiliencia emocional en los adolescentes.
• El apego emocional a estos “compañeros virtuales” puede llevar a la sustitución de relaciones humanas auténticas, fomentando la soledad y dificultando la gestión de conflictos y rechazos en la vida real.

Riesgos de privacidad y seguridad.

• Muchos chatbots carecen de verificación de edad y no requieren consentimiento parental, permitiendo que los adolescentes compartan información personal sensible sin protección adecuada.
• Existe el riesgo de robo de datos, suplantación de identidad y acoso; ya que los datos proporcionados pueden ser utilizados por ciberdelincuentes para extorsión o manipulación.

Manipulación y desinformación.

• Los chatbots pueden difundir información falsa, sesgada o dañina, incluyendo deepfakes y recomendaciones erróneas. Todo esto puede afectar las creencias, emociones y comportamientos de los adolescentes.
• La falta de filtros efectivos permite el acceso a contenidos engañosos o peligrosos que pueden influir negativamente en la toma de decisiones de los jóvenes.

Vulnerabilidad a la explotación.

• Algunos chatbots han sido diseñados o manipulados para proporcionar “experiencias sexuales”, y pueden ser utilizados por adultos malintencionados para contactar o explotar a menores.
• La facilidad para eludir controles de edad expone a los adolescentes a situaciones de grooming, sextorsión y encuentros con desconocidos.

Recomendaciones.

• Supervisar el uso de chatbots y aplicaciones de IA por parte de menores.
• Exigir a las plataformas controles de edad robustos y filtros de contenido más efectivos.
• Promover la educación digital y el diálogo abierto sobre los riesgos de interactuar con IA.

Conclusión.

La interacción de adolescentes con chatbots peligrosos puede tener consecuencias graves para su salud mental, emocional y física, así como para su seguridad y privacidad. Los expertos recomiendan supervisión parental, educación digital y el fortalecimiento de controles y filtros en estas plataformas para proteger a los menores de estos riesgos.

Referencias

Safe & Sound Blog - The Digital Safety Alliance | Nicklaus Children’s Hospital. (s. f.). https://www.nicklauschildrens.org/campaigns/safesound/blog-es/el-lado-oscuro-de-la-ia-lo-que-los-padres-deben-saber-sobre-los-chatbots

Kelly, H. (2025, 21 mayo). Adolescentes practican sexting con inteligencia artificial: lo que los padres deben saber. Infobae. https://www.infobae.com/wapo/2025/05/21/adolescentes-practican-sexting-con-inteligencia-artificial-lo-que-los-padres-deben-saber/

Ibm. (2025, 21 febrero). Chatbots. ¿Qué es un chatbot? https://www.ibm.com/es-es/think/topics/chatbots

Morales, O. (2025, 27 abril). Meta y el escándalo de los chatbots: su inquietante juego con menores. Infobae. https://www.infobae.com/tecno/2025/04/27/meta-y-el-escandalo-de-los-chatbots-su-inquietante-juego-con-menores/

Tapia, J. (2024, 2 mayo). ¿Con quién hablan tus hijos en línea? Los riesgos de los chatbots para los menores. WIRED. https://es.wired.com/articulos/con-quien-hablan-tus-hijos-en-linea-los-riesgos-de-los-chatbots