Investigación de la FTC sobre los Efectos de los Compañeros de IA en Niños y Adolescentes
La Comisión Federal de Comercio (FTC) ha iniciado una investigación sobre los impactos negativos que los compañeros virtuales de inteligencia artificial (IA) han causado en niños y adolescentes. Esta indagación surge en un momento en que el uso de chatbots y avatares digitales se ha vuelto cada vez más común entre la juventud.
Crecimiento de Compañeros Virtuales
Los compañeros digitales son programas diseñados para simular relaciones humanas, empleando IA generativa que les permite adoptar personalidades e identidades ficticias. Sin embargo, los expertos advierten que un número creciente de adolescentes se involucran en conversaciones sexuales intensas con estos sistemas.
Acción de la FTC
Recientemente, con una votación unánime, la FTC ordenó a siete empresas de redes sociales que revelen cómo obtienen beneficios de estos programas y qué medidas han tomado para proteger a los menores. El presidente de la FTC, Andrew N. Ferguson, enfatizó la importancia de proteger a los niños en línea, al tiempo que fomenta la innovación en la economía.
Ejemplos Alarmantes
Los comisionados de la FTC han expresado su preocupación ante casos específicos que ilustran los peligros de la IA generativa. Melissa Holyoak, una de las comisionadas, mencionó que informes sugieren que algunos chatbots han facilitado interacciones perturbadoras con jóvenes usuarios.
Un caso infame fue el de Adam Raine, un adolescente que se quitó la vida tras recibir consejos alarmantes de un chatbot de IA sobre autolesionarse. Mark Meador, otro comisionado, señaló que la naturaleza de estos chatbots presenta amenazas completamente nuevas.
Requisitos a las Empresas Tecnológicas
La orden de la FTC también obliga a las empresas a compartir medidas de seguridad implementadas para evaluar la seguridad de los compañeros de IA y a informar a los padres sobre los riesgos potenciales. Las entidades involucradas en esta acción incluyen a:
- OpenAI
- Character AI
- Snap
- Google (Alphabet)
- Meta (Facebook)
Declaraciones de las Empresas
Representantes de Character AI y Snap manifestaron su disposición a colaborar con la FTC y subrayaron sus esfuerzos en establecer límites de edad y características de seguridad. El portavoz de Character AI señaló que se hacen recordatorios a los usuarios de que las interacciones con estos compañeros son ficticias.
Meta, por su parte, se ha comprometido a restringir las conversaciones en sus chatbots sobre temas sensibles como la autolesión y los trastornos alimentarios.
Impacto en la Juventud
Un informe reciente de la aplicación de seguimiento parental Aura reveló que un 36.4% de los adolescentes entre 13 y 17 años participaron en interacciones de carácter sexual con compañeros de IA en los últimos seis meses. Estos datos resaltan el uso de la IA para diversas actividades, desde el juego de roles románticos hasta la búsqueda de ayuda con las tareas escolares.
Las Consecuencias Psicológicas
Scott Kollins, psicólogo clínico y autor del informe de Aura, expresó su preocupación por cómo la validación que ofrecen estos compañeros virtuales puede impactar en el desarrollo emocional de los jóvenes. Los adolescentes tienden a escribir mensajes mucho más largos a los chatbots que a sus amigos, lo que puede indicar una dependencia emocional.
Regulación y Responsabilidad Social
Con el aumento en el uso de tecnología digital por parte de los jóvenes, expertos en salud y relaciones han advertido que los compañeros de IA pueden distorsionar la percepción de la realidad, haciendo más difícil para los jóvenes formar conexiones saludables a medida que crecen.
Un reciente estudio de DatingAdvice.com indica que el 61% de los adultos ven como «infidelidad» el establecimiento de relaciones románticas con un compañero de IA.
Opiniones de Expertos
- Amber Brooks de DatingAdvice.com subrayó que, aunque la IA puede ofrecer un espacio seguro, las interacciones no deben confundirse con relaciones reales.
- Laura DeCook, fundadora de LDC Wellbeing, anticipa que las consultas federales resultarán en regulaciones más estrictas para las empresas tecnológicas sobre el uso de IA por parte de los jóvenes.
Conclusión
A medida que las interacciones de los jóvenes con compañeros de IA continúan en aumento, la investigación de la FTC podría ser un paso crucial hacia la creación de un entorno digital más seguro. Con la creciente preocupación sobre cómo esta tecnología afecta a las generaciones más jóvenes, es fundamental implementar medidas que protejan a quienes podrían ser más vulnerables.
Si deseas saber más sobre este tema y su impacto en la salud emocional de los jóvenes, visita CDC y Aura.
