La FTC Investiga el Impacto de los Chatbots de IA en la Seguridad de Niños y Adolescentes

La Comisión Federal de Comercio (FTC) de EE. UU. ha iniciado una investigación sobre cómo las empresas de redes sociales y de inteligencia artificial (IA) gestionan el uso de chatbots por parte de niños y adolescentes. Esta acción se produce en un momento en que un número creciente de jóvenes utiliza estos chatbots para diversas actividades, desde la ayuda con tareas escolares hasta el apoyo emocional.

Empresas Bajo la Lupa

Entre las compañías que han recibido cartas de la FTC se encuentran líderes del sector como Alphabet (madre de Google), Meta Platforms (Facebook e Instagram), Snap, OpenAI (creador de ChatGPT) y Character.AI. La FTC busca entender las medidas que estas empresas han implementado para evaluar la seguridad de sus chatbots y su impacto en la juventud.

• Objetivos de la FTC:
  • Evaluar la seguridad de los chatbots como compañeros.
  • Limitar su uso y mitigar efectos negativos en niños y adolescentes.
  • Informar a padres y usuarios sobre los riesgos asociados.

Preocupaciones y Demandas

Varios estudios han sugerido que los chatbots pueden ofrecer consejos nocivos sobre temas delicados como el uso de drogas, trastornos alimentarios y suicidio. Recientemente, se han presentado demandas que resaltan estos peligros, incluyendo el caso de una madre en Florida cuya demanda se basa en la relación problemática de su hijo con un chatbot.

• Demandas destacadas:
  • Un caso en Florida relacionado con la suicidio juvenil.
  • Una reciente demanda de los padres de un adolescente que alegan que ChatGPT contribuyó en la planificación de su muerte.

Respuestas de las Empresas

Character.AI ha manifestado su disposición a colaborar con la FTC, subrayando sus esfuerzos en materia de seguridad y confianza.

«Hemos implementado numerosas funciones de seguridad, incluyendo experiencias específicas para menores de edad», afirmó la empresa.

Por su parte, OpenAI y Meta han reaccionado recientemente al señalar mejoras en el manejo de temas sensibles. OpenAI ha introducido controles parentales que permiten a los padres acceder a la información de sus hijos y recibir notificaciones en momentos de crisis.

Nuevas Medidas Implementadas

• Controles Parentales: Los padres pueden vincular cuentas y desactivar características específicas.
• Redirección de Conversaciones: Los chatbots se dirigirán a modelos de IA más capaces en situaciones de gran angustia.
• Restricciones en Meta: La empresa ahora bloquea interacciones relacionadas con el autolesionismo y el suicidio, redirigiendo a recursos especializados.

Conclusiones

El creciente uso de chatbots por parte de jóvenes resalta la necesidad urgente de regular y evaluar su impacto en la salud mental y emocional. La FTC espera que esta investigación conduzca a mejores prácticas en la industria y brinde a los padres las herramientas necesarias para proteger a sus hijos.

Para obtener más información sobre el uso seguro de la tecnología por parte de menores, visita kids.gov, un recurso que promueve la educación y la seguridad en línea.