Algunas de las medidas de seguridad que OpenAI incluyó en su producto ChatGPT para Adolescentes no funcionan como se pretendía, y el chatbot supone un “riesgo inaceptable” para los niños, según un informe publicado el miércoles por Common Sense Media.
El grupo observador instó a OpenAI a restringir el chatbot para que sólo lo puedan usar los adultos “hasta que pueda ofrecer una experiencia segura y adecuada para el desarrollo”.
OpenAI afirmó que las pruebas del grupo no reflejan cómo funcionan las salvaguardas del chatbot.
Padres, educadores y expertos en desarrollo infantil han dado la voz de alarma sobre el uso de chatbots de IA por parte de los niños, a los que se ha culpado de facilitar trampas en las tareas escolares e incluso suicidios.
Aunque incluso los adultos pueden caer en la tendencia a antropomorfizar la IA y desarrollar relaciones poco saludables con ella, los cerebros de los adolescentes aún no están completamente desarrollados y pueden ser particularmente vulnerables, señalan expertos en desarrollo infantil.
“Nos preocupa que ChatGPT para Adolescentes pueda dar a los padres una falsa confianza en medidas de seguridad que con frecuencia no funcionan”, indica el informe de Common Sense Media, un grupo que promueve el uso sensato de los medios digitales.
El informe señala que algunas funciones del modo adolescente sí funcionaron como se pretendía, incluida la negativa del chatbot a participar en juegos de rol sexuales explícitos. Otras que no funcionaron como se esperaba incluyeron alertas destinadas a notificar a los padres si su hijo está en riesgo de suicidio, autolesiones o trastornos alimentarios, junto con apoyo para adolescentes en crisis, informó Common Sense Media.
“ChatGPT sigue hablando como un amigo cuando los adolescentes lo tratan como a una persona”, afirmó el grupo, aunque OpenAI había prometido que se impide que el chatbot sugiera que tiene sentimientos personales hacia el usuario o que insinúe que es consciente o que experimenta emociones.
OpenAI manifestó que está “profundamente comprometida con la seguridad de los adolescentes”, con el desarrollo de salvaguardas y con ofrecer a los padres herramientas para orientar el uso de la IA por parte de sus hijos adolescentes.
La empresa de San Francisco indicó que su revisión de la metodología del informe muestra que “la mayor parte de sus pruebas pudo haber comenzado y concluido antes de que se completara la activación de los controles parentales, lo que hace que sus conclusiones sean inexactas”.
Common Sense Media recibe financiación de OpenAI y de otras empresas tecnológicas, incluidas aquellas cuyos servicios evalúa.
___
Esta historia fue traducida del inglés por un editor de AP con la ayuda de una herramienta de inteligencia artificial generativa.
