Chat GPT tendrá control parental en menores de edad a partir de octubre.
Imagen: Diario Uno
La empresa matriz de ChatGPT, OpenAI, anunció que planea lanzar control parental para su popular asistente de inteligencia artificial “en el próximo mes”, tras denuncias de que este y otros chatbots habrían contribuido a casos de autolesiones o suicidios entre adolescentes.
Los controles incluirán la opción de que los padres vinculen su cuenta con la de sus hijos, gestionen cómo responde ChatGPT a los usuarios adolescentes, desactiven funciones como la memoria y el historial de chats, y reciban notificaciones cuando el sistema detecte “un momento de angustia aguda” durante su uso. OpenAI ya había dicho que trabajaba en el control parental, pero el martes precisó el plazo de lanzamiento.
“Estos pasos son solo el comienzo”, escribió OpenAI en una publicación de blog. “Seguiremos aprendiendo y reforzando nuestro enfoque, guiados por expertos, con el objetivo de que ChatGPT sea lo más útil posible”.
Imagen: Infobae
El anuncio llega después de que los padres de Adam Raine, un joven de 16 años, demandaran a OpenAI alegando que ChatGPT le aconsejó sobre su suicidio. El año pasado, una madre en Florida demandó a la plataforma de chatbots Character.AI por su presunta implicación en el suicidio de su hijo de 14 años. También han crecido las preocupaciones sobre los vínculos emocionales que algunos usuarios establecen con ChatGPT, lo que en ciertos casos habría derivado en episodios delirantes y distanciamiento familiar, según reportes de The New York Times y CNN.
OpenAI no vinculó directamente sus nuevos controles parentales a esos reportes recientes, pero dijo en un blog la semana pasada que “casos desgarradores recientes de personas usando ChatGPT en medio de crisis agudas” lo motivaron a compartir más detalles sobre su enfoque de seguridad. ChatGPT ya incluía medidas como la derivación a líneas de ayuda en crisis y otros recursos, explicó previamente un portavoz a CNN.
Sin embargo, en una declaración de la semana pasada tras el suicidio de Raine, la empresa admitió que sus protecciones pueden volverse poco confiables cuando los usuarios sostienen conversaciones largas con ChatGPT.
“ChatGPT incluye protecciones como dirigir a las personas a líneas de ayuda en crisis y remitirlas a recursos en el mundo real”, dijo un portavoz. “Aunque estas protecciones funcionan mejor en intercambios comunes y breves, con el tiempo hemos aprendido que pueden volverse menos confiables en interacciones largas, donde partes del entrenamiento en seguridad del modelo pueden degradarse. Las protecciones son más sólidas cuando cada elemento funciona como se espera, y las mejoraremos de manera continua, guiados por expertos”.
Control parental. Imagen: El País
Además del controle parentale anunciados el martes, OpenAI dijo que canalizará las conversaciones con señales de “estrés agudo” hacia uno de sus modelos de razonamiento, que —según la compañía— sigue y aplica las pautas de seguridad con mayor consistencia. También trabaja con expertos en “desarrollo juvenil, salud mental e interacción humano-computadora” para diseñar protecciones futuras, incluidos más controles parentales.