OpenAI lanzará control parental tras suicidios supuestamente motivados por ChatGPT

La tecnológica OpenAI, matriz de ChatGPT, anunció este martes que lanzará controles parentales en su conocido 'chatbot' después de que hayan aumentado las acusaciones de padres apuntando a que el famoso asistente de inteligencia artificial (IA) contribuyó a las autolesiones o al suicidio de sus hijos.

En un comunicado, sin vincular la nueva implementación con las demandas que ha recibido, OpenAI detalló que "estos pasos son solo el comienzo (...) Seguiremos aprendiendo y reforzando nuestro enfoque, guiados por expertos, con el objetivo de que ChatGPT sea lo más útil posible".

Entre las demandas, está la de los padres de un joven de 16 años que se quitó la vida tras meses de interactuar con ChatGPT y quienes se quejaron en California contra OpenAI y su dueño, Sam Altman, argumentando que el 'chatbot', bajo el modelo GPT-4o, no aplicó medidas de seguridad pese a quedar claras las intenciones suicidas del joven. La empresa aceptó entonces que su asistente de IA comete fallos en casos "sensibles" y prometió cambios tras recibir la demanda.

Las medidas anunciadas hoy, que se aplicarán desde el próximo mes pero sin fecha exacta aún, permitirán a los progenitores vincular su cuenta con las de sus hijos -pudiendo revisar cómo responde ChatGPT a sus peticiones- y que, entre otras funciones, reciban una notificación cuando el sistema detecte que los menores están pasando por algún problema de inestabilidad emocional aparentemente preocupante.

Además, OpenAI, dijo que dirigirá las conversaciones con signos de "estrés agudo" a un modelo de ChatGPT especializado en razonamientos provisto por directrices de seguridad más específicas y estrictas.

Fuente: EFE/JCGM/Foto: X @ParallelFacts