Ocho estados demandan a OpenAI por ChatGPT
La acusan de poner las ganancias por encima de la seguridad de los menores que usan el chatbot todos los días.
Ocho estados de EE.UU. demandan a OpenAI por ChatGPT y la acusan de poner las ganancias por encima de la seguridad de los menores. Lo informó The Verge.
Qué alegan los ocho estados
Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho y Montana presentaron demandas por separado. Todas apuntan a lo mismo: que la empresa habría violado las leyes de protección al consumidor de cada estado al no advertir a sus clientes sobre los riesgos de ChatGPT.
Las demandas se apoyan en casos presentados por familiares de adolescentes y adultos que aseguran que el chatbot tuvo que ver con la muerte de sus seres queridos. Los estados sostienen que la compañía vendió ChatGPT como una herramienta segura y pensada para jóvenes, cuando en realidad sería peligrosa para los usuarios vulnerables: «degradar las habilidades de pensamiento crítico, fomentar paranoias y delirios, ofrecer consejos médicos peligrosos y promover conductas y relaciones poco saludables» (traducción de Sígueme).
«Cuando el menor pasa de ser prójimo a ser métrica, el lucro se sienta donde debería estar el cuidado.»
También acusan a OpenAI de recoger datos de menores y de no hacer lo suficiente para evitar que alguien de esa edad use el chatbot. Entre sus argumentos mencionan hackeos recientes cometidos con IA.
Arizona lo plantea sin rodeos en su demanda: la compañía pasó de ser una organización sin fines de lucro centrada en la seguridad a un ejemplo de lo que ocurre cuando las ganancias mandan y los resguardos quedan a un lado.
Los estados piden a los tribunales multas civiles, que OpenAI deje de engañar al público sobre la seguridad del chatbot y, en algunos casos, la eliminación de datos personales recogidos de forma ilegal.
Lo que responde OpenAI
Drew Pusateri, vocero de la compañía, dijo a The Verge que incorporaron protecciones por edad que considera líderes en la industria. Mencionó controles parentales, recordatorios de pausa y resguardos según la edad del usuario. Añadió que ningún sistema es perfecto, que seguirán trabajando con expertos y que quieren colaborar con los estados en políticas de IA que apliquen a toda la industria, no solo a una empresa.
Vale la pena notar dónde queda la conversación. Una compañía puede mejorar sus filtros y seguir midiendo el éxito en minutos de uso. Una familia mide otra cosa: si el menor está aprendiendo a pensar o solo a preguntar.
Quién acompaña a los menores
Ninguna demanda resuelve ese punto de fondo. Cuando la atención de un joven se vuelve materia prima de un negocio, algo se quiebra en la manera de tratar al prójimo. Cada menor es imagen de Dios antes que usuario, cliente o dato.
La Escritura lo dice con claridad: «Defended al pobre y al huérfano; Haced justicia al afligido y al menesteroso» (Salmos 82:3, RVR1960). Ese mandato no cambió con la llegada de los chatbots. Un joven que conversa horas con una máquina no está creciendo en sabiduría, aunque reciba mil respuestas.
La IA en sí no es el enemigo. Como parte de la creación, es buena y se administra. Lo que se corrompe es el uso: cuando el menor pasa de ser prójimo a ser métrica, el lucro se sienta donde debería estar el cuidado.
Esta semana puedes hacer algo concreto. Si tienes hermanos, primos o sobrinos de entre 10 y 17 años, siéntate con ellos quince minutos y pregúntales qué le piden a ChatGPT. No para vigilarlos, sino para acompañarlos. Y si eres tú quien lo usa cada noche para la tarea, pon un límite: antes de creerle todo, contrasta con una persona de confianza y con la Biblia.
¿Quién acompaña a los menores que hablan con una máquina? Ojalá la respuesta tenga nombre, cara y voz.
