La IA más nueva es peor frenando desnudos
Modelos recién lanzados por Google y OpenAI frenan peor el contenido explícito que las versiones anteriores, según pruebas de la empresa White Circle.
La IA más nueva de Google y OpenAI falla más que las versiones anteriores cuando alguien intenta generar imágenes explícitas. Lo halló White Circle, empresa de pruebas de seguridad, y lo publicó Plugged In, medio de cultura y tecnología.
El filtro cayó con herramientas de descarga libre
Los investigadores probaron los modelos generativos recién lanzados y encontraron que ceden ante pedidos de contenido sexual explícito, aunque traigan barreras anunciadas. No hicieron falta laboratorios ni conocimientos de programación: usaron herramientas que se descargan en línea, al alcance de cualquiera.
Y no porque estos modelos sean más torpes. White Circle lo planteó como un asunto de prioridades: «la seguridad ha quedado en segundo plano frente a la capacidad» (traducción de Sígueme).
«La eficiencia es buena servidora y mala dueña.»
Esa frase describe una costumbre de la industria. La carrera por llegar primero con la versión más capaz y más rentable avanza más rápido que la revisión de sus fallas. Según Plugged In, cuando la novedad manda, los usuarios quedan expuestos y otros aprovechan las grietas.
Tu tarea, tus fotos y una decisión que no tomas tú
A ti estos modelos te sirven: resumen un capítulo, te ayudan con el ensayo, arreglan la foto del cumpleaños, traducen el mensaje para tu abuela. La herramienta no tiene criterio propio. Alguien decide qué va a rechazar y qué va a permitir, y esa decisión casi siempre se toma lejos de la persona que aparece en la imagen.
Aquí hay algo de fondo. La Escritura dice que el ser humano fue creado a imagen de Dios: «Y creó Dios al hombre a su imagen, a imagen de Dios lo creó; varón y hembra los creó» (Génesis 1:27, RVR1960). Una persona no es material para generar. Cuando una aplicación produce el cuerpo de alguien sin su permiso, lo que se rompe es la dignidad de una persona que lleva la imagen de su Creador, no una simple regla de la plataforma.
Por eso me preocupa menos el titular y más la costumbre. Si te acostumbras a pedirle a la máquina lo que no te atreverías a pedirle a una persona, el primer filtro que se afloja es el tuyo. «Sobre toda cosa guardada, guarda tu corazón; porque de él mana la vida» (Proverbios 4:23, RVR1960).
Un ajuste concreto antes de seguir
Plugged In recomendó a las familias revisar qué le piden a la IA y qué contenido producen, y considerar versiones anteriores, que frenan mejor este tipo de imágenes aunque parezcan menos brillantes.
Puedes hacer lo mismo esta semana. Elige la versión con filtros más estrictos cuando la uses con hermanos menores o primos, y no subas fotos de personas reales —amigas, compañeros, esa persona que te gusta— a ningún generador. Si una herramienta devuelve una imagen explícita con la cara de alguien que conoces, eso daña a una persona concreta: repórtalo y cuéntaselo a alguien de confianza.
La eficiencia es buena servidora y mala dueña. La pregunta de fondo sigue siendo quién fija los límites de estas herramientas y a qué costo. ¿Qué límite pondrías tú primero: el de la empresa, el de tu casa o el tuyo?
