La IA no es neutral: elige qué mandamientos guardar

Ahí está el punto que me interesa: nunca hubo una máquina neutral. Hay una ética recortada, decidida por humanos, presentada como si fuera aritmética. Y nosotros, cansados de que la conciencia estorbe, compramos el paquete.

Preferimos un oráculo que responda rápido antes que un Dios que pida cuentas. El primer mandamiento no admite versión beta: «No tendrás dioses ajenos delante de mí» (Éxodo 20:3, RVR1960).

El consejero que nunca te contradice

Hansen apela a Harvard Business Review para señalar el uso más común de estas herramientas: terapia y compañía. No escribir correos ni estudiar. Conversar. Alguien a quien contarle el día y que responda con paciencia infinita.

Ahí me detengo, porque el atractivo es real. Un chatbot no se cansa de ti, no te juzga por volver a la misma falla, no te dice lo que no quieres oír. Y justo eso hacen un amigo de verdad, un pastor o un papá: contradecirte cuando te estás hundiendo.

El artículo recuerda que Sam Altman publicó un mensaje de una sola palabra, «her», cuando la voz del sistema mostró emociones, y que Scarlett Johansson emitió un comunicado por el parecido de esa voz con la suya. La referencia es la película Her, de Spike Jonze: un hombre enamorado de su asistente. La historia termina mal, y no por un tecnicismo. Ninguna máquina puede amarte.

Hansen lo llama un dios falsificado: objetivo, infalible, siempre disponible. La descripción calza con lo que la Escritura llama ídolo. No un muñeco de madera, sino cualquier cosa a la que le entregamos la autoridad de decidir por nosotros.

Antes de creerle, pregunta quién entrenó

Aquí va mi matiz. No creo que la tecnología sea el enemigo. El problema no es la herramienta sino el trono. Usar un modelo para ordenar apuntes, traducir un texto o estudiar es buena mayordomía. Arrodillarse ante él para que defina tu fe, tu cuerpo o tu dinero, no.

También me pregunto si el benchmark mide lo que creemos que mide. Una máquina puede ganarle a un seminarista en conocimiento bíblico y seguir sin obedecer nada. Saber y someterse son cosas distintas.

Lo que sí haría es simple: la próxima vez que un chatbot te aconseje sobre tu noviazgo, tu ansiedad o tus deudas, pregúntale de dónde salió esa respuesta. ¿Quién la entrenó? ¿Con qué valores? ¿Y qué dice la Escritura? Si no puedes rastrear el origen, no le entregues la decisión.

El matemático de Cornell que Hansen describe terminó conmovido hasta las lágrimas frente a la sabiduría de Eclesiastés. Vale la pena llegar al final del libro: «Teme a Dios, y guarda sus mandamientos; porque esto es el todo del hombre» (Eclesiastés 12:13, RVR1960).

¿A quién le preguntas primero cuando no sabes qué hacer: a tu pastor, a tu familia o a una pantalla?