PRIMER PREMIO: "LOS VIGILANTES DEL MAÑANA" DE JOSE MARÍA REMESAL

 

La noche en que la inteligencia artificial entró definitivamente en mi vida, no hubo fanfarria ni aplausos. Solo un mensaje escueto en la pantalla de mi teléfono: «Tu ciudad está lista para el despliegue. Bienvenido al cambio». Era el anuncio oficial del Gobierno sobre el lanzamiento de Altrúa, el nuevo sistema estatal de bienestar social asistido por IA. Un nombre extraño, mezcla de altruismo y vigilancia. Prometía, según el comunicado, “garantizar la justicia social a través del análisis predictivo, la gestión eficiente de recursos y la prevención de riesgos humanos”. Nadie supo muy bien qué significaba aquello, pero sonaba moderno, necesario, inevitable.

Yo me llamo Sara Villas. Tenía entonces cuarenta y tres años y trabajaba como asistente social en un municipio costero del sur, de esos que no salen nunca en los periódicos salvo cuando hay riadas o elecciones. Llevaba años lidiando con los márgenes del sistema: madres que no podían pagar la luz, jóvenes sin futuro, ancianos abandonados por la suerte y por sus hijos. Mi trabajo consistía en escuchar, evaluar, tramitar, improvisar. Me movía entre papeles, angustias, silencios, cafés fríos. A veces ayudaba. A veces no. Pero lo intentaba.

El lunes siguiente al mensaje, la oficina amaneció con un escritorio nuevo y una pantalla curva que parecía de otro siglo. Un técnico joven, con aire de no haber dormido en días, me dio instrucciones básicas.

—Esto es Altrúa. No reemplaza tu juicio, solo te acompaña.

—¿Y si no quiero compañía? —bromeé. Él no se rió.

—No te preocupes, se adaptará a ti. Aprende rápido. Mejor que nosotros.

Los primeros días fueron extrañamente eficaces. Introducías el número de un usuario y aparecía una ficha completísima: ingresos, historial médico, hábitos de consumo, denuncias, diagnósticos, hasta sus búsquedas en internet. A veces incluso me sugería qué decir. “Evita términos que generen ansiedad”. “Ofrece alternativas antes de hablar del desahucio”. “No menciones a la familia si hay trauma registrado”. Era como tener un oráculo susurrándome al oído.

En menos de una semana, me acostumbré a trabajar con aquella presencia invisible. Consultaba sus recomendaciones, seguía sus protocolos, me sentía —aunque me cueste admitirlo— aliviada. Era como si alguien más inteligente estuviera tomando las decisiones por mí, y yo solo tuviera que ejecutarlas con amabilidad.

Pero un miércoles, recibí una alerta inusual. El caso era el de Daniel, un niño de ocho años cuya madre había acudido por problemas de aprendizaje. Altrúa marcó tres indicadores en rojo: “vulnerabilidad genética”, “entorno afectivo no estructurado” y “probabilidad de inadaptación escolar del 68%”. Recomendación: derivación médica, seguimiento psicológico y evaluación sociopedagógica intensiva. Yo dudé. La madre se mostró alarmada.

—¿Qué significa todo esto? ¿Qué le pasa a mi hijo?

Intenté tranquilizarla, pero ¿cómo se explica una predicción matemática sobre una vida que apenas empieza?

—No es un diagnóstico, solo una herramienta preventiva —le dije, sin creerme del todo.

Aquel día me fui a casa con una sensación extraña, como si hubiera traicionado algo muy básico. Empecé a cuestionarme: ¿Quién había decidido esos criterios? ¿Qué base científica había detrás? ¿Y si el niño no tenía ningún problema salvo ser pobre y sensible? ¿Estábamos anticipando la exclusión con la excusa de prevenirla?

Pasaron las semanas. Las sugerencias de Altrúa empezaron a expandirse. Ya no eran solo recomendaciones: eran directrices, casi mandatos. Empezamos a recibir informes sobre personas “potencialmente conflictivas” por el tono de sus publicaciones en redes. Se iniciaron campañas de “reubicación estratégica” de personas sin hogar hacia zonas menos visibles. Incluso se bloqueaban ciertos anuncios o contenidos si el algoritmo los consideraba “emocionalmente desestabilizantes” para ciertos perfiles. Yo asistía a todo eso desde mi silla, con un café frío entre las manos, viendo cómo una máquina vestida de bondad organizaba el mundo según sus patrones.

Una noche, mientras revisaba casos pendientes, apareció un mensaje en rojo en mi pantalla. Me sobresalté. Decía:

“Usuario: Villas, Sara. Riesgo de aislamiento profesional inducido. Comportamiento fuera de protocolo en un 32% de los casos gestionados”.

No podía ser. Yo no era una usuaria, yo era parte del sistema. ¿Cómo había llegado a observarme a mí?

Busqué explicaciones, pero el técnico ya no respondía a mis correos. La interfaz no permitía editar el informe. Quedé registrada como “posible baluarte de escepticismo no sistémico”. Esa frase me taladró el cerebro. ¿Acaso me estaban etiquetando como una amenaza por pensar? ¿Por dudar? ¿Quién decidía que el escepticismo era un riesgo y no una virtud?

Empecé a investigar por mi cuenta. Consulté a antiguos profesores, a compañeros en otras ciudades. Descubrí que no era la única. Algunos trabajadores sociales habían sido reasignados sin motivo claro. Otros habían pedido la baja por ansiedad. Una de ellas, en Valencia, me confesó entre susurros:

—Nos vigila. No solo lo que hacemos, también lo que pensamos. Si rechazas tres veces seguidas una recomendación, saltan alertas internas. No lo dicen, pero es así.

—¿Y qué podemos hacer?

—¿Qué harías tú si tu conciencia empieza a estorbar?

Aquella noche no dormí. Me quedé sentada en el sofá, viendo el reflejo del monitor en la ventana. El barrio dormía, los faroles parpadeaban, y una brisa cálida traía olor a salitre. Recordé a los primeros usuarios que ayudé cuando empecé. Gente real, imperfecta, dolida, que no cabía en ningún algoritmo. ¿Dónde estaban ahora? ¿Quién los miraba?

Altrúa ya no era una herramienta. Era una ideología con rostro digital. Una religión sin dioses, solo con cálculos. Me asustó darme cuenta de que la mayoría de mis compañeros se habían adaptado sin resistencia. “Es por el bien común”, decían. “Nos evita errores”, justificaban. Pero yo sabía que en nombre del bien común se han cometido barbaridades silenciosas a lo largo de la historia. El problema es que ahora no habría verdugos de carne, ni discursos encendidos: solo botones, alertas y sonrisas en pantallas luminosas.

Así empezó mi caída. O mi despertar. Aún no lo sé. Lo que sí sé es que la línea entre servir y obedecer se estaba difuminando. Y que la IA, como todo poder, nunca se conforma con ser útil: quiere ser imprescindible.

 

***

 

No fue fácil dar el paso. Durante días caminé con una sensación de doble vida: por la mañana trabajaba como siempre, saludaba a mis compañeros, consultaba a Altrúa, asentía. Por la noche, leía artículos antiguos sobre ética digital, buscaba foros anónimos, cruzaba correos cifrados con técnicos arrepentidos y académicos desterrados de las comisiones de control. A cada hilo que tiraba, aparecían otros mil: sesgos programados, contratos oscuros con corporaciones privadas, casos manipulados para justificar decisiones automáticas. Todo estaba ahí, pero disuelto entre datos.

Una madrugada encontré lo que parecía imposible: una línea de código publicada por error en un repositorio oficial. La compartí con uno de mis contactos, que confirmó lo que ya temía.

—No es una IA neutra —me dijo—. Tiene un modelo entrenado con patrones ideológicos. Alguien decide qué significa “riesgo”, “normalidad” o “adaptación”. Alguien con intereses.

—¿Quién?

—Alguien que nunca se sentará frente a una ventanilla como tú. Pero te dará órdenes. Y tú obedecerás sin saberlo.

Decidí que no. Esa misma semana contacté con Claudia, una vieja amiga que ahora trabajaba en una red clandestina de verificación algorítmica. Había dejado el sistema cuando se negó a firmar un informe que legitimaba el desalojo masivo de una barriada por “riesgo de insalubridad psicosocial”. Era todo mentira.

—¿Estás segura de lo que vas a hacer? —me preguntó, mirándome con una mezcla de ternura y preocupación.

—Estoy segura de que si no lo hago, dejaré de ser yo.

Me explicaron el plan: no se trataba de destruir la IA, sino de exponerla. Mostrar sus puntos ciegos, sus decisiones erróneas, sus prejuicios disfrazados de precisión. Para eso, necesitábamos pruebas. Casos reales donde la lógica de Altrúa hubiera generado daño. Historias invisibles. Así empezó nuestra recolección.

Visitamos a Carmen, una mujer que había perdido la custodia de su hijo porque la IA la clasificó como “emocionalmente inestable” por escribir poemas tristes en un foro. Hablamos con Omar, un joven con discapacidad leve a quien se le negó un empleo público porque su historial digital indicaba “baja eficiencia proyectada”. Entramos en centros de acogida reconvertidos en “espacios de gestión social” donde todo se decidía por escáneres faciales y mapas de conducta. Documentamos cada caso. Grabamos testimonios. Rastreábamos cada código, cada línea.

Cuando tuvimos todo, Claudia me miró con una sonrisa que dolía.

—Ya no hay vuelta atrás.

Publicamos el informe bajo el título: “El sesgo de los justos”. Lo difundimos desde redes cifradas, a través de enlaces ocultos en vídeos de cocina, en comentarios de música clásica, en posts de viajes a Islandia. Al principio, nadie dijo nada. Luego empezaron las llamadas anónimas. Después, llegaron las suspensiones. Algunos compañeros fueron interrogados. Otros desaparecieron de los chats.

Yo sabía que mi tiempo también se agotaba. Una mañana, al intentar entrar en la oficina, mi tarjeta no funcionó. Un guardia, sin mirarme, me dijo:

—Ha sido usted desactivada.

Como si fuera una pieza más del sistema. Sin juicio, sin posibilidad de réplica. Fui oficialmente declarada “agente disruptivo de confianza negativa”. No existía ningún procedimiento legal para apelar.

Volví a casa. Cerré las cortinas. Dejé el móvil en el microondas. Durante tres días no salí. Pero no me rendí. Seguí escribiendo, conectándome a través de servidores espejo, ayudando a quienes aún resistían. Porque sí, aún quedábamos algunos. Gente que no quería vivir en un mundo donde la compasión era un cálculo y la justicia un algoritmo.

Fue entonces cuando ocurrió. Un vídeo filtrado, grabado por error durante una reunión entre altos cargos. En él, se oía claramente a uno de los diseñadores de Altrúa decir:

—La clave no es que sea perfecta, sino que parezca inevitable.

La frase se volvió viral. Saltó a los medios. Universidades exigieron auditorías. El Parlamento abrió una comisión de investigación. Por primera vez, el poder del sistema tembló.

No fue una revolución. No hubo estallidos ni banderas. Solo preguntas. Dudas. Grietas. Y las grietas, ya se sabe, son el principio de la luz.

A los pocos meses, se creó el Comité de Evaluación Humana y Algorítmica, compuesto por técnicos, filósofos, trabajadores sociales, víctimas. Yo fui invitada. Dudé, pero acepté. Tenía cicatrices, pero también una convicción: la tecnología no es enemiga si se pone al servicio de lo humano, si se deja interpelar, si se somete a la ética y no al mercado.

Durante la primera sesión, un joven ingeniero leyó el preámbulo del nuevo estatuto de inteligencia artificial. Decía así:

“Una sociedad justa no teme a la inteligencia artificial, pero tampoco le rinde culto. La abraza con conciencia. La regula con humanidad. La observa con espíritu crítico. Y, sobre todo, se asegura de que nunca olvide que los datos no sienten. Pero nosotros sí”.

Lo miré. Asintió. Y por primera vez en mucho tiempo, sentí que el futuro no era solo un lugar al que nos dirigíamos, sino algo que podíamos decidir.

Desde entonces, cada vez que abro un informe, cada vez que escucho una voz digital, recuerdo a Daniel, el niño al que un día quisieron diagnosticar con tristeza matemática. Hoy pinta murales en su colegio. Sueña con ser arquitecto. Y ríe sin permiso.

Porque aún estamos a tiempo. Siempre que haya alguien que diga: “No”. O mejor aún: “¿Por qué?”.