Soy mi algoritmo

La libertad existe solo en la tierra de los sueños.
(Friedrich Schiller)

Nada es más difícil y por tanto más querido que la capacidad de decidir.
(Napoleón Bonaparte)

El mayor enemigo de la libertad es el hedonismo.
(Ibrahim S. Lerak, Cuaderno de notas)

En la última reunión del círculo se abordó el tema de la predestinación y de la libertad por consecuente. Un tema casi eterno el de la libertad, pero que tras la conferencia del ponente se vio de otro modo. Esto fue lo que nos contó:

-- Seguir el dictado de las emociones puede que sea producto de la necesidad de sobrevivir del hombre. Ya en el cerebro límbico aparece la supervivencia como primer fin y las emociones en cierto modo nos alertan para poder seguir con vida. Lo que no es antiguo y quizá tampoco natural es creer en la libertad humana. Durante miles de años se aceptaba que era el más fuerte quien decía lo que estaba bien o mal; posteriormente fue la religión la que marcó las reglas divinas de obligado cumplimiento, tanto si eran con recomendaciones de guerra (Deuteronomio 20) como si eran de paz (Lucas 6:29).  Solo en los últimos siglos el origen de la autoridad ha pasado de las deidades celestiales a los humanos de carne y hueso y ahora pasa de las personas a la Inteligencia Artificial (IA), o algoritmos como se llama a lo que parece que es la ley que rige nuestras acciones individuales analizadas por la tecnología informática asociada a los medios de comunicación.

El análisis de los macrodatos no deja en buen lugar a la impredecibilidad que se debería derivar de una libertad de pensamiento y acción. El libre albedrío se convierte en una idea romántica, una ilusión de un tiempo en el que no sabíamos nada de nosotros mismos. La ciencia va mostrando que en realidad emociones y sentimientos han pasado a ser simples reacciones químicas usadas para sobrevivir y reproducirnos. Las emociones no se basan en la intuición, en la inspiración ni en la libertad, son solo cálculos de supervivencia. No nos damos cuenta de ello porque el cálculo es tan rápido y realizado por el subconsciente, que creemos que nace de nosotros sin estar prefijado por vivencias y experiencias anteriores. Nuestras fobias y filias parecen resultado racional del libre albedrío. Pero solo lo parecen. El miedo aparece cuando el cálculo indica probabilidad de muerte; los sentimientos de atracción sexual cuando los algoritmos bioquímicos muestran un apareamiento o una vinculación deseada; la indignación o remordimiento e incluso el perdón son mecanismos de estabilidad de grupo. Las emociones no son lo opuesto a la racionalidad: encarnan la racionalidad evolutiva.

Antes era razonable creer en el libre albedrío, porque el razonamiento se creía que estaba formado por causas internas, invisibles e impredecibles desde fuera. Sin embargo, la información derivada del uso de los algoritmos informáticos que cruzan los datos de nuestros hábitos, acciones y opiniones públicas (en redes sociales o intervenciones en cualquier medio público o informático) sustituyen mejor a las emociones dando una mayor exactitud y precisión en lo que nos conviene. Donde mejor se ve es en medicina. Son las máquinas las que dictaminan nuestro estado, nuestra evolución y el tratamiento a seguir. No es ciencia ficción avanzada pensar en un chequeo diario en casa y un cambio automático en la alimentación o en la rutina semanal para mejorar nuestro estado.

Pero justo por esto es probable que estemos enfermos siempre, porque siempre hay algo que puede mejorar en algún lugar del cuerpo. Antes si no notábamos dolor o no padecíamos una discapacidad visible nos considerábamos sanos. En breve, los sensores biométricos (subcutáneos o no), con algoritmos de macrodatos podrán diagnosticar y tratar enfermedades mucho antes de que generen dolor o produzcan discapacidad. Como resultado, siempre estaremos en un pre-tratamiento de alguna enfermedad y siguiendo una recomendación algorítmica. Si nos negamos, quizá nuestro seguro sanitario quede invalidado, o nuestro jefe nos despida: ¿por qué habrían de pagar ellos el precio de nuestra testarudez?

Lo que ya ocurre en medicina sucede cada vez más en más ámbitos. Los factores clave son el sensor biométrico que convierte procesos biológicos en información electrónica que los ordenadores almacenan y analizan, y la información que generamos al usar un ordenador. Pensemos en los relojes modernos que miden incluso el ritmo cardíaco, que requieren una aplicación que almacena los datos en la red. La información está disponible voluntariamente e invita a que alguien la recopile y la use.

Con suficientes datos y capacidad de análisis, el procesamiento de datos puede acceder a todos nuestros deseos, decisiones, opiniones y extraer conclusiones y obligaciones. Estos algoritmos saben con exactitud quiénes somos. La mayoría de la gente no nos conocemos muy bien a nosotros mismos, pero los ordenadores pueden anticipar lo que nos interesa y corregir nuestros errores. No hace mucho escribí un correo electrónico en el que mencionaba un archivo adjunto. Al enviarlo no me olvidé de incluir el archivo porque Windows me abrió una ventana en la que me decía que no había adjuntado el archivo que mencionaba en el texto y me preguntaba si era queriendo o era un error. Sin respuesta no se podía enviar el correo.

Mientras navegamos por la web o leemos noticias o miramos las novedades en una red social los algoritmos lo supervisan y analizan; las cookies le dirán a la empresa anunciante que si quiere vendernos algún producto, será mejor que en los anuncios utilice al chico descamisado o a una chica sin blusa o a un elefante rosa en función de quien vea el anuncio, aunque sea de pasada. Ya hoy nos cuestionamos si esto no se debe hacer abiertamente y nos interesa compartir la información a fin de obtener productos y recomendaciones adaptados a nuestras necesidades y gustos personales y, al final, para hacer que el algoritmo decida por nosotros. Es más cómodo, estamos en la cultura de la facilidad, del no esfuerzo, en la sociedad gaseosa, un paso más allá de la liquida. Un grupo de amigos que chatea a menudo y se intercambia información sea desde el móvil o desde el ordenador recibe sugerencias que se acomodan a todos. Una especie de mínimo común múltiplo para el grupo. Cuando se propone una actividad alguien sugiere lo que ha visto anunciado y casi todos están de acuerdo pues les suena. Es una manipulación, sí, pero hasta cierto punto deseada ya que no es necesario pensar ni decidir ni discutir. Llega a ser tan inconsciente que parece que la decisión la haya hecho el grupo.

Pero el algoritmo va incluso mucho más allá. Ya hay programas capaces de detectar las emociones en base al movimiento de nuestros ojos y músculos faciales. Nuestra imagen no solo sirve de contraseña, da más información. Analizando los momentos de alegría y lo que la rodea el programa aprende lo que nos hace reír, lo que nos entristece y lo que nos aburre. Lo sabe todo… y lo predice todo. Sin que lo sepamos nos encamina a decidir lo que queremos cuando en realidad no decidimos, sino que optamos por lo fácil que nos da una satisfacción inmediata. Y lo peor es que no se equivoca o no se equivoca tanto como haríamos nosotros si actuáramos libres de influencias.

Nuestros sensores biométricos dan información de nuestro ritmo cardíaco, nuestra tensión sanguínea y nuestra actividad cerebral. Mientras vemos una película, por ejemplo, el algoritmo puede advertir qué escena nos causa una determinada emoción por mínima que sea su demostración. Incluso si la risa es falsa, pues cuando uno se obliga a reír emplea circuitos cerebrales y músculos distintos que cuando nos reímos porque algo nos parece realmente divertido. Las personas no suelen detectar la diferencia. Pero un sensor biométrico o una cámara sí. Recordemos que los micrófonos y las cámaras de los ordenadores tienen nuestro permiso para despertarse cuando quieran y usar nuestros datos.

Todo lo que hacemos deja rastro y quienquiera que posea la información adecuada conoce nuestro tipo de personalidad y cómo pulsar nuestros botones emocionales. Tampoco es ciencia ficción lejana imaginar la escena de alguien que consulta a Google las decisiones importantes que debe tomar como qué estudiar, dónde trabajar y con quién casarse. El algoritmo no tiene que ser perfecto. Solo necesita ser, mejor que nosotros. Y eso no es muy difícil, porque la mayoría de las personas cometemos terribles equivocaciones en las decisiones más importantes de nuestra vida. La memoria es siempre infiel pero el programa recuerda todo. Para vivir más fácilmente y sin esfuerzo fiarse del algoritmo es la mejor alternativa.

En las últimas décadas, millones de personas hemos confiado al algoritmo de Google la búsqueda de información relevante y fidedigna. Hoy en día, la «verdad» viene definida por los primeros resultados de la búsqueda de Google. Esto ha ido ocurriendo también con las capacidades físicas, como el espacio para orientarse y navegar. La gente pide a Google que la guíe y si el teléfono inteligente falla, se encuentra completamente perdida.

Cuando queramos saber que carrera estudiar se lo preguntaremos a Google y Google podrá decirnos que perderemos el tiempo en la Facultad de Física o en la academia de ballet, que lo nuestro es la psicología o la ebanistería. Si la IA decide mejor que nosotros las carreras e incluso las relaciones, nuestro concepto de la humanidad y de la vida tendrá que cambiar. Estamos acostumbrados a pensar en la existencia como una sucesión de toma de decisiones. En ello radica la grandeza del hombre. Vemos al individuo como un agente autónomo que no para de tomar decisiones sobre el mundo. Las obras de arte (ya sean las obras de teatro de Shakespeare, las novelas de Jane Austen o las comedias de Hollywood) suelen centrarse en que el o la protagonista ha de tomar alguna decisión particularmente crucial. ¿Ser o no ser? ¿Hacer caso a mi mujer y matar al rey Duncan, o hacer caso a mi conciencia y perdonarlo? ¿Casarme con el señor Collins o con el señor Darcy? Las teologías cristiana y musulmana se centran de manera parecida en el drama de la toma de decisiones y aducen que la salvación o la condena eterna depende de haber sabido tomar la decisión correcta.

¿Qué pasa con esta forma de entender la vida si cada vez confiamos más en la IA para que tome las decisiones por nosotros?  Una vez que empecemos a contar con la IA para decidir qué estudiar, dónde trabajar y con quién casarnos, la vida dejará de ser una sucesión de toma de decisiones. Imaginemos a Anna Karenina sacando su teléfono inteligente y preguntándole al algoritmo de Facebook si debe seguir casada con Karenin o fugarse con el conde Vronsky. O imaginemos a Hamlet o Macbeth con todas las decisiones cruciales tomadas por el algoritmo de Google.  Llevarían una vida mucho más confortable, pero ¿qué tipo de vida sería exactamente? ¿Tenemos modelos para dar sentido a una existencia de este tipo? ¿Es la que realmente queremos?

Cuando la autoridad se transfiera totalmente a los algoritmos, quizá ya no veamos el mundo como individuos autónomos que se esfuerzan para tomar las decisiones correctas. Seremos (ya lo somos) minúsculos chips dentro de un gigantesco sistema de procesamiento de datos que nadie entiende en realidad. A medida que gobiernos y empresas puedan acceder a nuestro sistema operativo y descifrarnos, en algunos países y en determinadas situaciones, quizá a la gente no se le dé ninguna opción y se vea obligada a obedecer las decisiones de los algoritmos de macrodatos.

¿Ciencia ficción? Ya sufrimos el bombardeo de publicidad y propaganda dirigidos con mucha precisión que nos lleva a gastar y actuar de un modo teledirigido (influencia en varios productos, pero también en elecciones como se ha visto en los EE.UU.) Nuestras opiniones y emociones resultan tan fáciles de identificar y manipular que ya nos fiamos de los algoritmos y pedimos directamente que elijan por nosotros la ruta a seguir en nuestra vida. La libertad, el libre albedrío, no es más que una entelequia.


Se alargó la tertulia tras escuchar que la libertad si alguna vez existió iba a ser cada vez más menguante. Separar religión y cultura heredada de la idea abstracta no es fácil, pero eso sí, todos pudimos opinar libremente... o al menos eso creímos con permiso del algoritmo.