¿Alguna vez te has sentido un poco estúpido tratando de decidir qué serie ver en Netflix? Si eres como yo, posiblemente te has pasado más tiempo perfilando y filtrando opciones que disfrutando del contenido. Y es que, si hay algo que hemos aprendido en la era digital es que las decisiones no son solamente el resultado de nuestro pensamiento racional, sino que también son influenciadas por algoritmos que operan tras bambalinas. Al igual que un pavo real bebé que se esfuerza por ser visto, los algoritmos se ocultan en nuestra vida cotidiana, dirigiendo y moldeando nuestras elecciones. Pero, ¿quién está al volante de estos complejos sistemas? ¿Y cómo están afectando nuestras vidas en formas que ni siquiera imaginamos? En este artículo, exploraremos el concepto de algoritmo paternalista y cómo está cambiando la forma en que tomamos decisiones.

¿Qué es un algoritmo paternalista?

En su libro «El Algoritmo Paternalista», Ujué Agudo y Karlos G. Liberal abordan la cuestión de cómo los algoritmos influyen en nuestras decisiones de manera más profunda de lo que imaginamos. Según Liberal, un algoritmo es un «sistema ordenado de entrada y salida». Pero, cuando comienza a influir en nuestras decisiones, ya no es simplemente una herramienta, sino que se convierte en un paternalista digital. En esencia, asume que sabe lo que es mejor para nosotros, ya sea al recomendarnos una película o al decidir si somos aptos para un préstamo.

Y aquí es donde el paternalismo libertario entra en juego. Este concepto, popularizado por Richard Thaler y Cass Sunstein, sostiene que es legítimo influir en el comportamiento de las personas para ayudarles a tomar mejores decisiones, siempre que se les permita rechazar esa influencia. ¡Como un empujón amable hacia el camino correcto! No obstante, esto plantea una serie de preguntas incómodas.

El dilema de la libertad: ¿somos realmente libres para decidir?

¿Te has dado cuenta de que cada vez que te propones elegir entre opciones en Netflix o Tinder, tus posibilidades están limitadas? Si eliges entre las recomendaciones del algoritmo, en realidad no estás experimentando la libertad total. Solo estás navegando por un menú restringido. Tal vez creas que estás tomando una decisión libre, pero en realidad está condicionada por un sistema que elige las opciones más atractivas para ti según tus patrones de conducta previos.

Esto me recuerda a un episodio de mi vida. Una vez decidí que iba a cambiar mi rutina de ejercicio y comencé a usar una app que me sugería rutinas. Al principio, me sentí estupendo porque tenía todo “bajo control”, pero enseguida me di cuenta de que todas las sugerencias de la app eran las mismas: las que más se ajustaban a las tendencias del momento. ¿Hmm? Aquí está la clave, y la ironía. Estoy “decidiendo” entre opciones que, al fin y al cabo, han sido elegidas por un algoritmo. ¡Qué irónico!

La waltz entre la libertad y el control

Como Agudo señala, este efecto puede compararse a un truco de magia. Sabes que el mago te está engañando, pero aún así sientes que estás eligiendo. ¿Cómo puede ser esto? Un aspecto crucial es que los algoritmos a menudo ofrecen una proyección de objetividad. La gente suele confiar más en las máquinas que en las personas, incluso cuando los sesgos inherentes a estos sistemas son evidentes.

Sin embargo, la idea de «libertad» se complica. Nos sentimos felices de tener opciones, pero, ¿qué sucede cuando esas opciones son resultantes de un diseño algorítmico? Es una pregunta que nos lleva a explorar la construcción de decisiones por parte de la tecnología moderna.

Algoritmos en acción: casos del mundo real

Estos algoritmos no solo se limitan a recomendarnos películas o parejas potenciales; sus repercusiones son mucho más profundas. Según los autores, muchos algoritmos ya están influenciando decisiones sociales cruciales. Un ejemplo que mencionan es el bono social de electricidad en España, donde un algoritmo determina quién tiene derecho a recibir asistencia. Civio, una organización defensora de la transparencia, ha solicitado abrir el código del algoritmo debido a preocupaciones sobre su imparcialidad.

Y no solo eso. Riscanvi y VioGén son otros dos ejemplos de algoritmos que predicen la reincidencia de los delincuentes y el riesgo de que una mujer sufra violencia de género, respectivamente. Y aquí está la bomba: ¿Cómo es posible que decisiones tan importantes se dejen en manos de una línea de código? Cada vez que revelamos un nuevo algoritmo en temas sociales, parece que el impacto se siente más en poblaciones vulnerables, lo que lleva a la reflexión sobre quiénes son los “conejillos de indias” en esta era algorítmica.

¿Deshumanización en la toma de decisiones?

Lo que me inquieta es cómo muchas de estas decisiones automatizadas afectan a personas en situaciones extremadamente vulnerables. Es muy fácil ignorar el problema si no es algo que nos impacte directamente. Pero un sesgo algorítmico puede arruinar vidas, ya sea determinando si alguien recibe protección policial o si un prisionero obtiene una segunda oportunidad.

A menudo parece que los algoritmos, en su funcionamiento, nos ofrecen la ilusión de libertad. Y mientras más confiamos en ellos, más se asienta el argumento de que las máquinas son más eficientes y más justas que los humanos. ¿Realmente queremos que un algoritmo decida quién merece apoyo y quién no? Esta es una pregunta que debemos hacer, aunque a menudo es más fácil mirar hacia otro lado.

La batalla por la transparencia

La transparencia y la explicabilidad son temas recurrentes en las discusiones sobre ética en tecnología. Pero ¿son realmente alcanzables? En el contexto de algoritmos complejos, como aquellos basados en redes neuronales, incluso los propios diseñadores a menudo se ven incapaces de explicar cómo llegan a tomar decisiones. ¿Qué pasa si esas decisiones afectan a aquellos que ya están en una situación desventajosa?

Liberales y Agudo enfatizan la necesidad de abrir un debate más profundo dentro de la sociedad. La discusión no debe limitarse a si los algoritmos son buenos o malos, sino qué tecnología queremos que moldee nuestras vidas. Esto no es solo un problema tecnológico; es un dilema social que merece nuestra atención y acción.

La respuesta está en nuestras manos

Aquí hay algo sobre lo que todos podemos reflexionar: estamos en un momento crucial. Aún podemos levantar la mano y decir “¡esperen un momento!” antes de que se automatice aún más la toma de decisiones. Por ahora, tenemos la opción de pensar en la posibilidad de un enfoque más colaborativo. ¿Quizás una forma más ética de tomar decisiones sería hacerlo en conjunto? En lugar de quedarnos atrapados en nuestras propias burbujas de información, podríamos abrir el diálogo sobre cómo estos sistemas afectan a todos.

La construcción de un futuro basado en algoritmos no debería significar un renunciamiento a nuestra humanidad. Podríamos tratar de transformar la pregunta de “¿qué hago yo?” a “¿qué hacemos nosotros?”. Al final, la tecnología no es intrínsecamente mala o buena, sino cómo decidimos utilizarla la que marca la diferencia.

Conclusión: un llamado a la conciencia

Al cerrar este abrigo de complejidades sobre los algoritmos, es crucial recordar que, aunque pueden ofrecer comodidades y eficiencias, también pueden cerrar el cerco sobre nuestra capacidad de decisión. La próxima vez que sientas que eliges libremente entre las opciones que te ofrecen un algoritmo, hazte una pregunta: ¿cuántas otras opciones no estás viendo?

Estos temas son especialmente relevantes en la era actual, donde la tecnología se entrelaza con todos los aspectos de nuestra vida. Desde el ajuste de publicidad personalizada hasta decisiones críticas en el ámbito social, es esencial que mantengamos la conversación sobre cómo queremos que estos algoritmos influyan en nuestras vidas.

Así que, la próxima vez que te encuentres con un dilema digital, recuerda: tu elección es tuya, pero las opciones pueden no ser tan libres como parecen. ¿Estamos realmente listos para asumir el control de nuestras decisiones, incluso en un mundo dominado por algoritmos? La respuesta está en tus manos.