Tras un algoritmo hay una ideología (y una economía)

En la transición del negocio a lo digital el algoritmo se ha erguido como base del negocio. Un producto inteligente al que le acompaña un seguido de servicios que involucran la explotación de esa inteligencia, el cual necesita de una contínua revisión para mejorar y amortizar  la interpretación del comportamiento de las personas.

De lo terrenal a la sacralización: Adorando algoritmos

Una de las constantes en nuestra cultura es el pánico moral que representa la tecnología, dice Genevieve Bell. No es una cosa nueva. (1). Teléfonos, relojes y televisores también venían a interrumpir la vida de las personas y presionarlos para que seamos más productivos. De alguna manera lo hicieron, pero los beneficios compensan los factores de estrés.

En esta posición se encuentran los algoritmos en la actualidad, con la consecuente visión distópica (La metáfora de la automatización ha cambiado: Ya no funcionamos “como un reloj”, ahora somos “como ordenadores”).

Siguiendo esta línea, el término algoritmo también se desdibuja y se hace más terrenal en su trato diario, ahí estamos los que no dominamos el terreno confiriéndole propiedades mágicas cuando nos recomienda información, productos o servicios.

Esta cesión de nuestras comunicaciones, consumo de información y planes sociales a estas fórmulas matemáticas, Ian Bogost considera una especie de fe en los ordenadores. (2)

Les conferimos una visión “correcta” de nuestro alrededor, cuando son abstracciones, una perspectiva. Una suerte de elementos que avanza de forma inevitable, el cual no tenemos factor de decisión (en cierto modo), olvidando que este se mantiene de forma humana, a los que si podemos influir.

La accesibilidad de la tecnología de tan alta calidad ha propiciado que la razón y la ciencia (lo opuesto a la superstición y la religión) ya no sean sus principales valedores a la hora de explicar su funcionamiento. Esta adquiere narrativas tintes pertenecientes a las creencias sin base científica, pues nos hemos de explicar su funcionamiento de todas las formas posibles aún no comprendiéndolo del todo.

screen_shot_2013-08-26_at_5.03.00_pm_department_landscape

Cuando falla el algoritmo: Humanos, demasiado poco humanos

Que los algoritmos comportan unas consecuencias lo tenemos claro. Ahí está el ejemplo de Eric y su “Year’s Review” de FB como emblema. Estamos en un momento en que los algoritmos son más una especie de fuerza bruta que aporta información antes que una herramienta que entienda la ambigüedad del razonamiento humano, decía Mariano Amartino. (3)

Los algoritmos, en palabras de Eric Meyer, son esencialmente irreflexivos. Tienen que desarrollar correlaciones entre datos mucho como el cerebro humano encuentra contexto de forma más “elegante” y no tan basta.

La empatía, esa particularidad que algunos humanos tienen, no acaba de perfilarse por ahora en los algoritmos. No leen la información en forma de oraciones o como una historia, exponía Mariano AmartinoEllos sólo «quieren» datos la información procesable que esas palabras representan. Pero de ello no tienen la culpa ellos, sino los que crean esos artilugios.

El caso de Eric Meyer nos muestra de forma clara que, por así decirlo, la empatía no es el negocio a seguir. La intención de las empresas es conseguir unos objetivos acordes a su modelo de negocio. Estos, eso si, seguirán las pautas en las que las personas se sientan más a gusto en su burbuja y les pueda reportar un beneficio. (4)

Si el “Year’s Review” hubiera estado más perfilado, es casi claro que hubiera obviado el drama que ha vivido Eric Meyer, dado que entiendo que a FB más que la realidad le interesa adaptarse a los intereses más relevantes y beneficiosos para la persona, no buscan una reflexión global del año.

Evan Selinger, profesor en el Rochester Institute of Technology, exponía una visión dura pero interesante: “culpaba” no al algoritmo sino a la externalización de situaciones íntimas, atando nuestra narrativa personal a situaciones incómodas, puesto que la IA no ha llegado a puntos en los que pueda solucionar estos eventos.

Las tecnologías son a la vez familiar y extraño. Cuando nuestros datos no concuerda con nuestra comprensión de nosotros mismos, surge esa sensación de que nos manipulan emocionalmente, que no dejamos a la suerte de unos algoritmos, explica Om Malik (5)

Un miedo futuro en que no tomemos nosotros, de forma totalmente consciente, las decisiones de nuestra vida.

Dudas para el futuro de los algoritmos: Más allá del beneficio económico

Nos puede llegar a doler ese método de clasificación que utilizan las máquinas, reduciéndonos a objetos que puedan ser recomendadas, a través de los datos, como un registro contable. Es evidente que somos más que nuestros avatares, capaces de estar y crear escenarios más difíciles de controlar dada nuestras formas de vida. (6)

La búsqueda de soluciones se complica cuando la duda esta en el métodos y modelos en los que se basarán esos algoritmos, y si estos serán capaces de ser sutiles y capaces de amplificar las voces marginadas, si mirarán más allá de la desigualdad estructural correspondientes a cada sociedad o, por que las estadísticas mandan, habrá entornos a los que no favorecer puesto que no resultará “económico”.

Correlación no implica causalidad. Entiendo que a los creadores no les interesaría recrearse en patrones ya existentes, sin encontrar cisnes negros. Pues no desarrollar modelos nuevos podría darnos una falsa sensación de control.

Si también será posible que, de alguna forma, por no provocar o enfatizar conductas que pueden ser erráticas por un interés económico (siendo erráticas, por ejemplo, enfermedades mentales. No hablo de un sesgo ideológico). Como les puede interesar a estas empresas darles un refuerzo positivo a las personas que evidencien comportamientos problemáticos si hay más beneficio económico reforzando el problema.

En el ámbito de la negociación con terceros miremos las tácticas usadas por Amazon para negociar con Hachette, que supuestamente dificultó la aparición y recibimiento de sus libros mientras se negociaban contratos. Ahí algunos podrían considerar que Amazon no está haciendo nada diferente de lo que muchos minoristas, hacen cuando están tratando de presionar a sus proveedores para que puedan obtener mejores condiciones.

Bajo los algoritmos se cuece un interés empresarial, pero hasta donde le debemos exigir a este tipo de servicios masivos un paso más en cuanto al respeto por el usuario, ya que se meten en el ámbito (muy) personal del usuario.

Desiderata final:

El software se ha convertido en una especie de lenguaje universal, siendo el vehículo por el cual nos información y adquirimos conocimientos. Si queremos entender las técnicas actuales de comunicación, análisis, toma de decisiones, etc debemos comprender la importancia del software.

A medida que más y más de nuestras experiencias culturales e interacciones sociales se modulan vía software, nuestra formación y comprensión sobre el potencial del software se hace más necesaria, pues deberíamos poder discutir desde diferentes perspectivas y formación, decía Lev Manovich. (7)

¿Cómo podemos sugerir a estas empresas que se regulen a si mismas? Y sin querer ser extremista, hasta cuando la presión de los accionistas no influirá en éstas, saltando márgenes respetuosos. ¿Cómo cuidan la integridad de los consumidores las instituciones públicas?

Mientras nos dirigimos hacia adelante, estas necesarias preguntas se retrasan pero la innovación tecnológica no parece esperar.

 

Enlaces utilizados:

Ilustración principal: Oliver Munday

Ilustración secundaria: Desconocido

(1) Women And Children First: Technology And Moral Panic | Ben Rooney

(2)  The Cathedral of Computation | Ian Bogost

(3) Algoritmos sin empatía | Mariano Amartino

(4) Empathy isn’t a corporate slogan | Om Malik

(5) With Big Data Comes Big Responsibility | Om Malik

(6) Harassed by Algorithms | The Massage

(7) The Algorithms of Our Lives | Lev Manovich