Avanzamos sin darnos cuenta hacia una sociedad en la que las máquinas tomarán decisiones cada vez más complicadas. De su presencia en tareas altamente automatizables hasta su introducción en las llamadas compañías data driven —gobernadas por datos informatizados—, el potencial de los algoritmos para sustituir el control humano es tan enorme que asusta.

 

 

Al margen de los miedos que despierta la posibilidad de que sistemas de inteligencia artificial nos quiten el trabajo —y si permitimos sus virtudes en la medida en que nos simplifiquen la vida—, es vital que, al menos, respondan correctamente y de forma eficiente si les vamos a dejar tomar cierto tipo de decisiones. Porque las máquinas también son susceptibles de equivocarse.

Quienes diseñan sus algoritmos parten de suposiciones basadas en sus propios datos sobre cómo deberían hacerlos funcionar, y estas suposiciones no son siempre acertadas. “Como hemos aprendido de los grandes bancos durante el colapso financiero, los modelos matemáticos basados en suposiciones equivocadas  pueden ser peligrosos cuando depositamos demasiada confianza en sus predicciones sin considerar lo que podría ir mal”, afirma Jennifer Wortman, investigadora senior en Microsoft especializada en aprendizaje automático y economía algorítmica.

 

• Afrontando el problema