[Capítulo] Gobierno algorítmico: sobre el neuroaprendizaje moral de las máquinas en la política y la economía

El desarrollo de la Inteligencia Artificial (IA) y su convergencia con ámbitos de aplicación como el Internet de las Cosas (IoT) y el Big Data ha permitido la introducción de modelos matemáticos en los procesos de toma de decisiones de instituciones, organizaciones y empresas en ámbitos como la política y la economía. Este desarrollo de la inteligencia artificial ha sido posible gracias al mayor conocimiento sobre la estructura y funcionamiento del cerebro humano aportado por las diferentes disciplinas neurocientíficas desde finales de la década de los 90 del siglo XX. 

La comprensión del proceso de aprendizaje humano fue imitado a través de redes neuronales artificiales (ANR), dando paso a lo que ha venido a llamarse Machine learnig o Aprendizaje automático primero y el Deep learnig o Aprendizaje profundo después. Gracias a ello, se produjo un salto cualitativo de grandes dimensiones para la IA, recuperando de este modo las desmesuradas expectativas que antaño había despertado su aplicación en campos como la economía, la política, la salud o el transporte, por citar algunos, y que fueron rápidamente olvidadas por su inviabilidad. 

Actualmente, la IA se ha convertido en el centro de atención de teóricos y profesionales de los diferentes ámbitos de actividad humana, no sólo informáticos, por su supuesta capacidad para dar respuesta a los múltiples problemas y conflictos que los acechan y que limitan su progreso. En el ámbito político y económico, su protagonismo en los procesos de toma de decisiones de los gobiernos de las instituciones, organizaciones y empresas está permitiendo la optimización de los recursos, la erradicación de la corrupción, el nepotismo y la desafección, la eliminación de sesgos, la captación de mayor talento, conocimiento y financiación, el control administrativo, entre otras cosas. De ahí el aumento de propuestas concretas de políticos virtuales para ocupar altos cargos en los gobiernos locales y nacionales y de consejeros y directivos virtuales para marcar el rumbo de la empresa u organización económica. 

Sin embargo, estos modelos no están exentos de fuertes críticas y grandes dudas tanto internas como externas. Las cada vez mayores evidencias de su falta de objetividad, su alta opacidad, su relativismo conductual, su arbitraje sesgado, etc. muestran una inmadurez tecnológica que hace necesario replantearse las expectativas de aplicación de la IA a corto y medio plazo para evitar las consecuencias negativas que está produciendo o puede llegar a producir. En este sentido, una de las cuestiones que más interés suscita es cómo las máquinas inteligentes pueden aprender a tomar decisiones moralmente válidas. El objetivo de este trabajo será profundizar en los principales aspectos que hay detrás del aprendizaje de las máquinas para reflexionar sobre la posibilidad o imposibilidad de su aprendizaje moral.