¿Sueñan los algoritmos con ovejas éticas? Desafíos actuales en el diseño de la inteligencia artificial

Las tareas repetitivas y complejas, como operar en los mercados de valores o el filtrado manual de miles de solicitudes para un puesto de trabajo, se han automatizado, y la toma de decisiones humanas se ha visto significativamente potenciada. Por ejemplo, ahora los algoritmos pueden ayudar a los médicos a diagnosticar enfermedades con mayor precisión o asistirlos en procedimientos quirúrgicos complejos. Entre los logros notables de la inteligencia artificial (IA) cabe destacar el algoritmo AlphaGo, que venció al campeón humano, Lee Sedol, en el histórico juego de Go, uno de los juegos más difíciles de abordar a través de la “fuerza bruta”. La fuerza bruta es la estrategia que las máquinas han utilizado para vencer a los campeones humanos en otros juegos, como el ajedrez, y se refiere a calcular todos los movimientos posibles, seleccionando los más exitosos. AlphaGo aprendió, jugando contra sí mismo miles de veces, y se convirtió en el mejor jugador de Go del mundo.

Sin duda alguna, el potencial de la IA es tremendo y aún queda mucho por aprovechar. Pero, además de estos logros increíbles, existen numerosas consideraciones éticas que deben discutirse para que el mundo empresarial y la sociedad en general estén preparados para lo que está por venir.

Últimamente, ha habido algunos ejemplos en los que la IA “se ha situado en la zona gris de la ética y podría, potencialmente, estar promoviendo la desigualdad”, cosa que ha provocado un vivo debate sobre este tema y acerca de las restricciones éticas que los humanos deberían imponer para conservar el control sobre esta rapidísima revolución de la IA. Estos ejemplos abarcan desde la selección de personal y el establecimiento de límites en las tarjetas de crédito hasta la personalización de las campañas políticas y la circulación de los coches autónomos.

 

Selección de personal En 2018 aparecieron noticias sobre una herramienta de selección de candidatos por inteligencia artificial desarrollada por Amazon que tuvo que ser “suspendida” porque resultó estar sesgada contra las mujeres1. Según estas informaciones, Amazon había desarrollado una herramienta de selección automatizada que filtraba los CV en base a las pautas de las solicitudes de candidatos contratados en el pasado, identificadas en u...