Es bien sabido el recelo que los robots y las inteligencias artificiales despiertan entre buena parte de la población, el propio Stephen Haking lo ha verbalizado en diferentes ocasiones. Nadie puede quedarse indiferente cuando lee noticias como la de FEDOR, el robot capaz de disparar que servirá en el ejército ruso.
No hacen falta psicólogos para temer a FEDOR, pero qué pasa con las inteligencias artificiales. Seguramente serían capaces de tomar buenas decisiones que afectasen a toda la humanidad, al menos mejores que las tomadas por nuestros gobernantes en el pasado. Después de todo, son mejores que nosotros analizando pros y contras, no se fatigan y carecen de los (en ocasiones perjudiciales) sesgos cognitivos asociados a las emociones humanas. Es cuestión de tiempo que aparezcan coches que conduzcan solos, y también es una mera cuestión de tiempo que haya un accidente provocado por una inteligencia artificial y que el debate se plantee a gran escala.
Imaginaos la escena, un vehiculo autónomo conduce por una carretera cuando de pronto una piedra enorme se desprende de la ladera y va a aparar al medio de la carretera sin apenas tiempo para reaccionar. Las opciones del vehículo son dos, intentar esquivar a la piedra por su derecha, arrollando a tres excursionistas que pasean por el arcén pero salvando la vida del tripulante, o esquivar la piedra por la izquierda, lanzando al vehículo por un terraplén que matará únicamente al tripulante del vehículo. Para la inteligencia artificial la respuesta será sencilla: el bien mayor se logrará matando solo a su pasajero. Obviamente el tripulante podría tener algo que objetar.
Los robots e inteliencias artificiales toman decisiones tras realizar cálculos, analizan los resultados de múltiples opciones a toda velocidad y seleccionando la más beneficiosa. En realidad, todos deberíamos realizar elecciones de ese modo, y de hecho existe una escuela de pensamiento a la que los anglosajones llaman consecuencialismo que sostiene que una decisión es la correcta desde un punto de vista moral si y solo si implica mejores consecuencias. Desde un punto de vista filosófico la idea es magnífica, pero la mayoría de los no-filósofos encuentran poco satisfactorio esta aproximación al juicio ético.
Esta falta de gusto por el consecuencialismo ha sido demostrada en múltiples estudios psicológicos. Imaginaos que un tren sin gobierno avanza por las vías hacia un lugar en el que hay cinco personas atadas a los railes. Existe una manera de salvarles que consiste en empujar sobre las vías a una persona muy grande que observa la escena desde lo alto de un puente peatonal, ya que su cuerpo detendría el tren y por tanto salvaría las vidas de las cinco personas atadas. Cuando a los participantes en esos estudios psicológicos se les preguntaba si empujarían al gigante hacia las vías, la mayoría afirmaba que hacerlo estaría mal a pesar de las buenas consecuencias.
¿Y como vemos a los pocos que eligieron sacrificar a uno para salvar a cinco? En un paper que publicaron los tres coautores de un reciente artículo en The Guardian sobre el asunto, se muestra que, en general, tendemos a observar el consecuencialismo como un lastre en lo referente a las relaciones sociales. En otras palabras, ser consecuencialista te hace menos popular.
Podéis leer dicho trabajo, publicado el año pasado, en la revista Journal of Experimental Psychology. Básicamente los tres psicólogos llegan a la conclusión de que el origen de esta sensación de amenaza que despiertan en nosotros las personas cuyo intención en situaciones de riesgo es minimizar los daños, proviene de nuestra intuición. Es natural que no nos haga gracia la idea de contar entre nuestros amigos a personas que nos ven como simples medios en una cadena de medios y fines, y que por tanto no dudarían en empujarnos sobre las vías para salvar a otras personas.
Así mismo, esta es la razón por la que muchos humanos tienden a desconfiar de los robots y de las inteligencias artificiales. Para estas personas, dejar que las máquinas tomen decisiones que pueden significar la pérdida de vidas es una afrenta y una amenaza para la dignidad humana.
Así pues el debate está abierto y lo estará mucho más aún en el futuro. ¿Estarías preparado para un gobierno global liderado por una inteligencia artificial, capaz de salvar al planeta? Esta entidad podría tomar decisiones en lo relativo a defensa, clima, empleo, salud, etc. cuyas consecuencias simplemente fueran las mejores posibles. ¿Jubilarías a los políticos y le darías la oportunidad a esa IA? Bonita pregunta ¿verdad?
