“Lo último que me preocuparía es una supuesta rebelión de las máquinas”

Novedades ciencia y sociedad
“Lo último que me preocuparía es una supuesta rebelión de las máquinas”
Entrevista a Ramón López de Mántaras, experto del CSIC en inteligencia artificial

CULTURA CIENTÍFICA. 20/12/2017

ramón lopez de mantaras

Ramón López de Mántaras dirige el Instituto de Investigación en Inteligencia Artificial del CSIC. 

¿Qué es la inteligencia? ¿Es posible construir máquinas inteligentes? Responder a estas preguntas es uno de los mayores retos de la ciencia. Pese a los importantes avances de las últimas décadas, los intentos de crear una inteligencia artificial (IA) similar a la humana se enfrentan a la dificultad de dotar a las máquinas de sentido común. Este conocimiento es fruto de nuestras vivencias y experiencias, que son resultado a su vez de una interacción constante con el entorno. Ramón López de Mántaras reflexiona sobre estas y otras cuestiones en su libro Inteligencia Artificial (CSIC-Catarata), coescrito con el investigador Pedro Meseguer. En esta entrevista, López de Mántaras,que dirige el Instituto de Investigación en Inteligencia Artificial del CSIC, cuenta dónde están los límites de la IA, cuál es el futuro de esta disciplina o qué es la creatividad computacional. Según este científico, en los próximos años veremos cómo la IA crea sistemas capaces de realizar tareas increíbles, como diagnósticos médicos con una precisión extraordinaria. Sin embargo, por muchos avances que se den, las máquinas nunca se van a rebelar contra las personas, pues “no tienen intencionalidad ni conciencia”. “Eso hay que dejarlo para la ciencia ficción”, afirma.

La inteligencia artificial (IA) es una disciplina reciente, que surge a mediados de los años 50 del siglo XX. Desde entonces hasta el momento actual, ¿cuáles han sido los hitos de la IA?

Los primeros éxitos se dan en los años 60 y 70, pero entonces la IA todavía se enfrentaba a toy problems, es decir, a problemas en los que el número de posibilidades y variables era muy limitado. En los últimos 25 años la IA se empieza a aplicar a la resolución de problemas súper complejos del mundo real. Sin embargo, se ha podido profundizar hasta ese punto a costa de sacrificar la amplitud, la generalidad. Por ejemplo, ya existe un sistema que diagnostica neumonías en población adulta. Pero no es similar a un médico generalista, sino algo muy especializado. Simplemente diagnostica un tipo de enfermedad. Desde el momento en que la IA se restringe a problemas muy concretos, surgen softwares como Deep blue, la supercomputadora que ganó a Kasparov al ajedrez, o sistemas que diagnostican enfermedades con gran precisión e incluso prescriben tratamientos. Ya hay miles de aplicaciones en robots industriales como los que pintan coches. Lo que quiero subrayar es que en poco tiempo se produce una avalancha de éxitos, pero siempre con esa súper especialización, una tendencia que hoy se ha acentuado. En los últimos seis años han surgido algoritmos de aprendizaje muy especializados que están dando resultados impresionantes. Por ejemplo, el software que juega al Go, un juego oriental de tablero con fichas blancas y negras. El campeón del mundo de Go es un ordenador que ya ha ganado a los mejores jugadores humanos. También han surgido sistemas aplicados al tratamiento de imágenes, o que detectan en una imagen médica posibles tumores mejor que los médicos. Cada día aparecen aplicaciones nuevas, pero no un sistema general que lo haga todo. Cada sistema es desarrollado por un grupo de personas en un lugar determinado para resolver tareas muy concretas. Son sistemas que solo saben hacer una cosa.

¿Ahí reside la principal dificultad de la inteligencia artificial? ¿Cuáles son sus límites?

La capacidad de los ordenadores para realizar tareas específicas mejor que las personas ya se ha demostrado. Jugar al ajedrez, buscar soluciones a fórmulas lógicas o, como decía, diagnosticar ciertas enfermedades son actividades que algunas máquinas resuelven con más pericia que los humanos. Ahora bien, podemos encontrarnos con la siguiente paradoja: un ordenador programado para jugar al ajedrez al más alto nivel puede al mismo tiempo ser incapaz de jugar a las damas, algo a priori mucho más sencillo. Esto se debe a que las inteligencias artificiales que se han desarrollado solo realizan tareas muy específicas y contextualizadas. La inteligencia humana, sin embargo, es versátil y general. El gran problema para pasar de esta inteligencia súper específica a otra más general es cómo dotar de conocimientos genéricos sobre el mundo, esto es, de sentido común –algo que a su vez es fruto de la experiencia–, a una máquina.

En nuestro país, ¿en qué ámbitos ha despuntado más la inteligencia artificial?

   

"España a nivel europeo es uno de los 10 países más potentes en inteligencia artificial. Hay grupos muy buenos en robótica social"

    

En muchos. España a nivel europeo es uno de los diez países más potentes. Hay aplicaciones a todos los niveles. Hay grupos muy buenos de robótica, en particular de robótica social, diseñados para tareas de asistencia. Pero también para modelizar razonamientos, y sistema capaces de aprender mejorando así su capacidad de resolución de problemas

¿Qué aplicaciones tienen estos sistemas?

Por ejemplo, el diagnóstico de enfermedades al que ya me he referido. Algunos ordenadores ya diagnostican por aprendizaje. Se entrena al ordenador mostrándole muchísimas imágenes; en algunas hay un tumor y otras, no. Después, cuando examina una imagen nueva, la clasifica perfectamente y sabe si puede o no ser un tumor. Los asistentes personales sería otro ejemplo basado en aprendizaje. Por ejemplo, Siri o Cortana, que funcionan mediante nuestros teléfonos móviles. En realidad no se puede hablar de IA sin hablar de aprendizaje. Hoy toda la IA se focaliza en los métodos para que las máquinas aprendan a resolver una tarea cada vez mejor. A través de cantidades ingentes de datos, aprenden y se entrenan para realizar la tarea igual o mejor que una persona.

¿Quieres decir que el aprendizaje de la máquina es acumulativo y puede perfeccionarse con el tiempo?

Sí, cuantos más ejemplos recibe la máquina, más mejora en el desempeño de la tarea.

¿Hacia dónde va la inteligencia artificial? ¿Qué futuro se vislumbra?

A medio-largo plazo es prácticamente imposible hacer predicciones. En un futuro inmediato, el acceso a enormes cantidades de datos y los ordenadores con cada vez más altas prestaciones generarán avances espectaculares, pero siempre basados en una inteligencia artificial muy específica que, eso sí, permitirá hacer cosas increíbles en diferentes áreas. Por ejemplo, personalizar la medicina en función de nuestras características individuales. También se va añadir capacidad descriptiva y explicativa a sistemas que hoy no la tienen; pienso que esto va a hacer que la inteligencia artificial sea más amigable, porque será más fácil interpretar los resultados que nos dan sistemas que hasta ahora son como cajas negras.

En el libro Inteligencia Artificial, Pedro Meseguer y tú habláis de un futuro próximo en el que cada vez más robots convivirán en el ámbito laboral con personas. Sin embargo, también explicáis que por el camino será necesario vencer algunas resistencias por ese miedo a lo desconocido. Este es un tema recurrente al hablar de la IA, el mito sobre una posible rebelión de las máquinas contra los humanos.

Todo eso queda muy bien en la ciencia ficción, pero las máquinas no van a despertarse por sí mismas un día y decir, “venga, vamos a dominar el mundo”, porque no tienen intencionalidad ni conciencia. Por mucho que aprendan a hacer cosas extraordinarias, por mucho que las programemos para ello, no podrán hacer eso. Es cierto que a veces incluso un programador se sorprende ante lo que pueden llegar a aprender, pero eso no significa que puedan aprender a ser malas o a tener intenciones de rebelarse contra las personas. Estas ideas hay que dejarlas para la ciencia ficción.

   "Las armas automáticas o los peligros para la privacidad que entrañan algunas inteligencias artificiales sí son problemas por los que preocuparse"
    

Con este libro, ¿os propusisteis de algún modo mitigar esas falsas creencias explicando las bases de la inteligencia artificial?

Sí, en primer lugar detectamos que no había libros de divulgación sobre inteligencia artificial en castellano que estuvieran escritos ‘desde la cocina’, es decir, por personas que se dedican a investigar en esta disciplina. Pero también queríamos mostrar que la IA, pese a sus grandes avances, tiene muchas limitaciones, y que esos temores no son realistas sino infundados. Es cierto que las armas autónomas o los peligros para la privacidad que entrañan algunas inteligencias artificiales sí son problemas por los que preocuparse. Pero lo último que me preocuparía es una supuesta rebelión de las máquinas.

Vuestro libro responde por tanto a la necesidad de divulgar la ciencia. ¿Qué importancia crees que tiene trasladar el conocimiento científico a la sociedad?

No solo es extremadamente importante, sino que estamos obligados a ello. Divulgar forma parte de las responsabilidades y tareas de un científico, sobre todo cuando investigas en un organismo público que se está financiando con los impuestos del conjunto de la ciudadanía. Por tanto, divulgar al gran público lo que estás haciendo es lo mínimo que puedes hacer.

Por lo que observas en tu entorno y lo que hacen tus colegas, ¿crees que estamos avanzando en este sentido?

Seguro. Cada vez hay más sensibilidad hacia la divulgación. Precisamente la colección ‘Qué sabemos de...’ suma ya 88 libros y va a haber muchos más. Eso demuestra que hay cantidad de investigadores e investigadoras que ya lo están haciendo.

En vuestro libro también abordáis la denominada ‘creatividad computacional’ y toda esa parte de la IA aplicada al arte que quizá es menos conocida, pero suena fascinante.

Ya se está aplicando la inteligencia artificial al arte y hay resultados impresionantes. Las máquinas pueden combinar de forma nueva elementos ya existentes; no pueden romper reglas, pero sí crear cosas estéticamente interesantes, como una composición musical o una obra pictórica. Hay cuadros que al mirarlos, si nadie te dice que los ha ‘pintado’ un software, en ningún caso pensarías que son el resultado de la actividad de una máquina. Otra cosa es la genialidad creativa. Pero, ¿cuántos humanos son creadores geniales? ¿Uno de cada un millón? Todos somos creativos en un cierto grado, pero...

Sí, la creatividad es una cualidad específica del ser humano.

Es consustancial al ser humano, pero la capacidad de romper las reglas vigentes hasta el momento y crear algo realmente nuevo, como hizo Picasso con la pintura o Arnold Shoenberg con la música atonal, es algo al alcance de muy poca gente. Las máquinas ya crean diseños impresionantes y, hasta cierto punto, algunas están demostrando una gran creatividad. Pero, de nuevo, no tienen ninguna intención de ser creativas, ni aprecian lo que han creado, ni son conscientes de ello.