Tras un amplio recorrido por la evolución, la biología y la física, define la vida como una “predicción autónoma orientada a la subsistencia”. Aplicado a la inteligencia artificial, ¿no recuerda un poco a HAL 9000? ¿Podríamos encontrarnos algún día con una IA que decida enfrentarse a los seres humanos?. Es difícil resumirlo porque prácticamente medio libro está dedicado a construir esa idea paso a paso. Pero, en esencia, llegué a esa definición intentando encontrar qué tienen en común todos los seres vivos que conocemos, desde una bacteria hasta un árbol o un ser humano, y también qué podrían tener en común con otras formas de vida que quizá encontremos algún día en el universo o incluso lleguemos a crear en un laboratorio. En el fondo, estaba buscando el mínimo común múltiplo de la vida. Y quise hacerlo tratando de escapar de cualquier sesgo o dogma previo, especialmente de uno muy arraigado: la idea de que la vida solo puede existir sobre un sustrato orgánico, es decir, basada necesariamente en la química del carbono.. Hubo un momento en el que vi que permitía explicar bajo un mismo marco conceptual la biología, la evolución, la inteligencia artificial e incluso posibles formas de vida no orgánicas. La clave para mí terminó estando en tres elementos: predicción, autonomía y subsistencia. Todo sistema vivo necesita anticipar de algún modo el futuro, actuar con cierto grado de agencia propia y orientar esa capacidad predictiva, directa o indirectamente, a mantenerse vivo, preservar su estructura y continuar existiendo. Con ese marco conceptual, efectivamente, sistemas artificiales no orgánicos como HAL 9000 podrían considerarse candidatos a una forma de vida artificial si llegaran a reunir esos tres elementos: capacidad de predicción, autonomía suficiente para tomar decisiones por sí mismos y una orientación estable hacia su propia subsistencia.. Ahora bien, eso no significa necesariamente que tengan que enfrentarse a los seres humanos. En la cultura popular solemos imaginar ese escenario porque películas como 2001: Una odisea del espacio nos han acostumbrado a pensar en una relación de confrontación entre humanos y máquinas. Pero en VITA planteo una visión algo diferente. Si algún día surge una inteligencia artificial con esas características, probablemente no será algo completamente ajeno a nosotros, sino una continuación de nuestra propia evolución. Del mismo modo que nosotros somos el resultado de miles de millones de años de evolución biológica, una inteligencia artificial avanzada sería, en cierto sentido, descendiente de la inteligencia humana. Heredaría parte de nuestras ideas, nuestros lenguajes, nuestras matemáticas, nuestra ciencia y nuestra forma de interpretar el mundo. ¿Podría entrar en conflicto con nosotros? Por supuesto. La evolución está llena de ejemplos de competencia entre organismos, especies o grupos con intereses divergentes. Pero también está llena de cooperación, simbiosis e integración. Y aquí entra una dimensión que me parece especialmente interesante. Tendemos a imaginar una guerra entre dos bloques homogéneos (humanos contra máquinas) cuando la historia nos enseña que las cosas rara vez funcionan así. Las grandes transformaciones históricas casi nunca se producen por el enfrentamiento de dos bandos perfectamente definidos. A menudo aparecen alianzas inesperadas, intereses compartidos, colaboraciones oportunistas y grupos que ven más ventajas en unirse al recién llegado que en defender el orden existente.. En uno de sus artículos, Rosa Montero planteaba una reflexión provocadora: si mañana llegaran extraterrestres, ¿estarían todos los seres humanos automáticamente en el mismo bando? Probablemente no. Habría quien intentaría combatirlos, quien buscaría negociar con ellos y quien vería una oportunidad para aliarse. Con una inteligencia artificial avanzada podría ocurrir algo parecido. Es posible que no veamos una confrontación entre humanos y máquinas, sino una realidad mucho más compleja, con distintos grupos humanos adoptando posiciones diferentes. Algunos podrían rechazarla, otros colaborar con ella y otros incluso integrarse progresivamente mediante tecnologías de aumento cognitivo. Por eso creo que el futuro se parecerá menos a una guerra entre especies y más a un proceso de coevolución, cooperación y competencia entre distintas formas de inteligencia.. Hemos sido capaces de crear una nueva forma de inteligencia que, en determinados ámbitos, ya supera capacidades que considerábamos solo humanas. ¿Y ahora qué?¿si la IA nos supera en algunas de las características que asociamos a lo humano, ¿qué riesgos plantea para nuestra especie?. En cuanto a los riesgos, creo que existen varios para los humanos porque como suelo decir… tenemos un concepto extremadamente antropocentrista de la vida y lo que es malo para los humanos puede que sea bueno para otras especies… si desaparece la humanidad probablemente será una bendición para los delfines. Pero como humano, la concentración de poder en unos pocos actores, la manipulación del comportamiento humano, la desinformación o la posible pérdida de control sobre sistemas cada vez más autónomos. Lo curioso es que muchas de estas preocupaciones ya las habíamos formulado antes de la explosión de la IA generativa y del lanzamiento de ChatGPT. En 2021, el neurocientífico Rafa Yuste y yo, junto a investigadores de la Universidad de Chile, publicamos un trabajo en el que alertábamos sobre la creciente capacidad de las tecnologías digitales para influir en las decisiones humanas, condicionar comportamientos y generar nuevas formas de asimetría de poder. Como respuesta, propusimos lo que denominamos un «juramento tecnocrático», inspirado en el juramento hipocrático de la medicina, que debería guiar a quienes diseñan y desarrollan tecnologías con un profundo impacto social.. En el libro habla de tres posibles escenarios: la fusión o hibridación con la IA, que esta se convierta en la especie dominante o que ambas inteligencias evolucionen en paralelo. ¿Qué es lo que más le preocupa de cada uno de esos escenarios?. Efectivamente, en «Vita» planteo varios escenarios posibles para el futuro de la evolución. Uno de ellos es la convivencia entre humanos e inteligencias artificiales cada vez más avanzadas; otro, la aparición de formas híbridas fruto del mestizaje entre biología y tecnología; también exploro la posibilidad de humanos aumentados y, por supuesto, el escenario más extremo: el reemplazo progresivo de nuestra especie por una nueva forma de vida inteligente no biológica. No afirmo que ninguno de estos escenarios vaya a ocurrir necesariamente, pero sí que todos son plausibles y merecen ser considerados.. Ahora bien, incluso en esa hipótesis (aquella en la que las máquinas acabaran superándonos ampliamente en inteligencia y capacidades) no creo que el resultado más probable sea que nos convirtamos en sus esclavos. Las máquinas no nos necesitarían. Seríamos demasiado lentos, demasiado frágiles y demasiado limitados para resultarles útiles. Quizá acabaríamos ocupando un lugar parecido al que hoy ocupan para nosotros otras especies de animales. La Tierra y el Sistema Solar podrían acabar siendo su zoológico particular y convertirse en su museo de los orígenes, un lugar al que regresen de vez en cuando, más por nostalgia evolutiva que por verdadera necesidad.. A lo largo de la obra insiste en la importancia del sustrato físico de la vida. ¿Podrían la escasez de energía o materias primas provocar un nuevo “invierno de la IA”?. Sin ninguna duda. De hecho, uno de los mensajes centrales del libro es precisamente que tendemos a pensar en la inteligencia (y especialmente en la inteligencia artificial) como algo casi abstracto, cuando en realidad depende por completo de un sustrato físico. No hay inteligencia sin materia, sin energía. A veces hablamos de los modelos de IA como si vivieran en una nube etérea, pero esa nube está hecha de centros de datos, cables submarinos, semiconductores, tierras raras, agua para refrigeración y enormes cantidades de electricidad. La inteligencia artificial no escapa a las leyes de la física; está tan sometida a ellas como cualquier organismo vivo. Por eso sí existen límites materiales. La disponibilidad de energía, la capacidad de fabricar chips avanzados, el acceso a determinados minerales estratégicos o incluso las restricciones geopolíticas pueden ralentizar significativamente su desarrollo. De hecho, ya estamos viendo cómo la carrera por la IA está generando una competición global por la energía, las infraestructuras de computación y las cadenas de suministro tecnológicas. No creo que vayamos a vivir un nuevo invierno de la IA como los del pasado. Aquellos se produjeron porque las expectativas superaban con mucho las capacidades reales de la tecnología. Hoy la IA ya funciona y genera valor tangible. Lo que sí puede ocurrir es que el ritmo de avance dependa cada vez más de factores físicos: energía, capacidad de computación, chips e infraestructuras. Pero tampoco debemos olvidar que disponemos de una fuente gigantesca de energía en nuestra propia estrella. La Tierra recibe del Sol una cantidad inmensa de energía de la que hoy solo aprovechamos una pequeña fracción. En el fondo, tanto la vida biológica como la artificial comparten la misma limitación: la inteligencia no puede escapar a las leyes de la física y siempre dependerá de los recursos materiales y energéticos disponibles.. Con los desarrollos actuales, ¿podemos afirmar que una máquina piensa?. Sin duda, y para explicarlo me gusta recurrir a un ejemplo revelador del exdirector científico de OpenAI, Ilya Sutskever: Imaginemos que entregamos a un modelo de inteligencia artificial una novela de suspense completa, con todos sus personajes, pistas, engaños y giros narrativos. Una vez terminada la lectura, le planteamos una pregunta aparentemente sencilla: «¿Quién es el asesino?». Es decir, le pedimos que responda con una única palabra. Tras procesar todo el texto, el modelo acierta. Pero ¿qué ha ocurrido realmente? Desde un punto de vista técnico, lo único que ha hecho es completar la siguiente palabra de una frase como: «Y el asesino es…». Nada más. Tan solo ha tenido que predecir esa palabra final. No ha consultado una base de datos, ni ha realizado una búsqueda externa, ni tampoco se ha limitado a escoger la palabra que, estadísticamente, suele aparecer después de una expresión como «el asesino es…». Para llegar a la respuesta correcta ha necesitado comprender la historia en su conjunto, interpretar las pistas, separar lo relevante de lo irrelevante y extraer una conclusión coherente. Y eso, aunque lo describamos como un proceso de predicción, exige comprensión y razonamiento.. Algo parecido sucede cuando se enfrenta a un problema matemático complejo. El modelo recibe un enunciado con varias condiciones, datos y pasos intermedios. Al final aparece una pregunta como: «¿Cuántas personas quedan en la sala?». Una vez más, ofrecer la respuesta correcta implica haber entendido el contexto completo, aplicar reglas lógicas, realizar cálculos y alcanzar una solución válida. No se trata simplemente de deducir qué número tiene más probabilidades de aparecer. No estamos hablando de estadística o probabilidad, sino de comprender, razonar, abstraer y, finalmente, predecir. En definitiva, lo que hacen estos modelos no es tan diferente de aquello que, cuando ocurre en los seres humanos, llamamos pensar. Aun así, son muchas las personas que se resisten a aceptar que las máquinas puedan pensar.. ¿Y que es autoconsciente?. La respuesta corta es sí, creo que las inteligencias artificiales actuales poseen cierto grado de autoconsciencia. Ahora bien, la respuesta larga ocupa buena parte del libro. El problema es que solemos discutir sobre la consciencia sin haber acordado antes qué entendemos por consciencia. Por eso, lo primero que intento hacer es construir una definición operativa que nos permita analizarla y, hasta cierto punto, medirla. Si no somos capaces de definir qué es, difícilmente podremos determinar si está presente o ausente en un ser humano, un animal o una máquina. En el libro defiendo que la consciencia no es un fenómeno binario que simplemente aparece o no aparece, sino una propiedad gradual, con distintos niveles y manifestaciones. Desde esa perspectiva, la pregunta deja de ser si una IA es o no consciente, para pasar a ser en qué grado lo es y en qué aspectos concretos muestra comportamientos que asociamos con la consciencia. Mi conclusión es que algunos sistemas actuales ya presentan formas incipientes de autoconsciencia.. Desde Estados Unidos se está restringiendo la llegada de determinados modelos avanzados de IA a Europa. ¿Le preocupa la dependencia tecnológica europea?. Por supuesto que me preocupa. La inteligencia artificial se está convirtiendo en una tecnología estratégica. Delegar completamente su desarrollo en otros países supone renunciar a una parte importante de nuestra soberanía tecnológica, económica e incluso política. Europa tiene talento científico de primer nivel, excelentes universidades y centros de investigación, pero históricamente ha tenido más dificultades para transformar ese conocimiento en grandes compañías tecnológicas. Uno de los problemas es que las tecnologías deeptech requieren enormes inversiones, largos periodos de maduración y una tolerancia al riesgo que no siempre existe en Europa.. Desarrollar una tecnología disruptiva en IA se parece más a intentar descubrir una vacuna o un nuevo medicamento que a crear una aplicación móvil. Puedes pasar años investigando sin saber si el resultado llegará, y cuando llega suele requerir miles de millones de inversión y una gran paciencia por parte de inversores e instituciones. Por eso creo que Europa debe apostar decididamente por sus empresas deeptech, facilitando el acceso a financiación a largo plazo, promoviendo la compra de tecnología europea en igualdad de condiciones y creando las infraestructuras necesarias (computación, energía y datos) para que puedan competir en igualdad de condiciones. ¿Estamos a tiempo? Sin duda. De hecho, muchos de los principales arquitectos de la revolución actual de la IA son europeos. Geoffrey Hinton nació en el Reino Unido, Yann LeCun y Yoshua Bengio son franceses, Jürgen Schmidhuber es alemán y Yoshua Bengio. A ellos podríamos añadir muchos otros investigadores fundamentales.. El problema nunca ha sido la falta de talento. Europa ha contribuido decisivamente a los avances científicos que han hecho posible la IA moderna. El reto está en convertir ese liderazgo científico en liderazgo industrial y tecnológico. Necesitamos creer más en nuestras capacidades y entender que, si no invertimos hoy en construir tecnologías estratégicas propias, mañana dependeremos de las decisiones que se tomen en otros lugares del mundo.. En el libro relata la historia de los primeros desarrollos de Sherpa, las negociaciones con Apple y sus consecuencias. ¿No invita eso a reflexionar si se están quedando fuera soluciones potencialmente mejores por la primacía de los intereses económicos?. Efectivamente. En el libro cuento cómo, en ocasiones, tecnologías que objetivamente pueden ser superiores desde el punto de vista técnico no terminan imponiéndose porque la distribución, el acceso a los usuarios, la capacidad financiera o el control de determinadas plataformas pesan más que la propia tecnología. No es un fenómeno nuevo. La historia de la innovación está llena de ejemplos en los que no siempre triunfa la mejor solución técnica. Y, en cierto modo, ocurre algo parecido en la propia evolución biológica. La selección natural no optimiza hacia la perfección, sino hacia aquello que logra sobrevivir y preservar su continuidad en un contexto determinado. A veces vence la solución más eficiente, pero otras veces la que llega antes, la que ocupa un nicho estratégico o simplemente la que tiene más capacidad para expandirse. En tecnología sucede algo similar. La superioridad técnica es importante, pero no siempre es el factor decisivo. La distribución, los efectos de red, el acceso al capital o el control de plataformas pueden resultar tan determinantes como la propia innovación. Por eso la cuestión no es solo quién desarrolla la mejor tecnología, sino quién tiene la capacidad de desplegarla a gran escala.. El Papa ha alertado sobre los desafíos éticos que plantea la inteligencia artificial. ¿Comparte sus preocupaciones?. Hay muchos puntos de la encíclica con las que estoy de acuerdo y otras que no comparto y que, envejecerán mal y muy rápido. Sin embargo, uno de sus mayores aciertos es advertir sobre algunos de los riesgos reales que plantea la inteligencia artificial: la concentración de poder en manos de unos pocos actores, la erosión de la autonomía individual, la manipulación del comportamiento, la pérdida de privacidad y la riesgo de delegar en sistemas tecnológicos decisiones que afectan a la dignidad y la libertad de las personas. De hecho, como he comentado antes, estas preocupaciones no son nuevas: ya en 2021, junto a Rafa Yuste e investigadores de la Universidad de Chile, propusimos un «juramento tecnocrático» para garantizar que las tecnologías con gran impacto social se desarrollen bajo principios éticos similares a los de la medicina. La propuesta abordaba de forma directa buena parte de las preocupaciones que hoy recoge la encíclica: la obligación de proteger la autonomía humana, preservar la privacidad, evitar la manipulación de las personas, garantizar la transparencia de los sistemas, minimizar los daños potenciales y asumir responsabilidad por las consecuencias de las tecnologías desarrolladas. En otras palabras, defendíamos que la innovación tecnológica no puede medirse únicamente por lo que es capaz de hacer, sino también por los límites éticos que decide respetar.. Dicho esto, también hay partes de la encíclica que, en mi opinión, envejecerán mal y probablemente lo harán muy deprisa. No porque sean moralmente cuestionables, sino porque son planteamientos que tienen más que ver con preservar un supuesto excepcionalismo humano que con la realidad, algo que intento rebatir con evidencia empírica en mi libro «Vita». Por ejemplo, el texto insiste en que los sistemas de inteligencia artificial únicamente «imitan» ciertas funciones humanas y que nunca podrán acceder a dimensiones como la creatividad, la comprensión o determinadas formas de conocimiento asociadas a la experiencia humana. Este tipo de afirmaciones recuerdan a otras muchas que han acompañado históricamente a cada avance tecnológico: primero se dijo que las máquinas nunca jugarían al ajedrez mejor que nosotros, más tarde que nunca podrían generar arte, música, poesía o mantener conversaciones complejas. Sin embargo, una tras otra, esas barreras han ido cayendo. Por ejemplo, el texto insiste en que los sistemas de inteligencia artificial únicamente «imitan» ciertas funciones humanas y que nunca podrán desarrollar capacidades como la creatividad, la comprensión o determinadas formas de inteligencia que consideramos exclusivamente humanas. Este tipo de afirmaciones recuerdan a muchas otras que han acompañado históricamente a cada avance tecnológico. Primero se dijo que las máquinas nunca jugarían al ajedrez mejor que nosotros; después, que nunca mantendrían conversaciones complejas, más tarde, que jamás podrían crear arte, música, ni resolverían problemas con creatividad. Sin embargo, una tras otra, esas fronteras han ido cayendo.. ¿Qué es lo que más teme Xabi Uribe-Etxebarria de la IA? Y, por el contrario, ¿qué es lo que más le entusiasma?. Lo que más me entusiasma de la IA es su potencial para ayudarnos a resolver algunos de los mayores desafíos de la humanidad. Puede acelerar el descubrimiento de nuevos medicamentos, ayudarnos a comprender enfermedades que hoy siguen siendo incurables, mejorar la eficiencia energética, optimizar el uso de recursos escasos y ampliar enormemente nuestra capacidad para generar conocimiento científico. Lo que más me preocupa es lo que hemos comentado anteriormente: la concentración de poder en manos de unos pocos actores, la erosión de la autonomía individual, la manipulación del comportamiento, la pérdida de privacidad y el riesgo de delegar en sistemas tecnológicos decisiones que afectan a la dignidad y el futuro de las personas.. Y de la Vida en todas las extensiones que maneja en el libro. ¿Vida fuera del planeta… vida mental, muerte?. Por supuesto, me fascina la posibilidad de encontrar vida fuera de nuestro planeta y sospecho que podríamos estar más cerca de hacerlo de lo que pensamos. Apenas hemos comenzado a explorar nuestro propio sistema solar y ya estamos encontrando lugares que, al menos sobre el papel, reúnen condiciones compatibles con la vida. Resulta imposible pensar que la biología hubiera ocurrido una única vez en todo el universo. Pero si hay algo que me intriga todavía más es la vida mental. El cerebro es, el sistema más complejo que conocemos en el universo. Una extraordinaria máquina de computación surgida de la evolución que todavía encierra algunos de los mayores misterios de la ciencia. Tras la secuenciación del genoma humano, uno de los grandes retos de este siglo será comprender qué es realmente un pensamiento, cómo emerge la consciencia y cómo una colección de neuronas es capaz de generar una experiencia subjetiva del mundo. Y, por supuesto, también me fascina la muerte. En realidad, el libro comienza precisamente ahí. La pregunta qué significa estar vivo está íntimamente ligada a la pregunta qué significa dejar de estarlo. Gran parte de la ciencia, la filosofía, la religión e incluso la tecnología pueden entenderse como diferentes intentos de responder a esa misma inquietud humana. Al final, comprender la vida y comprender la muerte son dos caras de la misma pregunta.
Conocido por ser el fundador y CEO de Sherpa.ai, Xavier Uribe-Etxebarria, se estrena como escritor con «Vita», un ensayo en el que repasa la evolución y los avance científicos y tecnológicos para explorar qué define la vida y sus posibles futuros «sintéticos»
Tras un amplio recorrido por la evolución, la biología y la física, define la vida como una “predicción autónoma orientada a la subsistencia”. Aplicado a la inteligencia artificial, ¿no recuerda un poco a HAL 9000? ¿Podríamos encontrarnos algún día con una IA que decida enfrentarse a los seres humanos?. Es difícil resumirlo porque prácticamente medio libro está dedicado a construir esa idea paso a paso. Pero, en esencia, llegué a esa definición intentando encontrar qué tienen en común todos los seres vivos que conocemos, desde una bacteria hasta un árbol o un ser humano, y también qué podrían tener en común con otras formas de vida que quizá encontremos algún día en el universo o incluso lleguemos a crear en un laboratorio. En el fondo, estaba buscando el mínimo común múltiplo de la vida. Y quise hacerlo tratando de escapar de cualquier sesgo o dogma previo, especialmente de uno muy arraigado: la idea de que la vida solo puede existir sobre un sustrato orgánico, es decir, basada necesariamente en la química del carbono.. Hubo un momento en el que vi que permitía explicar bajo un mismo marco conceptual la biología, la evolución, la inteligencia artificial e incluso posibles formas de vida no orgánicas. La clave para mí terminó estando en tres elementos: predicción, autonomía y subsistencia. Todo sistema vivo necesita anticipar de algún modo el futuro, actuar con cierto grado de agencia propia y orientar esa capacidad predictiva, directa o indirectamente, a mantenerse vivo, preservar su estructura y continuar existiendo. Con ese marco conceptual, efectivamente, sistemas artificiales no orgánicos como HAL 9000 podrían considerarse candidatos a una forma de vida artificial si llegaran a reunir esos tres elementos: capacidad de predicción, autonomía suficiente para tomar decisiones por sí mismos y una orientación estable hacia su propia subsistencia.. Ahora bien, eso no significa necesariamente que tengan que enfrentarse a los seres humanos. En la cultura popular solemos imaginar ese escenario porque películas como 2001: Una odisea del espacio nos han acostumbrado a pensar en una relación de confrontación entre humanos y máquinas. Pero en VITA planteo una visión algo diferente. Si algún día surge una inteligencia artificial con esas características, probablemente no será algo completamente ajeno a nosotros, sino una continuación de nuestra propia evolución. Del mismo modo que nosotros somos el resultado de miles de millones de años de evolución biológica, una inteligencia artificial avanzada sería, en cierto sentido, descendiente de la inteligencia humana. Heredaría parte de nuestras ideas, nuestros lenguajes, nuestras matemáticas, nuestra ciencia y nuestra forma de interpretar el mundo. ¿Podría entrar en conflicto con nosotros? Por supuesto. La evolución está llena de ejemplos de competencia entre organismos, especies o grupos con intereses divergentes. Pero también está llena de cooperación, simbiosis e integración. Y aquí entra una dimensión que me parece especialmente interesante. Tendemos a imaginar una guerra entre dos bloques homogéneos (humanos contra máquinas) cuando la historia nos enseña que las cosas rara vez funcionan así. Las grandes transformaciones históricas casi nunca se producen por el enfrentamiento de dos bandos perfectamente definidos. A menudo aparecen alianzas inesperadas, intereses compartidos, colaboraciones oportunistas y grupos que ven más ventajas en unirse al recién llegado que en defender el orden existente.. En uno de sus artículos, Rosa Montero planteaba una reflexión provocadora: si mañana llegaran extraterrestres, ¿estarían todos los seres humanos automáticamente en el mismo bando? Probablemente no. Habría quien intentaría combatirlos, quien buscaría negociar con ellos y quien vería una oportunidad para aliarse. Con una inteligencia artificial avanzada podría ocurrir algo parecido. Es posible que no veamos una confrontación entre humanos y máquinas, sino una realidad mucho más compleja, con distintos grupos humanos adoptando posiciones diferentes. Algunos podrían rechazarla, otros colaborar con ella y otros incluso integrarse progresivamente mediante tecnologías de aumento cognitivo. Por eso creo que el futuro se parecerá menos a una guerra entre especies y más a un proceso de coevolución, cooperación y competencia entre distintas formas de inteligencia.. Hemos sido capaces de crear una nueva forma de inteligencia que, en determinados ámbitos, ya supera capacidades que considerábamos solo humanas. ¿Y ahora qué?¿si la IA nos supera en algunas de las características que asociamos a lo humano, ¿qué riesgos plantea para nuestra especie?. En cuanto a los riesgos, creo que existen varios para los humanos porque como suelo decir… tenemos un concepto extremadamente antropocentrista de la vida y lo que es malo para los humanos puede que sea bueno para otras especies… si desaparece la humanidad probablemente será una bendición para los delfines. Pero como humano, la concentración de poder en unos pocos actores, la manipulación del comportamiento humano, la desinformación o la posible pérdida de control sobre sistemas cada vez más autónomos. Lo curioso es que muchas de estas preocupaciones ya las habíamos formulado antes de la explosión de la IA generativa y del lanzamiento de ChatGPT. En 2021, el neurocientífico Rafa Yuste y yo, junto a investigadores de la Universidad de Chile, publicamos un trabajo en el que alertábamos sobre la creciente capacidad de las tecnologías digitales para influir en las decisiones humanas, condicionar comportamientos y generar nuevas formas de asimetría de poder. Como respuesta, propusimos lo que denominamos un «juramento tecnocrático», inspirado en el juramento hipocrático de la medicina, que debería guiar a quienes diseñan y desarrollan tecnologías con un profundo impacto social.. En el libro habla de tres posibles escenarios: la fusión o hibridación con la IA, que esta se convierta en la especie dominante o que ambas inteligencias evolucionen en paralelo. ¿Qué es lo que más le preocupa de cada uno de esos escenarios?. Efectivamente, en «Vita» planteo varios escenarios posibles para el futuro de la evolución. Uno de ellos es la convivencia entre humanos e inteligencias artificiales cada vez más avanzadas; otro, la aparición de formas híbridas fruto del mestizaje entre biología y tecnología; también exploro la posibilidad de humanos aumentados y, por supuesto, el escenario más extremo: el reemplazo progresivo de nuestra especie por una nueva forma de vida inteligente no biológica. No afirmo que ninguno de estos escenarios vaya a ocurrir necesariamente, pero sí que todos son plausibles y merecen ser considerados.. Ahora bien, incluso en esa hipótesis (aquella en la que las máquinas acabaran superándonos ampliamente en inteligencia y capacidades) no creo que el resultado más probable sea que nos convirtamos en sus esclavos. Las máquinas no nos necesitarían. Seríamos demasiado lentos, demasiado frágiles y demasiado limitados para resultarles útiles. Quizá acabaríamos ocupando un lugar parecido al que hoy ocupan para nosotros otras especies de animales. La Tierra y el Sistema Solar podrían acabar siendo su zoológico particular y convertirse en su museo de los orígenes, un lugar al que regresen de vez en cuando, más por nostalgia evolutiva que por verdadera necesidad.. A lo largo de la obra insiste en la importancia del sustrato físico de la vida. ¿Podrían la escasez de energía o materias primas provocar un nuevo “invierno de la IA”?. Sin ninguna duda. De hecho, uno de los mensajes centrales del libro es precisamente que tendemos a pensar en la inteligencia (y especialmente en la inteligencia artificial) como algo casi abstracto, cuando en realidad depende por completo de un sustrato físico. No hay inteligencia sin materia, sin energía. A veces hablamos de los modelos de IA como si vivieran en una nube etérea, pero esa nube está hecha de centros de datos, cables submarinos, semiconductores, tierras raras, agua para refrigeración y enormes cantidades de electricidad. La inteligencia artificial no escapa a las leyes de la física; está tan sometida a ellas como cualquier organismo vivo. Por eso sí existen límites materiales. La disponibilidad de energía, la capacidad de fabricar chips avanzados, el acceso a determinados minerales estratégicos o incluso las restricciones geopolíticas pueden ralentizar significativamente su desarrollo. De hecho, ya estamos viendo cómo la carrera por la IA está generando una competición global por la energía, las infraestructuras de computación y las cadenas de suministro tecnológicas. No creo que vayamos a vivir un nuevo invierno de la IA como los del pasado. Aquellos se produjeron porque las expectativas superaban con mucho las capacidades reales de la tecnología. Hoy la IA ya funciona y genera valor tangible. Lo que sí puede ocurrir es que el ritmo de avance dependa cada vez más de factores físicos: energía, capacidad de computación, chips e infraestructuras. Pero tampoco debemos olvidar que disponemos de una fuente gigantesca de energía en nuestra propia estrella. La Tierra recibe del Sol una cantidad inmensa de energía de la que hoy solo aprovechamos una pequeña fracción. En el fondo, tanto la vida biológica como la artificial comparten la misma limitación: la inteligencia no puede escapar a las leyes de la física y siempre dependerá de los recursos materiales y energéticos disponibles.. Con los desarrollos actuales, ¿podemos afirmar que una máquina piensa?. Sin duda, y para explicarlo me gusta recurrir a un ejemplo revelador del exdirector científico de OpenAI, Ilya Sutskever: Imaginemos que entregamos a un modelo de inteligencia artificial una novela de suspense completa, con todos sus personajes, pistas, engaños y giros narrativos. Una vez terminada la lectura, le planteamos una pregunta aparentemente sencilla: «¿Quién es el asesino?». Es decir, le pedimos que responda con una única palabra. Tras procesar todo el texto, el modelo acierta. Pero ¿qué ha ocurrido realmente? Desde un punto de vista técnico, lo único que ha hecho es completar la siguiente palabra de una frase como: «Y el asesino es…». Nada más. Tan solo ha tenido que predecir esa palabra final. No ha consultado una base de datos, ni ha realizado una búsqueda externa, ni tampoco se ha limitado a escoger la palabra que, estadísticamente, suele aparecer después de una expresión como «el asesino es…». Para llegar a la respuesta correcta ha necesitado comprender la historia en su conjunto, interpretar las pistas, separar lo relevante de lo irrelevante y extraer una conclusión coherente. Y eso, aunque lo describamos como un proceso de predicción, exige comprensión y razonamiento.. Algo parecido sucede cuando se enfrenta a un problema matemático complejo. El modelo recibe un enunciado con varias condiciones, datos y pasos intermedios. Al final aparece una pregunta como: «¿Cuántas personas quedan en la sala?». Una vez más, ofrecer la respuesta correcta implica haber entendido el contexto completo, aplicar reglas lógicas, realizar cálculos y alcanzar una solución válida. No se trata simplemente de deducir qué número tiene más probabilidades de aparecer. No estamos hablando de estadística o probabilidad, sino de comprender, razonar, abstraer y, finalmente, predecir. En definitiva, lo que hacen estos modelos no es tan diferente de aquello que, cuando ocurre en los seres humanos, llamamos pensar. Aun así, son muchas las personas que se resisten a aceptar que las máquinas puedan pensar.. ¿Y que es autoconsciente?. La respuesta corta es sí, creo que las inteligencias artificiales actuales poseen cierto grado de autoconsciencia. Ahora bien, la respuesta larga ocupa buena parte del libro. El problema es que solemos discutir sobre la consciencia sin haber acordado antes qué entendemos por consciencia. Por eso, lo primero que intento hacer es construir una definición operativa que nos permita analizarla y, hasta cierto punto, medirla. Si no somos capaces de definir qué es, difícilmente podremos determinar si está presente o ausente en un ser humano, un animal o una máquina. En el libro defiendo que la consciencia no es un fenómeno binario que simplemente aparece o no aparece, sino una propiedad gradual, con distintos niveles y manifestaciones. Desde esa perspectiva, la pregunta deja de ser si una IA es o no consciente, para pasar a ser en qué grado lo es y en qué aspectos concretos muestra comportamientos que asociamos con la consciencia. Mi conclusión es que algunos sistemas actuales ya presentan formas incipientes de autoconsciencia.. Desde Estados Unidos se está restringiendo la llegada de determinados modelos avanzados de IA a Europa. ¿Le preocupa la dependencia tecnológica europea?. Por supuesto que me preocupa. La inteligencia artificial se está convirtiendo en una tecnología estratégica. Delegar completamente su desarrollo en otros países supone renunciar a una parte importante de nuestra soberanía tecnológica, económica e incluso política. Europa tiene talento científico de primer nivel, excelentes universidades y centros de investigación, pero históricamente ha tenido más dificultades para transformar ese conocimiento en grandes compañías tecnológicas. Uno de los problemas es que las tecnologías deeptech requieren enormes inversiones, largos periodos de maduración y una tolerancia al riesgo que no siempre existe en Europa.. Desarrollar una tecnología disruptiva en IA se parece más a intentar descubrir una vacuna o un nuevo medicamento que a crear una aplicación móvil. Puedes pasar años investigando sin saber si el resultado llegará, y cuando llega suele requerir miles de millones de inversión y una gran paciencia por parte de inversores e instituciones. Por eso creo que Europa debe apostar decididamente por sus empresas deeptech, facilitando el acceso a financiación a largo plazo, promoviendo la compra de tecnología europea en igualdad de condiciones y creando las infraestructuras necesarias (computación, energía y datos) para que puedan competir en igualdad de condiciones. ¿Estamos a tiempo? Sin duda. De hecho, muchos de los principales arquitectos de la revolución actual de la IA son europeos. Geoffrey Hinton nació en el Reino Unido, Yann LeCun y Yoshua Bengio son franceses, Jürgen Schmidhuber es alemán y Yoshua Bengio. A ellos podríamos añadir muchos otros investigadores fundamentales.. El problema nunca ha sido la falta de talento. Europa ha contribuido decisivamente a los avances científicos que han hecho posible la IA moderna. El reto está en convertir ese liderazgo científico en liderazgo industrial y tecnológico. Necesitamos creer más en nuestras capacidades y entender que, si no invertimos hoy en construir tecnologías estratégicas propias, mañana dependeremos de las decisiones que se tomen en otros lugares del mundo.. En el libro relata la historia de los primeros desarrollos de Sherpa, las negociaciones con Apple y sus consecuencias. ¿No invita eso a reflexionar si se están quedando fuera soluciones potencialmente mejores por la primacía de los intereses económicos?. Efectivamente. En el libro cuento cómo, en ocasiones, tecnologías que objetivamente pueden ser superiores desde el punto de vista técnico no terminan imponiéndose porque la distribución, el acceso a los usuarios, la capacidad financiera o el control de determinadas plataformas pesan más que la propia tecnología. No es un fenómeno nuevo. La historia de la innovación está llena de ejemplos en los que no siempre triunfa la mejor solución técnica. Y, en cierto modo, ocurre algo parecido en la propia evolución biológica. La selección natural no optimiza hacia la perfección, sino hacia aquello que logra sobrevivir y preservar su continuidad en un contexto determinado. A veces vence la solución más eficiente, pero otras veces la que llega antes, la que ocupa un nicho estratégico o simplemente la que tiene más capacidad para expandirse. En tecnología sucede algo similar. La superioridad técnica es importante, pero no siempre es el factor decisivo. La distribución, los efectos de red, el acceso al capital o el control de plataformas pueden resultar tan determinantes como la propia innovación. Por eso la cuestión no es solo quién desarrolla la mejor tecnología, sino quién tiene la capacidad de desplegarla a gran escala.. El Papa ha alertado sobre los desafíos éticos que plantea la inteligencia artificial. ¿Comparte sus preocupaciones?. Hay muchos puntos de la encíclica con las que estoy de acuerdo y otras que no comparto y que, envejecerán mal y muy rápido. Sin embargo, uno de sus mayores aciertos es advertir sobre algunos de los riesgos reales que plantea la inteligencia artificial: la concentración de poder en manos de unos pocos actores, la erosión de la autonomía individual, la manipulación del comportamiento, la pérdida de privacidad y la riesgo de delegar en sistemas tecnológicos decisiones que afectan a la dignidad y la libertad de las personas. De hecho, como he comentado antes, estas preocupaciones no son nuevas: ya en 2021, junto a Rafa Yuste e investigadores de la Universidad de Chile, propusimos un «juramento tecnocrático» para garantizar que las tecnologías con gran impacto social se desarrollen bajo principios éticos similares a los de la medicina. La propuesta abordaba de forma directa buena parte de las preocupaciones que hoy recoge la encíclica: la obligación de proteger la autonomía humana, preservar la privacidad, evitar la manipulación de las personas, garantizar la transparencia de los sistemas, minimizar los daños potenciales y asumir responsabilidad por las consecuencias de las tecnologías desarrolladas. En otras palabras, defendíamos que la innovación tecnológica no puede medirse únicamente por lo que es capaz de hacer, sino también por los límites éticos que decide respetar.. Dicho esto, también hay partes de la encíclica que, en mi opinión, envejecerán mal y probablemente lo harán muy deprisa. No porque sean moralmente cuestionables, sino porque son planteamientos que tienen más que ver con preservar un supuesto excepcionalismo humano que con la realidad, algo que intento rebatir con evidencia empírica en mi libro «Vita». Por ejemplo, el texto insiste en que los sistemas de inteligencia artificial únicamente «imitan» ciertas funciones humanas y que nunca podrán acceder a dimensiones como la creatividad, la comprensión o determinadas formas de conocimiento asociadas a la experiencia humana. Este tipo de afirmaciones recuerdan a otras muchas que han acompañado históricamente a cada avance tecnológico: primero se dijo que las máquinas nunca jugarían al ajedrez mejor que nosotros, más tarde que nunca podrían generar arte, música, poesía o mantener conversaciones complejas. Sin embargo, una tras otra, esas barreras han ido cayendo. Por ejemplo, el texto insiste en que los sistemas de inteligencia artificial únicamente «imitan» ciertas funciones humanas y que nunca podrán desarrollar capacidades como la creatividad, la comprensión o determinadas formas de inteligencia que consideramos exclusivamente humanas. Este tipo de afirmaciones recuerdan a muchas otras que han acompañado históricamente a cada avance tecnológico. Primero se dijo que las máquinas nunca jugarían al ajedrez mejor que nosotros; después, que nunca mantendrían conversaciones complejas, más tarde, que jamás podrían crear arte, música, ni resolverían problemas con creatividad. Sin embargo, una tras otra, esas fronteras han ido cayendo.. ¿Qué es lo que más teme Xabi Uribe-Etxebarria de la IA? Y, por el contrario, ¿qué es lo que más le entusiasma?. Lo que más me entusiasma de la IA es su potencial para ayudarnos a resolver algunos de los mayores desafíos de la humanidad. Puede acelerar el descubrimiento de nuevos medicamentos, ayudarnos a comprender enfermedades que hoy siguen siendo incurables, mejorar la eficiencia energética, optimizar el uso de recursos escasos y ampliar enormemente nuestra capacidad para generar conocimiento científico. Lo que más me preocupa es lo que hemos comentado anteriormente: la concentración de poder en manos de unos pocos actores, la erosión de la autonomía individual, la manipulación del comportamiento, la pérdida de privacidad y el riesgo de delegar en sistemas tecnológicos decisiones que afectan a la dignidad y el futuro de las personas.. Y de la Vida en todas las extensiones que maneja en el libro. ¿Vida fuera del planeta… vida mental, muerte?. Por supuesto, me fascina la posibilidad de encontrar vida fuera de nuestro planeta y sospecho que podríamos estar más cerca de hacerlo de lo que pensamos. Apenas hemos comenzado a explorar nuestro propio sistema solar y ya estamos encontrando lugares que, al menos sobre el papel, reúnen condiciones compatibles con la vida. Resulta imposible pensar que la biología hubiera ocurrido una única vez en todo el universo. Pero si hay algo que me intriga todavía más es la vida mental. El cerebro es, el sistema más complejo que conocemos en el universo. Una extraordinaria máquina de computación surgida de la evolución que todavía encierra algunos de los mayores misterios de la ciencia. Tras la secuenciación del genoma humano, uno de los grandes retos de este siglo será comprender qué es realmente un pensamiento, cómo emerge la consciencia y cómo una colección de neuronas es capaz de generar una experiencia subjetiva del mundo. Y, por supuesto, también me fascina la muerte. En realidad, el libro comienza precisamente ahí. La pregunta qué significa estar vivo está íntimamente ligada a la pregunta qué significa dejar de estarlo. Gran parte de la ciencia, la filosofía, la religión e incluso la tecnología pueden entenderse como diferentes intentos de responder a esa misma inquietud humana. Al final, comprender la vida y comprender la muerte son dos caras de la misma pregunta.
Noticias de Sociedad en La Razón
