La Inteligencia Artificial, dijo John McCarthy cuando acuñó el término en las conferencias de Darmouth de 1956, es: “…la ciencia e ingeniería de hacer máquinas inteligentes, especialmente programas de cómputo inteligentes.” Ese sentido no ha cambiado desde entonces. En cambio, las técnicas y aplicaciones de la Inteligencia Artificial son cada más variadas, profundas y sorprendentes. A pasos exponenciales inundarán nuestras vidas y pronto serán tan omnipresentes que apenas las percibiremos, como hoy nos sucede con la televisión, los modernos teléfonos móviles y el Internet que forman parte de nuestras vidas y, de alguna manera nos podríamos preguntar: ¿Qué haríamos sin todo esto?
Androide de la película «Yo, robot»
Puede que vivamos en un mundo donde cada persona se conectará mentalmente con una red de ordenadores con miles de mentes pensantes también conectadas. O puede que las máquinas realicen todas las tareas para nosotros y nos permitan vivir con total lujo durante toda nuestra vida. Pero ¿qué ocurriría si las máquinas nos vieran como algo innecesario – o algo peor-? Si las máquinas llegan al punto donde se puedan reparar ellas mismas o incluso crear versiones mucho mejores, ¿podrían llegar a la conclusión de los humanos son simplemente una molestia? Realmente es un escenario que asusta. ¿Podría ser cierta la versión de Vinge del futuro? ¿Hay alguna manera de evitarlo?
He dado muchas vueltas a la IA y a la consciencia de los seres vivos. Las conclusiones a las que he podido llegar son que el pensamiento consciente debe involucrar componentes que no pueden ser siquiera simulados adecuadamente por una mera computación; menos aún podría la computación por sí sola, provocar cualquier sentimiento o intención consciente. En consecuencia, la mente debe ser realmente algo que no puede describirse mediante ningún tipo de términos computacionales. Sin embargo, noticias que llegan de nuevos descubrimientos te hacen dudar de hasta dónde podrán llegar esos “seres” artificiales creados por el hombre.
¿Llegaremos a construir replicantes que, como el replicante Geminoid DK sean físicamente idénticos a los seres humanos?, e incluso otros que, como Robonaut 2 que han salido de la Tierra en su primer viaje espacial; gracias a la fibra óptica incluso puedan llegar a sentir frío y calor, y, en general, ¿haremos infinidad de pequeñas máquinas capaces de hacer o imitar cualquier tipo de cocimiento humano con total fluidez? Algunas de esas cosas ya se han conseguido. Pero siguen teniendo un nivel muy bajo de inteligencia, insuficiente como para que gocen de autonomía. Sin embargo…
Da miedo pensar que esto llegue
¿Hasta dónde llegaremos?
De todas las maneras, no dejamos de insistir y queremos llegar a conseguir poder insertar los sentimientos en esos seres artificiales que cada día creamos con mayor perfección. ¿No somos conscientes del peligro que conlleva imitar a los humanos de esa manera? Las consecuencias son impredecibles y, como tantas otras cosas, cuando queramos darnos cuenta…será tarde.
Investigadores europeos están desarrollando un software que dará a los robots la capacidad de aprender cuándo una persona está triste, feliz o enfadada. El proyecto Feelix Growing está uniendo sencillos robots que pueden detectar diferentes parámetros (expresiones faciales, voz y cercanía) para determinar estados emocionales. El objetivo del proyecto es desarrollar un robot que pueda servir a los humanos con necesidades especiales, como los enfermos y los ancianos mediante redes neuronales adaptables, el robot puede aprender la manera correcta de responder a las emociones de la gente a partir de la experiencia. Por ejemplo, si alguien tiene miedo, el robot puede aprender a cambiar su comportamiento para parecer menos amenazante. Si alguien parece feliz, el robot puede tomar nota mental (¿positrónica, espintrónica…?) de lo que logró esa respuesta. Y si alguien parece enfadado o solitario, puede darle una palmadita en la espalda, ofrecerle una bebida fuerte y decir: “No te preocupes, te mereces a alguien mejor”. Sólo podemos esperar que no se hayan olvidado de las tres leyes de Asimov.
Bien es verdad que no tenemos una comprensión científica de la mente humana. Sin embargo, esto no quiere decir que el fenómeno de la consciencia deba permanecer fuera de la explicación científica. Ya se están buscando caminos científicos para dar esa explicación del misterio más profundo (seguramente) del Universo. Y, a pesar de no conocer a fondo nuestra mente, ya estamos tratando de incorporar, a mentes artificiales lo poco que de ella sabemos. ¿No será una temeridad?
A su imagen y semejanza. La Geminoid F es la androide con apariencia femenina
Estamos en el camino: Prototipos al servicio de la sociedad, como una androide-enfermera, el robot-mayordomo para el hogar… Todo eso está a la vuelta de la esquina y, yo me pregunto: ¿Cómo será ese futuro nuestro?
La comprensión es, después de todo, de lo que trata la ciencia; y la ciencia es mucho más que la mera computación mecánico-electrónica. Sin embargo, parece que la realidad desmiente estos pensamientos y, podría llegar el momento en el que, la Inteligencia Artificial, alcance niveles preocupantes al dotar, a esos “seres” artificiales de pensar por sí mismos y, si me apuran, hasta de tener sentimientos.
¿Cuál es el campo de acción de la ciencia? ¿Son solamente los atributos materiales de nuestro Universo los que son abordables con sus métodos, mientras nuestra existencia mental debe quedar para siempre fuera de su alcance? ¿O podríamos llegar algún día a una comprensión científica adecuada del profundo misterio de la mente? ¿Es el fenómeno de la consciencia humana algo que está más allá del dominio de la investigación científica, o podrá la potencia del método científico resolver algún día el problema de la propia existencia de nuestro yo consciente?
Claro que, hacemos estas preguntas y, por otro lado, al ver todo lo que está pasando y todo lo que pretendemos hacer, cabría preguntarse: ¿Somos en verdad conscientes?
Sí, tenemos la facultad de meditar profundamente y, a través de esas meditaciones alcanzar un estadio de mayor “consciencia” y comprensión, un estado tal que nos puede llevar a una conexión tan real con el Universo que es como si viajáramos fuera de este mundo para visitar, ese otro mundo hecho de pura luz donde podríamos encontrar la sabiduría que necesitamos. ¡Falta nos hace!
Creo que se avecina un cambio importante, y, nuestros cerebros que forman parte del mundo material del Universo, tiene un ingrediente que aún no hemos llegado a comprender. Incluso con nuestra limitada comprensión actual de la naturaleza de este ingrediente ausente en nuestro saber, sí podemos empezar a señalar donde debe estar dejando su huella, y como debería estar aportando una contribución vital a lo que quiera que sea en que subyacen nuestros sentimientos y acciones conscientes. ¿Por qué tratamos de regalar ese don? El que no lo comprendamos no quiere decir que lo tengamos que dar y, menos, a “seres aerificiales” de cuya evolución no podemos responder.
Una visión científica del mundo que no trate de entender en profundidad el problema de la mente consciente no puede tener pretensiones serias de compleción. La consciencia es parte de nuestro Universo, de modo que cualquier teoría física que no le conceda un lugar apropiado se queda muy lejos de proporcionar una descripción auténtica del mundo que, nosotros (tan engreídos como siempre) queremos cambiar.
Claro que, todo conocimiento científico es un arma de dos filos. Lo que realmente hacemos con nuestro conocimiento científico es otra cuestión. Tratemos de ver hasta dónde pueden llevarnos nuestras visiones de la ciencia y la mente.
Pensemos que incluso en aquellos países afortunados donde hay una paz próspera y una libertad democrática, los recursos naturales y humanos son malgastados de formas aparentemente absurdas. ¿No es ésta una clara muestra de la estupidez general del hombre? Aunque creemos representar el pináculo de la inteligencia en el reino animal, esta inteligencia parece tristemente inadecuada para manejar muchos de los problemas a los que nuestra propia sociedad nos obliga a hacer frente.
Esta simple escena, en algunos lugares, resulta una maravilla
Pese a todo, no pueden negarse los logros positivos de nuestra inteligencia. Entre dichos logros se encuentran nuestras impresionantes ciencia y tecnología. En realidad, algunos de estos logros son alto cuestionables a largo (o corto) plazo, así lo atestiguan múltiples problemas medioambientales y un genuino temor a una catástrofe mundial inducida por las nuevas tecnologías traídas de la mano por nuestra moderna sociedad (aquí mismo, en éste foro, nos hicimos eco del temor de muchos sobre las consecuencias que podría traer el LHC) pero, y la IA ¿Qué nos traerá?
Pero, no podemos mirar para otro lado sin ver que, nuestras tecnologías no sólo nos proporcionan una enorme expansión del dominio de nuestro yo físico sino que también amplia nuestras capacidades mentales mejorando en gran medida nuestras habilidades para realizar muchas tareas rutinarias. ¿Qué pasa con las tareas mentales que no son rutinarias, las tareas que requieren inteligencia genuina?
A veces me pregunto si podrían ser los Robots la respuesta. ¿No existe la posibilidad completamente diferente de una enorme expansión de una capacidad mental, a saber, esa inteligencia electrónica ajena que apenas está empezando a emerger de los extraordinarios avances en tecnología de ordenadores? De hecho, con frecuencia nos dirigimos ya a los ordenadores en busca de asistencia intelectual.
¿No os parece sorprendente que, de mecanismos como este podamos obtener información imposible por nuestros propios medios?
No me gustaría dejar el mundo en estas manos
Hay muchas circunstancias en las que la inteligencia humana sin ayuda no resulta nada adecuada para prever las consecuencias probables de acciones alternativas. Tales consecuencias pueden quedar mucho más allá del alcance del poder computacional humano; así pues, cabe esperar que los ordenadores del futuro amplíen enormemente este papel, en donde la computación pura y dura proporcione una ayuda incalculable para la inteligencia humana.
Pero ¿no cabe la posibilidad de que los ordenadores lleguen finalmente a conseguir mucho más que todo esto? Muchos expertos afirman que los ordenadores nos ofrecen, al menos en principio, el potencial para una inteligencia artificial que al final superará a la nuestra. Una vez que los robots controlados por ordenador alcancen el nivel de “equivalencia humana”, entonces no pasará mucho tiempo, argumentan ellos, antes de que superen rápidamente nuestro propio y exiguo nivel. Sólo entonces, afirman estos expertos, tendremos una autoridad con inteligencia, sabiduría y entendimiento suficientes que sea capaz de resolver los problemas de este mundo que ha creado la humanidad pero que no sabe ni está capacitada para regular en la adecuada forma.
Avanzamos en tecnología y no sabemos erradicar la inmigración del hambre
A todo esto señalan el rapidísimo crecimiento exponencial de la potencia de los ordenadores y basan sus estimaciones en comparación entre la velocidad y precisión de los transistores, y la relativa lentitud y poca sólida acción de las neuronas. De hecho, los circuitos electrónicos son ya más de un millón de veces más rápido que el disparo de las neuronas en el cerebro (siendo la velocidad de aproximadamente 109 segundos para los transistores y de 103 segundos para las neuronas, y tienen una exactitud cronométrica y una precisión de acción que de ningún modo comparten las neuronas.
El Chip Intel Pentium tiene más de tres millones de de transistores en una “rodaja de silicio” del tamaño aproximado de una uña del pulgar, capaz cada uno de ellos de realizar 113 millones de instrucciones por segundo (no se si cuando esto escribo ya estará superado ese record).
El microprocesador Pentium (que aquí se muestra con una ampliación de 2,5 veces) es fabricado por Intel Corporation. Contiene más de tres millones de transistores, y puede hacer que algunas partes de sus circuitos vayan más lentas o se detengan cuando no son necesarias, con lo que ahorra energía.
Se argumenta que el número total de neuronas de un cerebro humano (unos cientos de miles de millones) supera absolutamente al número de transistores de un ordenador. Además, existen muchas más conexiones, en promedio, entre neuronas diferentes que las que existen entre los transistores de un ordenador. En particular las células de Purkinje en el cerebelo pueden tener hasta ochenta mil terminaciones sinápticas (uniones entre neuronas), mientras que para un ordenador, el número correspondiente es de tres o cuatro a lo sumo. Además, la mayoría de los transistores de los ordenadores actuales están relacionados solamente con la memoria y no directamente con la acción computacional, mientras que tal acción computacional podría estar mucho más extendida en el caso del cerebro.
Pueden apreciarse aquí, con el objetivo de 40x, las tres capas de células nerviosas que integran la corteza cerebelosa: capa molecular, capa de célula de Purkinje y capa granular. Nótese la diferente densidad y tamaño de las neuronas de cada una, destacando los grandes somas de las células de Purkinje, apreciables a mayor aumento en otra microfotografía (zona encuadrada en rojo)
Si hiciéramos caso de las afirmaciones más extremas de los defensores más locuaces de la IA, y aceptáramos que los ordenadores y los robots guiados por ordenador superarán con el tiempo (quizá en relativo poco tiempo) todas las capacidades humanas, entonces los ordenadores serían capaces de hacer muchísimo más que ayudar simplemente a nuestras inteligencias. Podríamos entonces dirigirnos a estas inteligencias superiores en busca de consejo y autoridad en todas las cuestiones de interés; ¡y finalmente podrían resolverse los problemas del mundo generados por la humanidad!
Pero parece haber otra consecuencia lógica de estos desarrollos potenciales que muy bien podría producirnos una alarma genuina. ¿No harían estos ordenadores a la largo superfluos a los propios humanos? Si los robots guiados por ordenador resultaran ser superiores a nosotros en todos los aspectos, entonces ¿no descubrirían que pueden dirigir el mundo sin ninguna necesidad de nosotros? La propia humanidad se habría quedado obsoleta. Quizá si tenemos suerte, ellos podrían conservarnos como animales de compañía, incluso podrían exhibirnos en museos para recordar a sus creadores.
Yo, como he dejado claro otras veces. Soy partidario de pensar que, una cosa es la Inteligencia Artificial y otra muy distinta es el pensamiento consciente, muy superior a aquella que trabaja sólo con los datos suministrados previamente, sin el poder de repentizar una solución que no esté en su programación. ¿Llegarán los robots algún día a pensar por sí mismos, como ahora lo hacemos nosotros?
La cuestión no es nada sencilla y plantea muchas variantes de entre las que, así, de momento, podríamos exponer aquí las siguientes:
Todo pensamiento es computación; en particular, las sensaciones de conocimiento consciente son provocadas simplemente por la ejecución de computaciones apropiadas.
El conocimiento es un aspecto de la acción física del cerebro; y si bien cualquier acción física puede ser simulada computacionalmente, la simulación computacional no puede por sí misma provocar conocimiento.
La acción física apropiada del cerebro provoca conocimiento, pero esta acción física nunca puede ser simulada adecuadamente de forma computacional.
El conocimiento no puede explicarse en términos físicos, computacionales o cualesquiera otros términos científicos.
Materia, energía, luz… para llegar a ser conscientes
Está claro que adentrarnos aquí a ciertas profundidades del pensamiento, no parece adecuado ni al momento ni al lugar, sin embargo, debemos pensar en que, la propia materia parece tener una existencia meramente transitoria puesto que puede transformarse de una forma en otra. Incluso la masa de un cuerpo material , que proporciona una medida física precisa de la cantidad de materia que contiene el cuerpo, puede transformarse en circunstancias apropiadas en pura energía (según E=mc2) de modo que incluso la sustancia material parece ser capaz de transformarse en algo con una actualidad meramente matemática y teórica.
De todas las maneras, por mi parte, me quedo con el punto tercero de los enumerados anteriormente, es un punto de vista más operacional que el anterior, puesto que afirma que existen manifestaciones externas conscientes (por ejemplo, cerebros) que difieren de las manifestaciones externas de un ordenador: los efectos externos de la consciencia no pueden ser correctamente simulados por un ordenador (creo).
¿Permite la Física actual la posibilidad de una acción que, en principio, sea imposible de simular en un ordenador? La respuesta no está completamente clara, sin embargo, según creo, es que tal acción no computacional tendría que encontrarse en un área de la física que está fuera de las leyes físicas actualmente conocidas.
Claro que, en este simple comentario, no queda claro quien será el vencedor final: Fisicalismo frente a Mentalismo. Seremos tan estúpidos como para poder crear máquinas que nos superen en inteligencia hasta el punto de que puedan dominarnos.
Ahí queda la pregunta del título del trabajo flotando en el aire. ¿Quién la quiere contestar?
NICK BOSTROM, el filósofo que advierte de los riesgos de la super-inteligencia artificial
Por Maruxa Ruiz del Árbol
Nick Bostrom
Bautizado como “el filósofo del fin del mundo” por el New Yorker, Nick Bostrom no tiene aspecto de loco apocalíptico. Es más bien la imagen de la mesura y la reflexión, aunque sus ideas desaten polémicas cada vez que las expone y gane acérrimos enemigos con la misma facilidad con que consigue fervorosos defensores. Entre estos últimos se encuentran mentes tan brillantes como las de Stephen Hawking o visionarios de las nuevas tecnologías como Bill Gates o Elon Musk.
Lo que ha llamado la atención de este filósofo sueco, director y fundador del Future of Humanity Institute en la universidad de Oxford, son sus desarrollos acerca de los peligros que acechan a nuestra especie detrás de la inteligencia artificial. Frente al optimismo ingenuo de quienes ven en las máquinas pensantes la solución a todos nuestros problemas, Bostrom advierte que debemos tener cautela. O, dicho en sus propias palabras, dejar de comportarnos como “niños pequeños jugando con una bomba”.
La posibilidad de que los ordenadores o los robots que estamos construyendo nos superen en inteligencia algún día no es descabellada. Lo que hasta hace muy poco era terreno de la ciencia ficción debe observarse ahora como un horizonte muy probable: “creo que si hay algo que puede cambiar fundamentalmente la naturaleza de la vida en la Tierra, eso es la transición hacia la era de la inteligencia de las máquinas. No tenemos otra opción que enfrentar este desafío.
La super-inteligencia de las máquinas es como un portal que la humanidad debe atravesar obligatoriamente, pero debemos asegurarnos de no chocar contra el muro cuando lo hagamos”. Aunque pudiera parecer lo contrario, el de Bostrom no es un mensaje desesperanzador ni predica -como si fuera una versión digital de los luditas que destrozaron las máquinas durante la primera revolución industrial- una guerra contra las nuevas tecnologías. De hecho su confianza en las posibilidades de la ciencia le llevó a fundar en 1998 la Asociación Mundial Transhumanista, que defiende potenciar las capacidades humanas a través de una hibridación con la tecnología.
En una entrevista con El País, Bostrom incidía en que su función es llamar a una reflexión profunda, no demonizar las máquinas: “hay muchas cosas que no van bien en este mundo: gente que se muere de hambre, gente a la que le pica un mosquito y contrae la malaria, gente que decae por el envejecimiento, desigualdades, injusticias, pobreza, y muchas son evitables. En general, creo que hay una carrera entre nuestra habilidad para hacer cosas, para hacer progresar rápidamente nuestra capacidades tecnológicas, y nuestra sabiduría, que va mucho más despacio. Necesitamos un cierto nivel de sabiduría y de colaboración para el momento en que alcancemos determinados hitos tecnológicos, para sobrevivir a esas transiciones”.
Como defiende en su libro Super-inteligencia: Caminos, Peligros, Estrategias, publicado en 2014 (y que entró rápidamente en la lista de los más vendidos del New York Times Book Review) el verdadero reto no está tanto en la inteligencia que sean capaces de alcanzar las máquinas, sino en el desarrollo moral de nuestra especie. Al final, como ya postuló Jean-Paul Sartre, estamos condenados a ser libres. Y eso puede ser peligroso, pero también una excelente oportunidad para dar otro salto evolutivo. (http://www.nickbostrom.com)
La Inteligencia Artificial, dijo John McCarthy cuando acuñó el término en las conferencias de Darmouth de 1956, es: “…la ciencia e ingeniería de hacer máquinas inteligentes, especialmente programas de cómputo inteligentes.” Ese sentido no ha cambiado desde entonces. En cambio, las técnicas y aplicaciones de la Inteligencia Artificial son cada más variadas, profundas y sorprendentes. A pasos exponenciales inundarán nuestras vidas y pronto serán tan omnipresentes que apenas las percibiremos, como hoy nos sucede con la televisión, los modernos teléfonos móviles y el Internet que forman parte de nuestras vidas y, de alguna manera nos podríamos preguntar: ¿Qué haríamos sin todo esto?
Androide de la película «Yo, robot»
Puede que vivamos en un mundo donde cada persona se conectará mentalmente con una red de ordenadores con miles de mentes pensantes también conectadas. O puede que las máquinas realicen todas las tareas para nosotros y nos permitan vivir con total lujo durante toda nuestra vida. Pero ¿qué ocurriría si las máquinas nos vieran como algo innecesario – o algo peor-? Si las máquinas llegan al punto donde se puedan reparar ellas mismas o incluso crear versiones mucho mejores, ¿podrían llegar a la conclusión de los humanos son simplemente una molestia? Realmente es un escenario que asusta. ¿Podría ser cierta la versión de Vinge del futuro? ¿Hay alguna manera de evitarlo?
He dado muchas vueltas a la IA y a la consciencia de los seres vivos. Las conclusiones a las que he podido llegar son que el pensamiento consciente debe involucrar componentes que no pueden ser siquiera simulados adecuadamente por una mera computación; menos aún podría la computación por sí sola, provocar cualquier sentimiento o intención consciente. En consecuencia, la mente debe ser realmente algo que no puede describirse mediante ningún tipo de términos computacionales. Sin embargo, noticias que llegan de nuevos descubrimientos te hacen dudar de hasta dónde podrán llegar esos “seres” artificiales creados por el hombre.
¿Llegaremos a construir replicantes que, como el replicante Geminoid DK sean físicamente idénticos a los seres humanos?, e incluso otros que, como Robonaut 2 que han salido de la Tierra en su primer viaje espacial; gracias a la fibra óptica incluso puedan llegar a sentir frío y calor, y, en general, ¿haremos infinidad de pequeñas máquinas capaces de hacer o imitar cualquier tipo de movimiento humano con total fluidez? Algunas de esas cosas ya se han conseguido. Pero siguen teniendo un nivel muy bajo de inteligencia, insuficiente como para que gocen de autonomía. Sin embargo…
Da miedo pensar que esto llegue
¿Hasta dónde llegaremos?
De todas las maneras, no dejamos de insistir y queremos llegar a conseguir poder insertar los sentimientos en esos seres artificiales que cada día creamos con mayor perfección. ¿No somos conscientes del peligro que conlleva imitar a los humanos de esa manera? Las consecuencias son impredecibles y, como tantas otras cosas, cuando queramos darnos cuenta…será tarde.
Así se comienza y…. Así se finaliza
Investigadores europeos están desarrollando un software que dará a los robots la capacidad de aprender cuándo una persona está triste, feliz o enfadada. El proyecto Feelix Growing está uniendo sencillos robots que pueden detectar diferentes parámetros (expresiones faciales, voz y cercanía) para determinar estados emocionales. El objetivo del proyecto es desarrollar un robot que pueda servir a los humanos con necesidades especiales, como los enfermos y los ancianos mediante redes neuronales adaptables, el robot puede aprender la manera correcta de responder a las emociones de la gente a partir de la experiencia. Por ejemplo, si alguien tiene miedo, el robot puede aprender a cambiar su comportamiento para parecer menos amenazante. Si alguien parece feliz, el robot puede tomar nota mental (¿positrónica, espintrónica…?) de lo que logró esa respuesta. Y si alguien parece enfadado o solitario, puede darle una palmadita en la espalda, ofrecerle una bebida fuerte y decir: “No te preocupes, te mereces a alguien mejor”. Sólo podemos esperar que no se hayan olvidado de las tres leyes de Asimov.
Bien es verdad que no tenemos una comprensión científica de la mente humana. Sin embargo, esto no quiere decir que el fenómeno de la consciencia deba permanecer fuera de la explicación científica. Ya se están buscando caminos científicos para dar esa explicación del misterio más profundo (seguramente) del Universo. Y, a pesar de no conocer a fondo nuestra mente, ya estamos tratando de incorporar, a mentes artificiales lo poco que de ella sabemos. ¿No será una temeridad?
A su imagen y semejanza. La Geminoid F es la androide con apariencia femenina
Estamos en el camino: Prototipos al servicio de la sociedad, como una androide-enfermera, el robot-mayordomo para el hogar… Todo eso está a la vuelta de la esquina y, yo me pregunto: ¿Cómo será ese futuro nuestro?
La comprensión es, después de todo, de lo que trata la ciencia; y la ciencia es mucho más que la mera computación mecánico-electrónica. Sin embargo, parece que la realidad desmiente estos pensamientos y, podría llegar el momento en el que, la Inteligencia Artificial, alcance niveles preocupantes al dotar, a esos “seres” artificiales de pensar por sí mismos y, si me apuran, hasta de tener sentimientos.
¿Cuál es el campo de acción de la ciencia? ¿Son solamente los atributos materiales de nuestro Universo los que son abordables con sus métodos, mientras nuestra existencia mental debe quedar para siempre fuera de su alcance? ¿O podríamos llegar algún día a una comprensión científica adecuada del profundo misterio de la mente? ¿Es el fenómeno de la consciencia humana algo que está más allá del dominio de la investigación científica, o podrá la potencia del método científico resolver algún día el problema de la propia existencia de nuestro yo consciente?
Claro que, hacemos estas preguntas y, por otro lado, al ver todo lo que está pasando y todo lo que pretendemos hacer, cabría preguntarse: ¿Somos en verdad conscientes?
Sí, tenemos la facultad de meditar profundamente y, a través de esas meditaciones alcanzar un estadio de mayor “consciencia” y comprensión, un estado tal que nos puede llevar a una conexión tan real con el Universo que es como si viajáramos fuera de este mundo para visitar, ese otro mundo hecho de pura luz donde podríamos encontrar la sabiduría que necesitamos. ¡Falta nos hace!
Creo que se avecina un cambio importante, y, nuestros cerebros que forman parte del mundo material del Universo, tiene un ingrediente que aún no hemos llegado a comprender. Incluso con nuestra limitada comprensión actual de la naturaleza de este ingrediente ausente en nuestro saber, sí podemos empezar a señalar donde debe estar dejando su huella, y como debería estar aportando una contribución vital a lo que quiera que sea en que subyacen nuestros sentimientos y acciones conscientes. ¿Por qué tratamos de regalar ese don? El que no lo comprendamos no quiere decir que lo tengamos que dar y, menos, a “seres aerificiales” de cuya evolución no podemos responder.
Una visión científica del mundo que no trate de entender en profundidad el problema de la mente consciente no puede tener pretensiones serias de compleción. La consciencia es parte de nuestro Universo, de modo que cualquier teoría física que no le conceda un lugar apropiado se queda muy lejos de proporcionar una descripción auténtica del mundo que, nosotros (tan engreídos como siempre) queremos cambiar.
Claro que, todo conocimiento científico es un arma de dos filos. Lo que realmente hacemos con nuestro conocimiento científico es otra cuestión. Tratemos de ver hasta dónde pueden llevarnos nuestras visiones de la ciencia y la mente.
Pensemos que incluso en aquellos países afortunados donde hay una paz próspera y una libertad democrática, los recursos naturales y humanos son malgastados de formas aparentemente absurdas. ¿No es ésta una clara muestra de la estupidez general del hombre? Aunque creemos representar el pináculo de la inteligencia en el reino animal, esta inteligencia parece tristemente inadecuada para manejar muchos de los problemas a los que nuestra propia sociedad nos obliga a hacer frente.
Esta simple escena, en algunos lugares, resulta una maravilla
Pese a todo, no pueden negarse los logros positivos de nuestra inteligencia. Entre dichos logros se encuentran nuestras impresionantes ciencia y tecnología. En realidad, algunos de estos logros son alto cuestionables a largo (o corto) plazo, así lo atestiguan múltiples problemas medioambientales y un genuino temor a una catástrofe mundial inducida por las nuevas tecnologías traídas de la mano por nuestra moderna sociedad (aquí mismo, en éste foro, nos hicimos eco del temor de muchos sobre las consecuencias que podría traer el LHC) pero, y la IA ¿qué nos traerá?
Pero, no podemos mirar para otro lado sin ver que, nuestras tecnologías no sólo nos proporcionan una enorme expansión del dominio de nuestro yo físico sino que también amplia nuestras capacidades mentales mejorando en gran medida nuestras habilidades para realizar muchas tareas rutinarias. ¿Qué pasa con las tareas mentales que no son rutinarias, las tareas que requieren inteligencia genuina?
A veces me pregunto si podrían ser los Robots la respuesta. ¿No existe la posibilidad completamente diferente de una enorme expansión de una capacidad mental, a saber, esa inteligencia electrónica ajena que apenas está empezando a emerger de los extraordinarios avances en tecnología de ordenadores? De hecho, con frecuencia nos dirigimos ya a los ordenadores en busca de asistencia intelectual.
¿No os parece sorprendente que, de mecanismos como este podamos obtener información imposible por nuestros propios medios?
No me gustaría dejar el mundo en estas manos
Hay muchas circunstancias en las que la inteligencia humana sin ayuda no resulta nada adecuada para prever las consecuencias probables de acciones alternativas. Tales consecuencias pueden quedar mucho más allá del alcance del poder computacional humano; así pues, cabe esperar que los ordenadores del futuro amplíen enormemente este papel, en donde la computación pura y dura proporcione una ayuda incalculable para la inteligencia humana.
Pero ¿no cabe la posibilidad de que los ordenadores lleguen finalmente a conseguir mucho más que todo esto? Muchos expertos afirman que los ordenadores nos ofrecen, al menos en principio, el potencial para una inteligencia artificial que al final superará a la nuestra. Una vez que los robots controlados por ordenador alcancen el nivel de “equivalencia humana”, entonces no pasará mucho tiempo, argumentan ellos, antes de que superen rápidamente nuestro propio y exiguo nivel. Sólo entonces, afirman estos expertos, tendremos una autoridad con inteligencia, sabiduría y entendimiento suficientes que sea capaz de resolver los problemas de este mundo que ha creado la humanidad pero que no sabe ni está capacitada para regular en la adecuada forma.
Avanzamos en tecnología y no sabemos erradicar la inmigración del hambre
A todo esto señalan el rapidísimo crecimiento exponencial de la potencia de los ordenadores y basan sus estimaciones en comparación entre la velocidad y precisión de los transistores, y la relativa lentitud y poca sólida acción de las neuronas. De hecho, los circuitos electrónicos son ya más de un millón de veces más rápido que el disparo de las neuronas en el cerebro (siendo la velocidad de aproximadamente 109segundos para los transistores y de 103 segundos para las neuronas, y tienen una exactitud cronométrica y una precisión de acción que de ningún modo comparten las neuronas.
El Chip Intel Pentium tiene más de tres millones de de transistores en una “rodaja de silicio” del tamaño aproximado de una uña del pulgar, capaz cada uno de ellos de realizar 113 millones de instrucciones por segundo (no se si cuando esto escribo ya estará superado ese record).
El microprocesador Pentium (que aquí se muestra con una ampliación de 2,5 veces) es fabricado por Intel Corporation. Contiene más de tres millones de transistores, y puede hacer que algunas partes de sus circuitos vayan más lentas o se detengan cuando no son necesarias, con lo que ahorra energía.
Se argumenta que el número total de neuronas de un cerebro humano (unos cientos de miles de millones) supera absolutamente al número de transistores de un ordenador. Además, existen muchas más conexiones, en promedio, entre neuronas diferentes que las que existen entre los transistores de un ordenador. En particular las células de Purkinje en el cerebelo pueden tener hasta ochenta mil terminaciones sinápticas (uniones entre neuronas), mientras que para un ordenador, el número correspondiente es de tres o cuatro a lo sumo. Además, la mayoría de los transistores de los ordenadores actuales están relacionados solamente con la memoria y no directamente con la acción computacional, mientras que tal acción computacional podría estar mucho más extendida en el caso del cerebro.
Pueden apreciarse aquí, con el objetivo de 40x, las tres capas de células nerviosas que integran la corteza cerebelosa: capa molecular, capa de célula de Purkinje y capa granular. Nótese la diferente densidad y tamaño de las neuronas de cada una, destacando los grandes somas de las células de Purkinje, apreciables a mayor aumento en otra microfotografía (zona encuadrada en rojo)
Si hiciéramos caso de las afirmaciones más extremas de los defensores más locuaces de la IA, y aceptáramos que los ordenadores y los robots guiados por ordenador superarán con el tiempo (quizá en relativo poco tiempo) todas las capacidades humanas, entonces los ordenadores serían capaces de hacer muchísimo más que ayudar simplemente a nuestras inteligencias. Podríamos entonces dirigirnos a estas inteligencias superiores en busca de consejo y autoridad en todas las cuestiones de interés; ¡y finalmente podrían resolverse los problemas del mundo generados por la humanidad!
Pero parece haber otra consecuencia lógica de estos desarrollos potenciales que muy bien podría producirnos una alarma genuina. ¿No harían estos ordenadores a la largo superfluos a los propios humanos? Si los robots guiados por ordenador resultaran ser superiores a nosotros en todos los aspectos, entonces ¿no descubrirían que pueden dirigir el mundo sin ninguna necesidad de nosotros? La propia humanidad se habría quedado obsoleta. Quizá si tenemos suerte, ellos podrían conservarnos como animales de compañía, incluso podrían exhibirnos en museos para recordar a sus creadores.
Una piensa por sí misma gracias a su preparaci´çon y estudios, mientras que el otro está supeditado a los programas insertos en su mente positrónica…. ¿Quién es superior a quien?
Yo, como he dejado claro otras veces. Soy partidario de pensar que, una cosa es la Inteligencia Artificial y otra muy distinta es el pensamiento consciente, muy superior a aquella que trabaja sólo con los datos suministrados previamente, sin el poder de repentizar una solución que no esté en su programación. ¿Llegarán los robots algún día a pensar por sí mismos, como ahora lo hacemos nosotros?
La cuestión no es nada sencilla y plantea muchas variantes de entre las que, así, de momento, podríamos exponer aquí las siguientes:
Todo pensamiento es computación; en particular, las sensaciones de conocimiento consciente son provocadas simplemente por la ejecución de computaciones apropiadas.
El conocimiento es un aspecto de la acción física del cerebro; y si bien cualquier acción física puede ser simulada computacionalmente, la simulación computacional no puede por sí misma provocar conocimiento.
La acción física apropiada del cerebro provoca conocimiento, pero esta acción física nunca puede ser simulada adecuadamente de forma computacional.
El conocimiento no puede explicarse en términos físicos, computacionales o cualesquiera otros términos científicos.
Materia, energía, luz… para llegar a ser conscientes…. ¡Mucho más que simple computación!
Está claro que adentrarnos aquí a ciertas profundidades del pensamiento, no parece adecuado ni al momento ni al lugar, sin embargo, debemos pensar en que, la propia materia parece tener una existencia meramente transitoria puesto que puede transformarse de una forma en otra. Incluso la masa de un cuerpo material , que proporciona una medida física precisa de la cantidad de materia que contiene el cuerpo, puede transformarse en circunstancias apropiadas en pura energía (según E=mc2) de modo que incluso la sustancia material parece ser capaz de transformarse en algo con una actualidad meramente matemática y teórica.
De todas las maneras, por mi parte, me quedo con el punto tercero de los enumerados anteriormente, es un punto de vista más operacional que el anterior, puesto que afirma que existen manifestaciones externas conscientes (por ejemplo, cerebros) que difieren de las manifestaciones externas de un ordenador: los efectos externos de la consciencia no pueden ser correctamente simulados por un ordenador (creo).
Lo cierto es que cuesta pensar que, en el futuro, de los robots puedan surgir ideas y no sentimientos,,, ¡Precisamente ahí radica el peligro!
¿Permite la Física actual la posibilidad de una acción que, en principio, sea imposible de simular en un ordenador? La respuesta no está completamente clara, sin embargo, según creo, es que tal acción no computacional tendría que encontrarse en un área de la física que está fuera de las leyes físicas actualmente conocidas.
Claro que, en este simple comentario, no queda claro quien será el vencedor final: Fisicalismo frente a Mentalismo. Seremos tan estúpidos como para poder crear máquinas que nos superen en inteligencia hasta el punto de que puedan dominarnos.
Ahí queda la pregunta del título del trabajo flotando en el aire. ¿Quién la quiere contestar?
Esta Inteligencia Artificial (IA) de Facebook ha tenido que ser desactivada.
Una sección de investigación de Facebook desarrolló una IA para mejorar los chatbots de Facebook. Para probarla, dejaron a dos máquinas de este tipo manteniendo una conversación libre entre sí. El resultado, el más inesperado de todos: crearon un nuevo idioma. Al principio pensaban que era un error, pero se pudo comprobar que sí, que se estaban comunicando en un lenguaje nuevo y desarrollado por ‘ellos’.
Un lenguaje que no entendamos podría llegar a ser peligroso
Lejos de ser un buen resultado, los investigadores al cargo de esta IA han decidido ‘apagarla’. Pero no por miedo ni porque temían que fuera el comienzo de una Inteligencia Artificial malévola. La razón era mucho más sencilla: si la IA decidiera comunicarse en su propio lenguaje, perderíamos el control sobre ella.
La razón para apagar la IA es muy simple: podría llegar un momento en el que se perdiera el control sobre ella
Es cierto que el lenguaje que habían creado era mucho más eficiente. No obstante, nunca podríamos llegar a comunicarnos, o al menos sería muy complicado. Los resultados de la conversación pueden resultar absurdos a simple vista, pero no lo son:
Bob: “I can i i everything else”
Alice: “balls have zero to me to me to me to me to me to me to me”
El hecho de repetir ‘to me’ tantas veces no quiere decir que se haya vuelto loca, sino que quiere, en este caso, 7 unidades. Este lenguaje es mucho más lógico que el nuestro (o, en este caso, que el inglés, que fue el lenguaje usado originalmente). Lo complicado, como decíamos, es entenderlo.
No es la primera vez que ocurre. Ya en el pasado Google también tuvo que recurrir a la misma solución tras presentarse el mismo problema. Como ha hecho Facebook, lo mejor es desactivarla y buscar una solución antes de que se pierda el control por completo.
“Cada vez estamos más cerca de la Inteligencia Artificial y más lejos de la especie humana”
ENTREVISTA
Ciencia y reflexión
Joaquín Fuster, a su paso por la Fundación Tatiana Pérez de Guzman El Bueno, en Madrid. SERGIO ENRÍQUEZ-NISTAL
Como gran exponente de la Neurociencia y destacado humanista, Joaquín Fuster ensalza el valor del cerebro frente a las ‘máquinas’
La tecnología es incapaz de sentir emoción, que es lo que de verdad mueve el mundo
Nacido en el seno de una familia con varias generaciones de médicos, podría decirse que en los genes del catalán Joaquín Fuster (88 años) estaba escrito su destino en la medicina, al igual que en los de su hermano, el reconocido cardiólogo Valentín Fuster. Pero ha sido él mismo quien poco a poco ha redactado su exitosa trayectoria en el área de la Neurociencia, con importantes aportaciones a nivel internacional sobre el órgano más complejo y con más interrogantes del ser humano: el cerebro.
Joaquín Fuster: «Gran parte de nuestras decisiones siguen influencias inconscientes»
Con la intención de buscar respuestas, en los años 60 se marchó a Estados Unidos para dedicarse en cuerpo y alma a la investigación y, desde entonces, continúa profundizando con afán en los secretos mejor guardados de la corteza prefrontal. Uno de ellos, la libertad, un concepto al que Joaquín Fuster brinda su ser neurocientífico, su ser humanístico, sus reflexiones más personales y un libro que publicó en 2014 (Cerebro y libertad).
En su paso por España para abordar hasta qué punto y qué estructuras del cerebro participan en la protección del ejercicio de la libertad, este gran exponente de la Neurociencia nos reserva un hueco en su agenda.
Lleva más de cinco décadas centrado en el estudio de la corteza prefrontal. ¿Por qué eligió esta parte del cerebro?
Las regiones menos conocidas son las más interesantes para nosotros. Concretamente, la corteza cerebral en general y la prefrontal en particular, sede de todas las funciones ejecutivas que son esenciales para la libertad, como la planificación y la toma de decisiones.
Inspirado por algunas de las teorías de Ramón y Cajal sobre las conexiones neuronales, no ha cejado en su empeño por saber más y más de la corteza prefrontal. ¿Qué la hace tan importante?
Hemos verificado su importancia en las funciones cognitivas y ejecutivas. Es lo que abre el organismo del niño y del adulto (su desarrollo no se completa hasta la tercera década de vida) al futuro. Una clave en la educación de los pequeños es justamente el desarrollo de esta parte de la corteza. Sólo postergando la gratificación es posible tomar decisiones desde la libertad.
¿Cómo define usted este concepto?
A grandes rasgos, es la capacidad para elegir acciones entre alternativas, incluyendo no hacer nada, y para adquirir información sensorial o de otro género que sirva para estas funciones cognitivas.
¿Somos realmente libres?
Sí, siempre teniendo en cuenta que naturalmente hay límites: la fisiología, la anatomía y la genética; la responsabilidad social y la ley. No obstante, hay que tener en cuenta que en toda decisión que tomamos, hay otros muchos factores que influyen, como la memoria individual, el pasado, el lenguaje… Estos factores modifican y sesgan nuestras decisiones conscientes e inconscientes.
¿Somos conscientes de que ejercemos nuestra libertad en nuestra toma de decisiones?
Tomamos decisiones a veces por intuiciones sin saber exactamente por qué las tomamos. Lo que llamamos la corazonada.
¿Qué valor diferencial aportan sus conocimientos humanísticos a la Neurociencia?
Son fundamentales. Es un tema que me preocupa muchísimo. Porque nuestra civilización tecnológica está dejando de lado los valores humanísticos que tan importantes son para la sociedad. Cada vez nos aproximamos más a la inteligencia artificial y nos alejamos más de la individual, de la especie humana. Los ordenadores funcionan de un modo más rápido y eficaz que nuestro cerebro para algunas cosas, pero no tienen iniciativa, no pueden crear ni imaginar.
¿Cree que damos demasiado protagonismo a la tecnología en nuestra vida cotidiana?
Nos estamos haciendo esclavos de la máquina. Hace muy bien su trabajo, pero no tiene capacidad para las relaciones sociales ni para los sentimientos y emociones, que es lo que de verdad mueve a la especie humana. Olvidamos la importancia de la música, la historia, el lenguaje y las cosas que tendrían que ser el fundamento de toda civilización.
¿Cómo es la libertad en la política? ¿Hasta qué punto somos libres para elegir a nuestros mandatarios?
En una democracia, la libertad se basa en estas dos cosas: capacidad de adquirir libremente información que no sea sesgada y la capacidad de ejercer el voto de modo libre. Como en todas las sociedades, desgraciadamente, hay individuos, entidades, partidos que miran cómo influir en la opinión publica. Son los magos políticos, los que son capaces de influir en la información, de tal modo que la opinión de la gente está, en el mejor de los casos, sesgada y es poco libre, si no es tiranizada por esas ideas.
¿Hemos perdido la confianza en nuestros políticos?
La confianza en el político es esencial. Cuando tenemos gobernantes que no se ganan la confianza de la gente, no son capaces o son delicuentes, sumamente ambiciosos, sin sentimientos altruistas auténticos, la gente se desmoraliza, desconfía y se rompe el tejido de la sociedad.
¿Cómo deberíamos cuidar nuestro cerebro y, por tanto, nuestra libertad?
Como dice mi hermano Valentín, el corazón regala años de vida y el cerebro calidad de vida. Y estoy muy de acuerdo. Es una frase fantástica. Teniendo en cuenta la combinación, lo primero que hay que cuidar es la nutrición. Después, ejercicio físico. Sin duda, es fundamental el ejercicio mental y la interacción social.
Su interés inicial era la Psiquiatría, la especialidad de su padre, profesor en la Universidad Autónoma de Madrid e impulsor del Hospital Clínic de Barcelona. ¿Cómo fue ese cambio a la Neurociencia?
En la psiquiatría, lo que interesaba e interesa saber es cómo funciona el cerebro y qué papel tiene en la enfermedad mental y qué podemos hacer para aliviarla. En los años 50, en la España de Franco no había una investigación viable en neurofisiología.
¿Y se han hallado claves de enfermedades mentales en la corteza prefrontal?
No hay enfermedad mental de ningún género que pueda localizarse en ninguna región en concreto del cerebro. Lo que sí sabemos es que ciertas enfermedades mentales como la esquizofrenia son resultados de una muerte de conexiones cerebrales entre neuronas corticales. Hay una desconexión. Al desconectarse las zonas del cerebro que más tienen que ver con la cognición, se disgrega al mismo tiempo la distribución de las influencias del cerebro básico de las emociones y te encuentras con enfermos que tienen esta desintegración de la cognición y a la vez tienen estos trastornos tan notables en las relaciones emocionales con los demás. Esto tiene mucho que ver con la prefrontal, que sirve para ligar conocimientos y memorias. Pero la corteza prefrontal no es la única parte del cerebro afectada en la esquizofrenia.
¿Cómo valora la apuesta en España por la ciencia?
La apuesta por la ciencia es variable. Depende de los presupuestos estatales y la prosperidad pública. Hay un problema de fondo. En nuestro país, desgraciadamente, la ciencia es un lujo. Estamos siguiendo al pie de la letra lo que decía Unamuno en su día: que inventen los demás. Esto requiere una reeducación de la sociedad que se ha de empezar en las escuelas. Estamos por debajo del promedio europeo en cuanto a conciencia de la ciencia.
Totales: 71.857.399
Conectados: 58
por Emilio Silvera ~
Clasificado en 
