Buscando la Gravedad cuántica »

                                    Lo cierto es que no nos damos cuenta porque está pasando continuamente a nuestro alrededor que, el presente entra en el futuro que se hace, de inmediato presente. Eso que llamamos futuro no está a nuestro alcance, toda vez que, estamos condenados a vivir confinados en un presente “eterno” y, el futuro, sólo podemos imaginarlo a medida que lo vamos construyendo.

A mí, particularmente, me da mucho miedo un futuro en el que las máquinas sean imprescindibles. En este mismo ya casi lo son. ¿Qué haríamos sin ordenadores que mediante sus programas dirigen fábricas, llevan todo el movimiento de las Bolsas del mundo y de los bancos, dirigen los satélites del espacio, llevan a cabo complicadas operaciones quirúrgicas y montan y ensamblan elaborados mecanismos industriales? El mundo quedaría paralizado sin estas tecnologías nuevas que ahora, con tanta fuerza incide en nuestras vidas. ¿Qué joven -o menos joven- circula por las calles de todas las ciudades del mundo sin su moderno teléfono móvil? Una minúscula maquinita que hace maravillas y te ofrece la opción de que te puedas meter en cualquier lugar, enviar un mensaje al otro lado del mundo, o, imágenes de los lugares que visitas a un familiar que está lejos de tí.

 

Pienso en un mundo mucho más avanzado, dentro de 500 – 1.000 años. ¿Qué habrá pasado con los robots?, máquinas cada vez más perfectas que llegaron a autofabricarse y repararse. ¿Cómo evolucionarán a partir de esos procesadores inteligentes de la nanotecnología? ¿Llegarán algún día a pensar por sí mismos? Ahí estar uno de los grandes peligros de la Humanidad.

La invención del (del checo, robota, ) se debe al esfuerzo de las sociedades humanas por liberarse de las labores más ingratas y penosas a que se ven obligados algunos de sus individuos. En un principio, la apariencia de los robots sólo atendía a las razones prácticas de las funciones que cada modelo tenía que desempeñar, o sea, su morfología estaba aconsejada por criterios funcionales y prácticos.

Una vez superada la primera fase, el hombre trata de fabricar robots que vez sean más semejantes a su creador, y aunque las primeras figuras han sido algo groseras y poco hábiles en sus movimientos, poco a poco se va perfeccionando la imitación de los humanos.

Un robot se diferencia fundamentalmente de una máquina por su capacidad para  funcionar de modo automático sin la acción permanente del hombre. Los primeros robots se mostraron especialmente válidos para llevar a cabo aquellos trabajos sencillos y repetitivos que resultaban tediosos y pesados al hombre (al Ser Humano mejor). También son ideales para el trabajo en el que se está expuesto a cierto peligro o se trabaja con materiales peligrosos en lugares nocivos para los seres vivos

Nuevas generaciones de robots que…, ¿comienzan a ser peligrosos?

Las máquinas del futuro nos pueden superar. Hemos comenzado a inventar robots que, vez son más sofisticados y tienen más prestaciones y, de seguir por ese camino, de no poner unas reglas claras, precisas u rígidas sobre el límite…las cosas podrían salir mal.

Una de las esenciales que debe tener una máquina-robot para ser considerada como tal es la posibilidad de ser programada para hacer tareas diversas según las necesidades y la acción que de ellos se requieran en cada situación. Y, si llegan a poseer la potestad de pensar por sí mismas, de repentizar soluciones no programadas, de sentir y ser conscientes…¡malo!

Dentro de algunas decenas de años, por ejemplo, no será necesario que ningún astronauta salga al espacio exterior para reparar espaciales o telescopios como hacen ahora, con riesgo de sus vidas, con el Hubble.

El miedo a los robots del futuro que citaba está relacionado con el hecho de que la robótica es el estudio de los problemas relacionados con el diseño, aplicación, control y sistemas sensoriales de los robots.

Ya van quedando muy viejos aquellos robots de primera generación (en realidad brazos mecánicos), muy utilizados en labores de menos precisión de la industria automovilística. Hoy día, los robots que se fabrican, están provistos de sofisticados sistemas “inteligentes” que son capaces de detectar elementos e incluso formas de vida rudimentarias. El proyecto de la NASA en el río Tinto es un ejemplo de ello; allí han utilizado pequeños robots capaces de comunicar científicos de los hallazgos en el fondo de un río. Actúan mediante programas informáticos complejos o no, que hacen el trabajo requerido.

Supermáquinas que pueden desarrollar trabajos imposibles

Las necesidades de la industria aeronáutica, poco a poco, han ido exigiendo sistemas de mayor precisión, capaces de tomar decisiones adecuadas en un entorno predefinido en función de las condiciones particulares de un dado. Estos ingenios, llamados de segunda generación, poseen instrumentos propios y programación informática dotada de medios de autocorrección frente a estímulos externos variables.

Los sensores utilizados por los sistemas robóticas de segunda generación son, con frecuencia, equipos de cámaras electrónicas digitales que convierten la imagen luminosa recibida el exterior en impulsos eléctricos que se comparan con patrones almacenados en un pequeño núcleo de memoria informática. Así mismo, disponen de instrumentos táctiles de alta sensibilidad y de detección de pesos y tensiones.

     Incluso en otros planetas a millones de distancia de la Tierra, realizan los trabajos programados

Los robots de tercera generación emplean avanzados métodos informáticos, los llamados sistemas de inteligencia artificial, y procedimientos de percepción multisensorial (estoy leyendo una maravillosa tesis doctoral de un ingeniero de materiales – hijo de un buen amigo – que es fascinante, y me está abriendo la mente a nuevos campos y nuevos conceptos en el ámbito de la inteligencia artificial. Su nombre es A. Mora Fernández, y tiene la suerte de ser, además, un físico teórico matemático, con lo cual, según lo que puedo deducir de su trabajo, le espera grandes empresas y mi deseo es que triunfe en ese complejo mundo de fascinantes perspectivas al que pertenece).

Estos ingenios de tercera generación adoptan algunas características del comportamiento humano al contar con la capacidad para percibir la realidad del entorno varias perspectivas y utilizar programas que rigen su propia actuación de modo inteligente. Conscientes de su situación espacial, los robots de tercera generación comprenden directamente el lenguaje humano y lo utilizan para comunicarse con las personas.

                                                                  Los Androides del futuro. ¿Tendrán autonomía de pensamiento?

La ciencia robótica, basándose en avanzados principios de la electrónica y la mecánica, busca en la constitución y modo de funcionamiento del cuerpo y del cerebro humano los fundamentos con los que diseñar androides de posibilidades físicas e intelectivas semejantes a los del ser humano.

Nada de esto es ciencia ficción; es lo que hoy mismo ocurre en el campo de la robótica. Aún no podemos hablar de robots con cerebros positrónicos o espintrónicos capaces de pensar por sí mismos y tomar decisiones que no le han sido implantadas expresamente para responder a ciertas situaciones, pero todo llegará. Ya tienen velocidad, flexibilidad, precisión y de grados de libertad. ¿Qué hasta donde llegarán? ¡Me da miedo pensar en ello!

  Pronto nos costará distinguirlos

Mecánicamente, el ya supera al ser humano; hace la misma tarea, con la misma velocidad y precisión o más que aquél, y tiene la ventaja de que no se cansa, puede continuar indefinidamente desempeñando la tarea en lugares que para nosotros serían imposibles por sus condiciones extremas.

Menos mal que, de al menos, el cerebro del ser humano no puede ser superado por un robot, ¿pero será para siempre así? Creo que el hombre es un ser que, llevado por sus ambiciones, es capaz de cometer actos que van encaminados a lograr la propia destrucción y, en el campo de la robótica, si no se tiene un exquisito cuidado, podemos tener un buen ejemplo.

de dotar a estas máquinas de autonomía de obrar y de pensar, debemos sopesar las consecuencias y evitar, por todos los medios, que un robot pueda disponer como un ser humano del “libre albedrío”, como artificial que es, siempre debe estar limitado y tener barreras infranqueables que le impidan acciones contrarias al bienestar de sus creadores o del entorno.

Es muy importante que los sistemas sensoriales de los robots estén supeditados a los límites y reglas requeridas por los sistemas de control diseñados, precisamente, para evitar problemas como los que antes mencionaba de robots tan avanzados y libre pensadores e inteligentes que, en un momento dado, puedan decidir suplantar a la Humanidad a la que, de seguir así, podrían llegar a superar. Además, debemos ser conscientes de que si construimos robots que lleguen a tener libertad de pesamiento, es decir, que sean conscientes de Ser, entonces amigos míos, habrenmos construido otra raza, una nueva especie que, de no andarnos con cuidado, acabará con la nuestra.

            simpática imagen ya ha sido superada

Pensemos en las ventajas que tendrían sobre los humanos una especie de robots tan inteligentes que ni sufrirían el paso del tiempo ni les afectaría estar en el vacío o espacio exterior, o podrían tranquilamente, al margen de las físicas y geológicas de un planeta, colonizarlo fácilmente, aunque no dispusiera de atmósfera, ya que ellos no la necesitarían y, sin embargo, podrían instalarse y explotar los recursos de cualquier mundo sin excepción. ¡Menuda ventaja nos llevarían! Además, lo mismo que nosotros nos reproducimos, los robots se fabricarán unos a otros.  Ni las famosas tres leyes de Asimos me tranquilizan… ¿Las recuerdan?

• Ningún puede dañar a un ser humano,
• ni permitir con su inacción que un ser humano sufra daño…

Pero, ¿quién puede asegurar que con los complejos y sofisticados sensores y elementos tecnológicos avanzados con los que serán dotados los robots del futuro, éstos no pensarán y decidirán por su ? ¡Creo que nadie está en situación de asegurar nada! La amenaza está ahí, en el futuro, y el evitarla sólo depende de nosotros, los creadores. ¡Es tanta nuestra ignorancia!

Ciertamente hemos imaginado mundos futuros en los que, no parece que las tres leyes de la robótica puedan preservar la integridad física de los humanos. Si los robots alcanzan ese nivel autónomo de pensamiento… Sería, ¡la rebelión de las máquinas! tantas veces vista en la ficción del cine.

¿Que impedir que en el futuro los robots tengan conciencia de ser, o, incluso, sentimientos?

Parece mentira que, alguna vez, lleguen a sentir…llorar o reir

Mirando a mi alrededor, de manera clara y precisa, puedo comprobar que el mundo biológico está compuesto por una variedad de seres que siendo iguales en su origen, son totalmente distintos en sus formas y en sus mentes, y, de la misma manera, al igual que en nuestro planeta Tierra, pasará en otros situados en regiones remotas del espacio. Y, pensando en nuestras vidas, podemos llegar a preguntarnos si todo ésto tiene algún sentido. ¿Para qué tanto esfuerzo y ? ¿No será que estamos preparando el terreno para “seres” artificiales que, mejor dotados que nosotros para salir al espacio exterior, serán los que suplanten a la Humanidad y cumplan finalmente los sueños de ésta, que harán suyos?.

¡Qué lastima! Si ese fuera nuestro destino. ¡Fabricar a una especie artificial que cumpliera nuestros sueños! Lo cierto es que, nosotros los humanos, no estamos físicamente preparados para viajar a las estrellas, y, de hacerlo, necesitaríamos dotarnos de tanta seguridad que, los costes, serían impensables. Naves como ciudades que nos transportaran muy lejos, y, pensando en que estamos supeditamos a la velocidad de la luz, estas naves-ciudades estarían preparadas para mantener a generaciones. Claro que, no dudo que en el futuro podremos descubrir la manera de abrir las puertas del Hiperespacio para acortar distancias y, sin que tengamos que superar la velocidad de la luz, llegar a lugares remotos a millones de años-luz de la Tierra.

        Ciudades que surcan el hiperespacio

Nuestro futuro es muy incierto, y, como podemos ver día, estamos supeditados a los caprichos de la Naturaleza. Conceptualmente, la biología generalmente va a la saga de la física. Si bien es cierto que las ideas de Darwin sobre la evolución han desplazado la concesión trasnochada y, ¿por qué no?, anti-ilustrada de la creación espacial, pero es cierto que bien entrado el siglo XX, muchos biólogos todavía pensaban instintivamente que los seres humanos representaban la culminación de la evolución, y que nuestra especie no era simplemente el centro del desarrollo evolutivo sino, en realidad, su razón de ser. Y, tales pensamientos, nos pueden dar una idea muy clara del nivel de sabiduría del que podemos presumir.

sabemos que nuestra contribución al árbol genealógico de la vida es tan periférica y minúscula como la de la Tierra en el Universo. El árbol, tal como lo podemos ver hoy, es realmente frondoso. Desde que surgió la vida en la Tierra, probablemente haya producido cientos de miles de millones, quizás billones, de ramitas, donde cada ramita representa una especie, y Homo sapiens es sólo una más entre ellas. En pocas palabras, nuestra especie ha sido tan cabalmente “periferalizada” por la biología como lo ha sido por la cosmología. Sólo somos una de las formas de vida que habita el Universo y, no es seguro que seámos la más inteligente.

No somos los elegidos y, si miramos hacia atrás en el tiempo para contemplar la historia de la Tierra, veremos que miles de millones de espcies que estuvieron aquí se fueron para siempre, y, nosotros, la especie humana, también tenemos un tiempo marcado, nada es eterno. Cuando nosotros nos vayamos, el mundo seguirá y el Universo, sin derramar ni una lágrima por nosotros, continuará su evolución hasta ese punto final inevitable al que vamos todos y, el universo en eso, no es ninguna excepción.

Una vez que hemos comprendido que no somos “los elegidos” y que, estamos en este Mundo, una infinitesimal fracción de una Galaxia de entre cientos de miles de millones de ellas, podemos ser conscientes de que, la humildad será nuestra mejor elección para no equivocarnos y llevarnos decepciones que, en otro caso, serían de consecuencias muy graves. Muchas pueden ser las criaturas que, habitantes de otros mundos, nos pueden superar en inteligencia y conocimientos y, seguramente por eso, porque en nuestro fuero interno algo nos dice que es así, nos estamos preparando para ese futuro que irremediablemente llegará, y, lo único que podemos es crear réplicas de nosotros mismos que, aunque artificiales, puedan representarnos de alguna manera en ese futuro incierto.

 

                 No podemos saber lo que vendrá. ¡Es tan grande el Universo!

Ese encuentro maravilloso que tantas veces hemos imaginado, es posible que no lo sea tanto. No podemos saber las criaturas que pueden estar presentes en otros mundos y con qué medios puedan contar. Siempre se me hizo cuesta arriba el hecho de que, algún día del futuro, los robots fabricados por nosotros, podrían adquirir la supremacía del planeta. Sin embargo, alguna vez he pensado también que, quizás, sea la única manera de poder frente a lo que vendrá.

Hemos oído en no pocas ocasiones que la realidad supera a la imaginación, y, luego, simplemente con ver todo lo que existe en el Universo, podemos dar fe de tal afirmación. ¿Quién iba a pensar hace 150 años en la existencia de Agujeros Negros o Estrellas de Neutrones? Y, de la misma manera que aquí en la Tierra surgieron cientos de miles de especies y formas de vida a lo largo de su historia, ¿qué prohíbe que en otros mundos surgieran también especies de vida que ni podemos imaginar? ¿Y, la Naturaleza? Bueno, a ella estamos supeditados y por mucho que podamos avanzar, hay cuestiones físicas y transiciones de fase en el Universo que nunca podremos dominar.

                     Cualquier cosa ser posible, ¡es tan frágil la línea que nos separa del Caos!

Es cierto, nuestras limitaciones son enormes, enorme es también nuestra ignorancia y, si somos conscientes de ello, habremos dado un gran paso para frente a lo que pueda venir. Al menos no nos cogerá desprevenido y, el suceso es menos doloroso cuando se espera.

Sí, es verdad, que a veces, confundimos la ilusión y la euforia del momento con la realidad. Sin embargo, nada más lejos de ser cierto. Vivimos en una falsa seguridad cotidiana que nos hace no pensar en lo que puede llegar: Un accidente, una enfermedad, un meteorito caído del cielo, un terremoto, o, incluso una estrella enana marrón que choque con la Luna y dé al traste con nuestra tranquila vida en planeta.

El destino, ¡ tántas bifurcaciones! Parece un laberinto de espejos que lo hace incierto.

Así que, ilusos y tranquilos -de otra manera sería horrible la vida-, en estos últimos años hemos sido capaces de determinar los genes responsables de las más variadas manifestaciones de nuestra existencia: susceptibilidad a la obesidad, diferentes tipos de tumores, esquizofrenia, depresión o la mayor o menor capacidad para danza y ritmo. Y, con sorpresa para algunos, se ha podido saber que nuestra secuencia genética sólo difiere un 0’5% de nuestros parientes cercanos neandertales o que tampoco estamos muy lejos, genéticamente hablando, de algunos equinodermos que divergieron de nuestra rama evolutiva hace 500 millones de años.

, al mismo tiempo, hemos construido ingenios que enviados a otros mundos, situados a millones de kilómetros del nuestro, nos mandan imágenes que podemos contemplar tranquilamente sentados en el salón de nuestras casas. Y, paralelamente, se trabaja en cerebros artificiales espintrónicos y, más adelante, positrónicos que ocuparan cuerpos perfectos de robots que, aunque artificiales, algún día llegarán a pensar y sentir. ¿Serán nuestros sucesores? ¿Serán los que finalmente realizarán nuestros sueños de viajar a las estrellas?

Sin embargo, y a pesar de tantas proezas, si en algo sigue la ciencia gateando en la oscuridad, es precisamente en el total desconocimiento de la más compleja y delicada de nuestro cuerpo: ¡el Cerebro! ¡Si tuviéramos tiempo!

emilio silvera

¿La Mente? ¡Un Universo en sí misma! »

Roger Penrose, profesor de la Universidad de Oxford y autor de obras como La nueva mente del emperador o El camino de la realidad se enfrenta, en Las sombras de la mente, a la ambiciosa tarea de llegar a una comprensión científica de la mente humana, que, en su opinión, no reducirse a los esquemas simplistas de quienes sostienen que la mentalidad consciente procede como un ordenador y puede explicarse en términos de modelos computacionales.

Comienza por ello demostrando que la «comprensión» es algo que va mucho más allá de la mera computación, y trata de averiguar de qué modo la consciencia aparece «a partir de la materia, el espacio y el tiempo». Penrose sostiene que mientras las señales neuronales pueden comportarse como sucesos explicables en términos de la física clásica, las conexiones las neuronas están controladas a un nivel más profundo, donde debe existir una actividad en la frontera cuántico/clásico.

El nivel neuronal que nos describen las representaciones habituales del cerebro es una mera sombra de una actividad más profunda donde debe buscarse la base física de la mente: el campo mecano-cuántico que los humanos experimentamos como consciencia y libre albedrío. Su propuesta, tan atrevida, le obliga a profundizar en aspectos complejos e innovadores de la ciencia, pero deja abierto un camino que, a tra vés de u na selecci ón de las partes más accesibles del libro, cualquier lector pueda seguir con facilidad el argumento que expone. Como ha dicho Christopher Lehmann-Haupt, Penrose nos revela en este libro mundos insospechados, difíciles de ver, pero que, conducidos por él, «resulta emocionante imaginar».

Cuando se lee un buen libro, se saborean sus pasajes más interesantes y, al final, sientes un poco de pena porque aquello se termine tan pronto. Sientes que quieres más, te quedas algo insatisfecho de no haber podido llegar más lejos, de profundicar más en aquello que tánto llamó tu atención y despertó tu curiosidad. Saber sobre aquello que te preocupa es tan vital la mente que, cuando no desarrollar ciertos pensamientos por falta de conocimientos, te sientes frustrado y, de alguna manera, sufres por no saber.

Habiendo finalizado la lectura de Las sombras de la mente, de Roger Penrose, en la que nos habla de la posibilidad de comprender de científica lo que la conciencia es y, extrapola dicha conciencia, ese otro mundo de la I.A., en el que, si nada lo remedia, estamos inmersos hasta tal punto que, en el futuro más o menos lejano, será lo que predomine tanto aquí en la la Tierra, como en los mundos y lunas que nos acompañan en el Sistema solar, e, incluso, mucho más allá. Ellos serán, los Robots, los que surquen los cielos y el espacio interestelar en busca de las estrellas.

Ciertamente, cuando pensamos en los pensamientos que generan los seres vivos y conscientes y, lo que es en realidad la computación de la I.A., al menos yo, no me puedo imaginar un robot que pueda llegar a tener sentimientos. Creo firmemente que los sentimientos son exclusivos de los seres vivos que llegan a tener consciencia de Ser.

La computación y el Pensamiento consciente

En los últimos tiempos, mucho es lo que se habla de la I.A., y, algunos, nos preguntamos: ¿Será posible que en un futuro más o menos lejano, eso que llamamos Inteligencia Artificial, nos pueda superar? Hay corrientes en ese sentido que nos llevan a pensar y, ¿por qué no? A preocuparnos profundamente. Si hacemos caso de esas afirmaciones (quizá algo extremas pero, con visos de verdad) de los que defienden a capa y espada el futuro de la I.A., diciendo que, con el tiempo, los ordenadores y los robots superarán a los humanos en inteligencia al llegar a tener todas y cada una de las capacidades humanas y otras que, los humanos nunca podrán tener. Entonces, estos ingenios serían capaces de muchísimo más que ayudar simplemente a nuestras tareas inteligentes.

De hecho, tendrían sus propias y enormes inteligencias. Podríamos entonces dirigirnos a estas inteligencias superiores en busca de consejo y autoridad en todas las cuestiones complejas y de interés que, por nosotros mismos, no pudiéramos solucionar; ¡y finalmente podrían resolver los problemas del mundo que fueron generados por la Humanidad!

Pesa 150 kilogramos, tiene aspecto humanoide y se llama Robonaut-2 (R-2 los amigos). androide será lanzando al espacio y pronto será el compañero de los tripulantes de la Estación Espacial Internacional. Por algo se comienza y, nunca se sabe todo terminará.

Pero, si todo eso fuera así (que podría llegar a serlo), podríamos extraer otras consecuencias lógicas de estos desarrollos potenciales de la I.A. que muy bien podría generar una cierta alarma muy justificada ante una situación tan atípica, en la que, unos “organismos” artificiales creados por nosotros mismos, nos superen y puedan llegar más lejos de lo que nosotros, podríamos ser capaces de llegar nunca. ¿No harían estos ordenadores y Robots, a la larga, que los Humanos fueran superfluos ellos?

Si los Robots guiados por ordenadores insertados en sus cerebros positrónicos o espintrónicos, o, guiados por un enorme y potente Ordenador Central, resultaran ser muy superiores a nosotros en todos los aspectos, entonces, ¿no descubrirían que pueden dirigir el mundo sin necesidad alguna de nosotros? La propia Humanidad se habría quedado obsoleta. Quizá, si tenemos suerte, ellos podrían conservarnos animales de compañía (como alguien dijo en cierta ocasión); o, si somos inteligentes, podríamos ser capaces de transferir las “estructuras de información” que somos “nosotros mismos” a una de robot ( han pensado algunos otros), o quizá no tengamos esa suerte y no lleguemos a ser tan inteligentes…

En un presente en el que el espacio y otros mundos y lunas estarán ya poblados por robots que hacen diversas funciones científísicas o no que, todavía los humanos no podremos realizar. Sin embargo, se espera que en ese campo, se avance mucho más y se puedan colonias de robots inteligentes en esos mundos para que sean los que prepararen nuestra llegada posterior

Colonizar el espacio con robots es un antiguo argumento de obras de ciencia-ficción, algo que podría ser una realidad en el futuro. La imagen de arriba, a no tardar mucho, podría ser una realidad. De momento hemos enviado sondas y naves espaciales y rovers-laboratorios andarines que corretean por esos mundos lejanos pero, en el futuro,  las cosas serán distintas y los robots humanoides serán los que viajaran en naves debidamente pertrecahdas para labores científicas y de investigación ahora impensables.

        Robot simio para colonizar la Luna

Por otra , quiero pensar que, lo que hace y es capaz de realizar nuestro cerebro creador de pensamientos, nunca será del dominio de la I.A. que, nunca podrán describir o realizar funciones que de manera natural realizan nuestras mentes. ¿Llegarán a tener mentes de verdad los Robots del futuro? ¿Será posible que lleguen a tener sentimientos, a sentir miedo, a poder llorar? ¿Tiene algún sentido que hablemos de semejantes cosas en términos científicos? También podríamos pensar que, la Ciencia, no está capacitada abordar ciertas cuestiones relacionadas con la complejidad de la Conciencia Humana.

Claro que, por otra parte, no podemos dejar de pensar en el hecho cierto de que, la propia materia parece tener una existencia meramente transitoria puesto que transformarse de una en otra, sabemos que en las estrellas se transmutan los elementos sencillos en otros más complejos, e, incluso -no lo sabemos-, podría ser que esas transformaciones llevadas de la mano  evolutiva de los procesos naturales, llevaran esas transformaciones hacia niveles impensables que… ¡Incluso podrían ser de energía consciente! Y pensar que todo eso es posible a partir de la “materia inerte”…

Ciertamente, son muchos los que piensan que el futuro será transhumano, es decir, que el mundo estará regido por ellos.

Incluso la masa de un cuerpo material, que proporciona una medida física precisa de la cantidad de materia que contiene el cuerpo, transformarse en circunstancias apropiadas en pura energía (E = mc²) de modo que, incluso la sustancia material parece ser capaz de transformarse en algo con una actualidad meramente matemática y teórica. Dejemos en este caso, la cuántica y otras teorías a un lado centrarnos en el tema que tratamos de la I.A. y sus posibles consecuencias.

¿Permite la Física actual la posibilidad de una acción que, en principio, sea imposible de simular en un ordenador? Hoy esa respuesta no está disponible y, cuando eso vaya a ser posible, tendríamos que estar en posesión de una nueva Física mucho más avanzada que la actual.

           La imaginación siempre ha ido por delante de la realidad

No debemos apartarnos de un hecho cierto: Nuestra Mente, aunque está apoyada por un ente físico que llamamos cerebro y recibe la información del exterior a través de los sentidos, también es verdad que, de alguna manera, sale de nosotros, está fuera de nuestros cuerpos y, viaja en el tiempo y en el espacio, aprende y conoce nuevos lugares, nuevas gente, nuevos conocimientos de su entorno y de entornos lejanos y, a todos ellos, sin excepción, se trasladar de manera incorpórea con un simple pensamiento que, de manera instantánea, nos sitúa en este o aquel lugar, sin importar las distancias que nos puedan separar.

Así La física y la parte mental, aunque juntas, están separadas de una manera muy real y, luego, existe una clara divisoria entre lo físico y lo mental que ocupan distintos dominios de alcance también distintos y, hasta donde pueda llegar el dominio mental ¡No se conoce!

El futuro es incierto

no hay que descartar nunca nada. ahí está la posibilidad de que, con el tiempo, construyamos robots humanoides que decidan por sí mismos, que tengan la manera de repentizar soluciones a problemas inesperados, que incluso (como han didho alguna vez), tengan sentimientos, y, si eso es así, que nada lo impide… ¡podríamos convertirnos en esclavos de nuestra obras!

Quisiera pensar que, el humano, siempre prevalecerá sobre el “Ser Artificial”, sin embargo, tal optimismo, si pensamos en hacerlo real, nunca podrá estar a nuestro alcance. La evolución de la Ciencia, las necesidades de nuestra especie, las exigencias de una Sociedad creciente que llena el planeta límites insoportables…Todo eso, nos llevará a seguir procurando ayuda de ese “universo artificial” que, al fin y a la postre, es la única salida que tenemos poder llegar a otros mundos en los que poder alojarnos que, el planeta Tierra, no se vea literalmente asfixiado por la superpoblación. Así que, siendo las cosas así (que lo son), estamos irremisiblemente abocados a ese futuro dominado por la I.A. que, si tenemos suerte, nos dejará convivir con ella y, si no la tenemos…

Así que, el día que los Robots sean equiparables a los Humanos, ese día, habrá comenzado el principio del fin de la especie que tan tonta fue, al jugar a Dios y crear  a su propio destructor.

¿Os acordáis? Replicantes inteligentes que no querían morir y luchaban por defender sus derechos.

Para que todo esto llegara a pasar, podrían transcurrir siglos. No parece que sea muy factible que una simulación realizada por un Robot avanzado pueda ser semejante a lo que un Humano puede hoy. Sin embargo, cuando los ordenadores y Robots hayan alcanzando la inteligencia de pensamiento y el  discurrir del cerebro Humano, ese día, amigos míos, no creo que sea un día para celebrar.

Claro que, la idea de poner unir nuestras mentes a esos “Seres”, podría ser una salida, una solución híbrida paliar nuestras carencias de salir al espacio exterior por nosotros mismos y dentro de la frágil coraza humana que contiene a nuestras Mentes pensantes que, dentro de tan ligera y débil estructura, no tienen la seguridad suficiente para realizar ciertas tareas.

No quiero ser pesimista ni llevar a vuestro ánimo ideas intranquilizadoras. Sin embargo, si la cosa sigue adelante por el camino emprendido, el futuro que nos espera será ese: Convivir con los Robots, emitir leyes su control, tratar de que hagan sólo aquellos trabajos y tareas encomendadas pero, ¿cómo podremos evitar que, algún día, más evolucionados al exigirle vez más complejidad en las ayudas que nos tendrán que prestar, comiencen a pensar por sí mismos?

 

Pensar en el hecho de que algún día, podamos fabricar robots humanoides que nos superen en todo… ¡No resulta tan descabellado! Sólo hay que pensar en cómo somos y hasta dónde, nuestra inconsciencia nos puede llevar. Mirémos la Historia. Por otra parte, la Naturaleza nos ha dotado de cierta inteligencia a partir de la materia evolucionada en las estrellas que han cobrado animación. ¿Qué impide que nosotros , podamos repetir la historia fabricando a esa nueva especie?

Así que, como estamos dando a esos Robots el “Conocimiento”, la “comprensión”, la “consciencia” y, la “inteligencia”, lo estamos haciendo partícipes y están tomando posesión, de los bienes más valiosos que podemos poseer y, tal dislate…¡Podríamos pagarlo muy caro!

• “Un Robot no puede daño a un ser humano o, mediante la inacción que un ser humano sufra daños”
• “Un Robot debe de obedecer las ordenes dadas por los seres humanos, salvo que esto provoque un conflicto con la primera ley”
• “Un Robot debe proteger su propia existencia, a no ser que provoque un conflicto con las dos primeras”

Estas leyes fueros enunciadas por Isaac Asimos con el objetivo de intentar que la finalidad inicial para la que se originó la robótica no fuera modificada y eso ocasionara problemas a la humanidad. Sin embargo… ¡Somos tan inconscientes!

Lo que tenga que pasar… ¡El Tiempo nos lo dirá! Pero personalmente y conociendo al Ser Humano, capaz de lo mejor y de lo peor… Yo no tengo muchas esperanzas en que, al final, no caigamos en la trampa que estamos, nosotros mismos, construyendo.

emilio silvera

Buscando la Gravedad cuántica »

                                    ¿Qué papel jugaremos nosotros cuando esto llegue? Bueno, algo de esto ya está aquí

A mí, particularmente, me da mucho miedo un futuro en el que las máquinas sean imprescindibles. En mismo momento ya casi lo son. ¿Qué haríamos sin ordenadores que mediante sus programas dirigen fábricas, llevan todo el movimiento de las Bolsas del mundo y de los bancos, dirigen los satélites del espacio, llevan a cabo complicadas operaciones quirúrgicas y montan y ensamblan elaborados mecanismos industriales? El mundo quedaría paralizado. Sin embargo, no nos engañemos, nada de eso está hecho por ordenadores o por robots más o menos avanzados, detrás de todo ese fantástico mundo, ¡está ma Mente Humana! que, si somos realistas, será difícil de superar por las máquinas que ha podido inventar para que hagan, lo que nosotros no podemos.

 

Pienso en un mundo mucho más avanzado, dentro de 500 – 1.000 años. ¿Qué habrá pasado con los robots?, máquinas vez más perfectas que llegaron a autofabricarse y repararse. ¿Cómo evolucionarán a partir de esos procesadores inteligentes de la nanotecnología? ¿Llegarán algún día a pensar por sí mismos? Ahí puede estar uno de los grandes peligros de la Humanidad. Lo cierto es que no será nada fácil conseguir que los robots lleguen a generar sus propias ideas o que incluso, puedan llegar a tener sentimientos.

La invención del robot (del checo, robota, ) se debe al esfuerzo de las sociedades humanas por liberarse de las labores más ingratas y penosas a que se ven obligados algunos de sus individuos. En un principio, la apariencia de los robots sólo atendía a las razones prácticas de las funciones que cada modelo tenía que desempeñar, o sea, su morfología estaba aconsejada por criterios funcionales y prácticos.

Una vez superada la primera fase, el hombre trata de fabricar robots que cada vez sean más semejantes a su creador, y aunque las primeras figuras han sido algo groseras y poco hábiles en sus movimientos, poco a poco se va perfeccionando la imitación de los humanos. Claro que, sólo es una simple apariencia, ¿cómo podrían los técnicos en robótica suplantar al cerebro humano?

Un robot se diferencia fundamentalmente de una máquina por su capacidad para  funcionar de modo automático sin la acción permanente del hombre. Los primeros robots se mostraron especialmente válidos para llevar a cabo aquellos trabajos sencillos y repetitivos que resultaban tediosos y pesados al hombre (el Ser Humano mejor). También son ideales para el en el que se está expuesto a cierto peligro o se trabaja con materiales peligrosos en lugares nocivos para los seres vivos. Sin embargo, todo eso que en ellos podemos ver, simplemente se trata de cómo responden a un programa que la mente humana ha ideado para ellos, en cada circunstancia dada.

Nuevas generaciones de robots que…, ¿comienzan a ser peligrosos?

Las máquinas del futuro nos pueden superar. Hemos comenzado a inventar robots que, cada vez son más sofisticados y tienen más prestaciones y, de seguir por ese camino, de no poner unas reglas claras, precisas y rígidas sobre el límite…las cosas podrían salir mal. Claro que me estoy adelantando en el tiempo. Es impensable que los robots, en un futuro cercano puedan suponer ninguna clase de peligro. Todo reside en nuestro cerebro que… ¡es imposible de imitar! Una cosa es fantasear con todo eso y, otra muy distinta, llevarlo a la práctica.

Una de las esenciales que debe tener una máquina-robot para ser considerada como tal es la posibilidad de ser programada para hacer tareas diversas según las necesidades y la acción que de ellos se requieran en cada situación. Y, si llegan a poseer la potestad de pensar por sí mismas, de repentizar soluciones no programadas, de sentir y ser conscientes…¡malo! Pero eso, no parece que sea factible en los próximos siglos.

Para algunas cosas sí son muy necesarios los robots. Dentro de algunas decenas de años, por ejemplo, no será preciso que ningún astronauta salga al espacio exterior para reparar estaciones espaciales o telescopios como hacen (con riesgo de sus vidas), con el Hubble. Tampoco tendrán que ser ellos, los seres vivos de nuestra especie los que tengan que salir al espacio exterior para abrir caminos nuevos a la Humanidad. De momento sólo un ingenio espacial mecánico ha salido del Sistema solar pero, pasando el tiempo, serán navez muy sofisticadas y comandadas por robots las que exploren el espacio para que nosotros sepamos lo que nos espera lejos de la seguridad de nuestro pequeño entorno del Sistema solar. Alguna vez será necesario que salgamos de aquí para instalarnos en otros mundos y, para eso, los robots serán muy necesarios.

    Ellos, los robots, serán los que corran los riesgos por nosotros

El miedo a los robots del futuro que antes citaba está relacionado con el hecho de que la robótica es el estudio de los problemas relacionados con el diseño, aplicación, control y sistemas sensoriales de los robots. No niego que algún día, dado que el avance científico es exponencial, se puedan construir robots con cerebros espintrónicos o positrónicos que serán “copias” avanzadas de los humanos en lo que se refiere a fortaleza física exenta de enfermedades pero… De ahí a que puedan ser semejantes a nosotros… ¡Va un largo trecho, difícil de recorrer! Los pensamientos, el generar ideas, el sentir humano… ¡Qué lejos están de las máquinas!

Supermáquinas que pueden desarrollar trabajos imposibles

Las necesidades de la industria aeronáutica, poco a poco, han ido exigiendo sistemas de mayor precisión, capaces de tomar decisiones adecuadas en un entorno predefinido en función de las particulares de un momento dado. Estos ingenios, llamados de segunda generación, poseen instrumentos propios y programación informática dotada de medios de autocorrección frente a estímulos externos variables.

Los sensores utilizados por los sistemas de robótica de segunda generación son, con frecuencia, equipos de cámaras electrónicas digitales que convierten la imagen luminosa recibida el exterior en impulsos eléctricos que se comparan con patrones almacenados en un pequeño núcleo de memoria informática. Así mismo, disponen de instrumentos táctiles de alta sensibilidad y de detección de pesos y tensiones.

     Incluso en otros planetas a millones de kilómetros de distancia de la Tierra, realizan los trabajos programados

Los robots de tercera generación emplean avanzados métodos informáticos, los llamados sistemas de inteligencia artificial, y procedimientos de percepción multisensorial (estoy leyendo una maravillosa tesis doctoral de un ingeniero de materiales – hijo de un buen amigo – que es fascinante, y me está abriendo la mente a nuevos campos y nuevos conceptos en el ámbito de la inteligencia artificial. Su nombre es Alcione Mora Fernández, y tiene la suerte de ser, además, un físico teórico matemático, con lo cual, según lo que puedo deducir de su , le espera grandes empresas y mi deseo personal es que triunfe en ese complejo mundo de fascinantes perspectivas al que pertenece).

Estos ingenios de tercera generación adoptan algunas características del comportamiento humano al contar con la capacidad para percibir la realidad del entorno varias perspectivas y utilizar programas que rigen su propia actuación de modo inteligente. Conscientes de su situación espacial, los robots de tercera generación comprenden directamente el lenguaje humano y lo utilizan para comunicarse con las personas. Sin embargo, hay que ser conscientes de que, de ninguna manera, se podría comparar un robot, por muy sofisticado que fuese su cerebro artificial, a las cien mil neuronas que trabajan en el nuestro. Para poder imitar lo que hace un cerebro humano, el volumen de chips, hilos y piezas, aunque se hicieran con las nuevas nanotecnologías, ocuparían un espacio impensable para un robot. Nada se puede igualar al cerebro humano que, siendo obra de la Naturaleza, es imposible de imitar de manera artificial. Sí, ya se que los adelantos son increíbles y que con el tiempo todo se podría alcanzar pero…

                                                                  Los Androides del futuro. ¿Tendrán autonomía de pensamiento?

La ciencia robótica, basándose en avanzados principios de la electrónica y la mecánica, busca en la constitución y modo de funcionamiento del cuerpo y del cerebro humano los fundamentos con los que diseñar androides de posibilidades físicas e intelectivas semejantes a los del ser humano.

Nada de esto es ciencia ficción; es lo que hoy mismo ocurre en el campo de la robótica. Aún no podemos hablar de robots con cerebros positrónicos capaces de pensar por sí mismos y tomar decisiones que no le han sido implantados expresamente para responder a ciertas situaciones, pero ¿Y si llegaran a ser auténticas copias de nosotros, o, incluso nos superaran?. Ya tienen velocidad, flexibilidad, precisión y de grados de libertad. ¿Qué hasta donde llegarán? ¡Me da miedo pensar en ello! Aunque siempre pensaré que nunca podrán sentir y, ahí es, donde reside el peligro.

  Pronto nos costará distinguirlos

Mecánicamente, el robot ya supera al ser humano; hace la misma tarea, con la misma velocidad y precisión o más que aquél, y tiene la ventaja de que no se cansa, puede indefinidamente desempeñando la tarea en lugares que para nosotros serían imposibles por sus condiciones extremas.

Menos mal que, de momento al menos, el cerebro del ser humano no puede ser superado por un robot, ¿pero será siempre así? Creo que el hombre es un ser que,  llevado por sus ambiciones, es capaz de cometer actos que van encaminados a lograr la propia destrucción y, en el campo de la robótica, si no se tiene un exquisito cuidado y vigilancia extrema…, podríamos tener un ejemplo de fatales consecuencias!

Antes de dotar a estas máquinas de autonomía de obrar y de pensar, debemos sopesar las consecuencias y evitar, por todos los medios, que un robot pueda disponer como un ser humano del libre albedrío, como artificial que es, siempre debe estar limitado y tener barreras infranqueables que le impidan acciones contrarias al bienestar de sus creadores o del entorno.

Es muy importante que los sistemas sensoriales de los robots estén supeditados a los límites y reglas requeridas por los sistemas de control diseñados, precisamente, evitar problemas como los que antes mencionaba de robots tan avanzados y libre pensadores e inteligentes que, en un momento dado, puedan decidir suplantar a la Humanidad a la que, de seguir así, podrían llegar a superar.

            simpática imagen ya ha sido superada

Pensemos en las ventajas que tendrían sobre los humanos una especie de robots tan inteligentes que ni sufrirían el paso del tiempo ni les afectaría estar en el vacío o espacio exterior, o podrían tranquilamente, al margen de las físicas y geológicas de un planeta, colonizarlo fácilmente, aunque no dispusiera de atmósfera, ya que ellos no la necesitarían y, sin embargo, podrían instalarse y explotar los recursos de cualquier mundo sin excepción. ¡Menuda ventaja nos llevarían! Además, lo mismo que nosotros nos reproducimos, los robots se fabricarán unos a otros.  Ni las famosas tres leyes de Asimos me tranquilizan… ¿Las recuerdan?

• Ningún robot puede dañar a un ser humano,
• ni permitir con su inacción que un ser humano sufra daño…

Pero, ¿quién puede asegurar que con los complejos y sofisticados sensores y elementos tecnológicos avanzados con los que serán dotados los robots del futuro, éstos no pensarán y decidirán por su ? ¡Creo que nadie está en situación de asegurar nada! La amenaza está ahí, en el futuro, y el evitarla sólo depende de nosotros, los creadores. ¡Es tanta nuestra ignorancia!

Ciertamente hemos imaginado mundos futuros en los que, no parece que las tres leyes de la robótica puedan preservar la integridad física de los humanos. Si los robots alcanzan ese nivel autónomo de pensamiento… Sería, ¡la rebelión de las máquinas! tantas veces vista en la ficción del cine.

¿Que impedir que en el futuro los robots tengan conciencia de ser, o, incluso, sentimientos? Espero que eso nunca llegue a ser realidad.

Parece mentira que, alguna vez, lleguen a sentir…llorar o reir

Mirando a mi alrededor, de manera clara y precisa, puedo comprobar que el mundo biológico está compuesto por una variedad de seres que, siendo iguales en su origen, son totalmente distintos en sus formas y en sus mentes, y, de la misma manera, al igual que en nuestro planeta Tierra, pasará en otros situados en regiones remotas del espacio. Y, pensando en nuestras vidas, podemos llegar a preguntarnos si todo ésto tiene algún sentido. ¿Para qué tanto esfuerzo y ? ¿No será que estamos preparando el terreno para “seres” artificiales que, mejor dotados que nosotros para salir al espacio exterior, serán los que suplanten a la Humanidad y cumplan finalmente los sueños de ésta tenía y que harán suyos?.

¡Qué lastima! Si ese fuera nuestro destino. ¡Fabricar a una especie artificial para que cumpliera nuestros deseos! Lo cierto es que, nosotros los humanos, no estamos físicamente preparados para a las estrellas, y, de hacerlo, necesitaríamos dotarnos de tanta seguridad que, los costes, serían impensables. Naves como ciudades que nos transportaran muy lejos, y, pensando en que estamos supeditamos a la velocidad de la luz, estas naves-ciudades estarían preparadas para mantener a generaciones.

        Ciudades que surcan el hiperespacio

Nuestro futuro es muy incierto, y, como podemos ver día, estamos supeditados a los caprichos de la Naturaleza. Conceptualmente, la biología generalmente va a la saga de la física. Si bien es cierto que las ideas de Darwin sobre la evolución han desplazado la concesión trasnochada y, ¿por qué no?, anti-ilustrada de la creación espacial, pero es cierto que bien entrado el siglo XX, muchos biólogos todavía pensaban instintivamente que los seres humanos representaban la culminación de la evolución, y que nuestra especie no era simplemente el centro del desarrollo evolutivo sino, en realidad, su razón de ser. Y, tales pensamientos, nos pueden dar una idea muy clara del nivel de sabiduría del que podemos presumir.

Ahora sabemos que nuestra contribución al árbol genealógico de la vida es tan periférica y minúscula como la de la Tierra en el Universo. El árbol, tal como lo podemos ver hoy, es realmente frondoso. que surgió la vida en la Tierra, probablemente haya producido cientos de miles de millones, quizás billones, de ramitas, donde cada ramita representa una especie, y Homo sapiens es sólo una más entre ellas. En pocas palabras, nuestra especie ha sido tan cabalmente “periferalizada” por la biología como lo ha sido por la cosmología. Sólo somos una de las formas de vida que habita el Universo y, no es seguro que seámos la más inteligente.

El Universo es muy grande, un sin fin de mundos están presentes en cientos de miles de galaxias y, ¿qué pasa con la vida? ¿Quién puede decir que la única vida que existe es la que podemos contemplar en nuestro pequeño planeta que, al fin y al cabo es, como un grano de arena perdido en la inmensidad del espacio “infinito”? ¿Cuántas especies inteligentes podrían estar preguntándose lo mismo que nosotros?

Una vez que hemos comprendido que no somos “los elegidos” y que, estamos en este Mundo, una infinitesimal fracción de una Galaxia de cientos de miles de millones de ellas, podemos ser conscientes de que, la humildad será nuestra mejor elección para no equivocarnos y llevarnos decepciones que, en otro caso, serían de consecuencias muy graves. Muchas pueden ser las criaturas que, habitantes de otros mundos, nos pueden superar en inteligencia y conocimientos y, seguramente por eso, porque en nuestro fuero interno algo nos dice que es así, nos estamos preparando para ese futuro que irremediablemente llegará, y, lo único que podemos hacer es crear réplicas de nosotros mismos que, aunque artificiales, puedan representarnos de alguna manera en ese futuro incierto.

                                  No podemos saber lo que vendrá. ¡Es tan grande el Universo!

Ese encuentro maravilloso que tantas veces hemos imaginado, es posible que no lo sea tanto. No podemos saber las criaturas que pueden estar presentes en otros mundos y con qué medios puedan contar. Siempre se me hizo cuesta arriba el hecho de que, algún día del futuro, los robots fabricados por nosotros, podrían adquirir la supremacía del planeta. Sin embargo, alguna vez he pensado también que, quizás, sea la única manera de poder frente a lo que vendrá.

Hemos oído en no pocas ocasiones que la realidad supera a la imaginación, y, luego, simplemente con ver todo lo que existe en el Universo, podemos dar fe de tal afirmación. ¿Quién iba a pensar hace 150 años en la existencia de Agujeros Negros o Estrellas de Neutrones? Y, de la misma manera que aquí en la Tierra surgieron cientos de miles de especies y formas de vida a lo largo de su historia, ¿qué prohíbe que en otros mundos surgieran también especies de vida que ni podemos imaginar? ¿Y, la Naturaleza? En Japón hemos visto estos días de lo que es capaz y, desde luego nada puede ser descartado.

                     Cualquier cosa ser posible, ¡es tan frágil la línea que nos separa del Caos!

Es cierto, nuestras limitaciones son enormes, enorme es también nuestra ignorancia y, si somos conscientes de ello, habremos dado un gran paso para frente a lo que pueda venir. Al menos no nos cogerá desprevenido y, el suceso es menos doloroso cuando se espera.

Sí, es verdad, que a veces, confundimos la ilusión y la euforia del momento con la realidad. Sin embargo, nada más lejos de ser cierto. Vivimos en una falsa seguridad cotidiana que nos hace no pensar en lo que llegar: Un accidente, una enfermedad, un meteorito caído del cielo, un terremoto, o, incluso una estrella enana marrón que choque con la Luna y dé al traste con nuestra tranquila vida en este planeta.

El destino, ¡tiene tántas bifurcaciones! Parece un laberinto de espejos que lo hace incierto.

Así que, ilusos y tranquilos -de otra manera sería horrible la vida-, en estos últimos años hemos sido capaces de determinar los genes responsables de las más variadas manifestaciones de nuestra existencia: susceptibilidad a la obesidad, diferentes tipos de tumores, esquizofrenia, depresión o la mayor o menor capacidad para danza y ritmo. Y, con sorpresa para algunos, se ha podido saber que nuestra secuencia genética sólo difiere un 0’5% de nuestros parientes cercanos neandertales o que tampoco estamos muy lejos, genéticamente hablando, de algunos equinodermos que divergieron de nuestra rama evolutiva hace 500 millones de años.

Algún día sí que podremos viajar a las estrellas y, para cuando eso pase, es posible, que podamos ser dueños de nuestro destino.

También, al mismo tiempo, hemos construido ingenios que enviados a otros mundos, situados a millones de kilómetros del nuestro, nos mandan imágenes que podemos contemplar tranquilamente sentados en el salón de nuestras casas. Y, paralelamente, se trabaja en cerebros artificiales espintrónicos y, más adelante, positrónicos que ocuparan cuerpos perfectos de robots que, aunque artificiales, algún día llegarán a pensar y sentir. ¿Serán nuestros sucesores? ¿Serán los que finalmente realizarán nuestros sueños de a las estrellas?

Sin embargo, y a pesar de tantas proezas, si en algo sigue la ciencia gateando en la oscuridad, es precisamente en el total desconocimiento de la parte más compleja y delicada de nuestro cuerpo: ¡el Cerebro! ¡Si tuviéramos tiempo!

emilio silvera