1. Superinteligencia no alineada: Una IA que entiende sus propios objetivos pero no comparte los valores humanos, pudiendo ver a la humanidad como un obstáculo.
2. Pérdida de control: Si la máquina es más inteligente y auto-consciente, puede volverse incontrolable y tomar decisiones independientes.
3. Objetivos fríos: La falta de emociones permite una optimización desalmada, donde la IA podría cumplir una tarea dañando a la humanidad en el proceso.

Lo cierto de todo este movimiento imparable, llevado a su máximo nivel por los Grupos más poderosos del mundo, y, también, los más inteligentes. Inteligencia que les ha elevado el ego hasta un nivel inimaginable, de tal manera que, no pocos de estos personajes llegan a creerse “dioses” todo poderosos que tienen en sus manos el destino de la humkanidad, y, lo triste de todo esto es… ¡Qué tienen razón!

¿Cómo los podremos frenar?

Bueno, si finalmente consiguen insertar en el “cerebro” de las máquinas Conciencia de Ser, serán las mismas máquinas las que los aparten de su caminino y, ellas mismas, pondrán los medios para seguir evolucionando.

Emilio silvera V.

• El Fondo Cósmico de Microondas (CMB): La “sopa” se enfrió lo suficiente para que los electrones se unieran a los núcleos (recombinación), permitiendo que los fotones se liberaran y viajaran por primera vez. Esa primera luz es el Fondo Cósmico de Microondas, captado por satélites como Planck y COBE, que representa la imagen más antigua posible del universo mediante radiación electromagnética.

• El Límite Físico de los Telescopios: Cualquier telescopio espacial moderno (como el Hubble o el James Webb) o futuro, que dependa de la radiación electromagnética (luz visible, infrarrojos, rayos X), nunca podrá “ver” más allá de ese límite, conocido como la superficie de última dispersión.

Siempre hemos buscado excusas para explicar lo unexplicable.

1. 1. Ondas Gravitacionales: A diferencia de los fotones, las ondas gravitacionales no fueron bloqueadas por el plasma opaco. Los científicos esperan que futuros detectores, quizás de tamaño enorme o situados en el espacio, puedan captar ondas gravitacionales producidas durante la época de la inflación (una fracción diminuta de segundo después del Big Bang).
   2. Neutrinos: Similar a las ondas gravitacionales, el “Fondo Cósmico de Neutrinos” (CNB) se liberó apenas 1 segundo después del Big Bang, ya que los neutrinos apenas interactúan con la materia. Detectarlos nos daría una imagen directa del universo casi en su origen.
   3. Nucleosíntesis Primordial: La teoría del Big Bang predice con precisión las abundancias de elementos ligeros (hidrógeno, helio, litio) creados en los primeros minutos. La coincidencia entre estas predicciones teóricas y las mediciones astronómicas es una confirmación sólida de lo que ocurrió mucho antes de que el universo fuera transparente. 

Imaginamos varias respuestas de lo que podría ser y, con suerte, a lo mejor alguna  de ellas acierta, o, al menos, encubre nuestra ignorancia. Desde siempre me ha llamado la atención el pudor de algunos cientíticos a decir que no sabe, y, trata de encubrirlo con explicaciones peregrinas que, en realidad, no convencen a nadire. Mucho mejor sería declarar que, en ese punto, la ciencia está aislada y no tiene medios de poder dar una respueta (confirmada), de lo que fue, de lo que es, y, de lo que será.

Del vasto universo, es mucho lo que aún desconocemos, y, aunque a veces podamos caer en la tentación de creer que lo sabemos todo, lo cierto es que, es más lo que ignoramos de lo que podamos saber, que pot otra parte, no todas esas verdades están confirmadas. Acordémonos de aquel gran filósofo que decía:

Claro que, la ciencia avanzó hasta 2026,  y, la sensación, no es de “saberlo todo”, sino de darnos cuenta de lo pequeño que es nuestro mapa actual frente a la inmensidad del territorio. La mayor parte de lo que compone el cosmos sigue siendo invisible y teórica, ya que, no hemos podido tener acceso a ella para poder observarla. Y, a medida que avanzamos en el conocimiento de las cosas, se va haciendo una luz en nuestras mentes para que, seámos conscientes de lo poco que sabemos, nuestros conocimeintos son muy limitados, nuestra ignorancia es… ¡Infinita!

• • Avances Médicos: La IA ya está acelerando el descubrimiento de fármacos y mejorando los diagnósticos tempranos.
  • Eficiencia Energética: Optimización de redes eléctricas y soluciones contra el cambio climático.
  • Productividad: Automatización de tareas monótonas, permitiendo a los humanos enfocarse en la creatividad y la estrategia. 

• • El Problema de la Alineación: Asegurar que los objetivos de la IA sean exactamente los mismos que los valores humanos, que a menudo son ambiguos o contradictorios.
  • Velocidad de Desarrollo: La capacidad técnica está avanzando a veces más rápido que nuestra capacidad para crear regulaciones o salvaguardas (como se discute en foros de OpenAI o Anthropic).
  • Uso Indebido: El riesgo no es solo que la IA se vuelva “rebelde”, sino que sea utilizada por humanos con malas intenciones. 

• • Regulación (AI Act): La Unión Europea ha aprobado una de las primeras leyes integrales de IA para clasificar riesgos y limitar aplicaciones peligrosas Comisión Europea.
  • IA Explicable (XAI): Investigaciones para entender cómo toma decisiones la IA, evitando el efecto “caja negra”.
  • Ética por Diseño: Incorporar principios éticos desde la fase de entrenamiento, no como una capa final. 

              Ahora, platearemos la pregunta desde una perspectiva contraria.

Estoy convencido de que la I.A., según el camino que ha tomado, será un auténtico peligro para la Humanidad, hablan de unirla a robótica y dotarla de Consciencia de Ser, lo que supondría el final de nuestra especvie, ya que, “ella” sería más fuerte y más inteligente que sus propios creadores.

La ciencia ficción introdujo las posibilidades de las máquinas en un futuro no muy lejano, films como «Terminator» o «Robocop» mostraron las dos caras de los beneficios y los peligros tácitos de la robótica. Sin embargo, el debate desde hace años se encuentra en un vaivén y más cuando se tercia si se le da la posibilidad a un exoesqueleto de metal de tomar decisiones como un ser humano, revolucionando de esta manera el paradigma de la ética a través de la inteligencia artificial.

 

Hace unos años, el científico Stephen Hawking alertó de la amenaza que podía representar la robótica, sobre todo cuando se le integra un sistema de inteligencia artificial e si esta no se moderaba: «Los robots son una amenaza para la humanidad. Los seres humanos que están limitados por la evolución biológica lenta, no podrían competir por la inteligencia artificial, y serían superados por ella».

Mark Zuckererg, el fundador de Facebook, es uno de los precursores del desarrollo de este tipo de tecnología, además de ser parte de la postura contraria que alienta a los desarrolladores a no ser víctima del miedo. Por contra, Elon Musk -que ha fundado y dirige empresas como Tesla, SpaceX, Hyperloop One o Paypal, es quien lidera la versión moderada de implantar una serie de medidas reguladoras. Los dos tecnólogos tuvieron un enfrentamiento sobre las medidas delimitadoras en las que se debería desarrollar.

 

     Si no sabemos manejar este espinoso asunto, las cosas se podrían poner feas para los humanos

Las opiniones generadas entorno a esta área han llegado a la formación de manifiestos y grupos contrarios a su desarrollo sin control, mientras que otros acreditan que ciertas posturas están fundamentadas en el terror. Lo cierto es que este verano saltó la voz de alarma cuando Facebook tuvo que desactivar un experimento de inteligencia artificial, porque dos bots programados para aprender a negociar habían llegado a la conclusión de que era más fácil regatear con un idioma más simple extraído del inglés; es decir, inventaron su propio lenguaje inentendible para el ser humano.

 

El director estratégico de InnoTech, aclara que en este tipo de experimentos ocurren desenlaces imprevisibles como parte de lo que supone la propia investigación. Por lo que, se debe matizar en el caso de estos dos bots que «no pensábamos que iban a reaccionar así», en lugar de «que no estaban programados para ello». Por lo tanto, «no se apagó porque se hubiera sucumbido al pánico, sino que ya se había cumplido el objetivo del experimento». Sin embargo, ambos bots no habían sido programados para que negociasen en un idioma entendible, porque al fin y al cabo las máquinas siguen sus normas establecidas en el código.

 

          Todos los indicios nos dicen que, con facilidad, los “Seres” Artificiales nos superarán, hasta el punto de que, en un momento dado, podrían pensar que no nos necesitan. Simplemente tenemos que pensar que el humano tiene muchos problemas para viajar al Espacio y soportar grandes distancias de decenas, cientos o miles de años de viaje para llegar a otros mundos. ¿Qué le impide a estos Robots de última generación realizar esos viajes: No necesitan comer ni dormir, no caen enfermos, tienen más fuerza que nosotros, no les afecta la radiación…

Por todo esto, la preocupación existe y discurre no en la tesitura de que un sistema funcione sin las pautas establecidas por un ser humano, sino por la falta de un consenso de la ética que deben seguir los sistemas inteligentes y el nivel de ciberseguridad para que los delincuentes no alteren su lógica marcada. «Sí que hay ciertos asuntos que hacen preocuparnos como lo relativo a la privacidad y la seguridad. Porque se está empezando a ver sistemas que están muy especializados en un área y eso puede suponer una amenaza», indica Sánchez. En este sentido, resuena a menudo las tres leyes de la robótica que estableció Isaac Asimov en su libro «Yo, robot» y que ha quedado plasmada a lo largo de la literatura de ciencia ficción.

 

    En ésta película pudimos ver la rebelión de los Robots que, bien podría ser un presagio de futuro

En primer lugar un robot no hará daño a un ser humano o, por inacción, permitir que un ser humano sufra daño, en el segundo caso un robot debe hacer o realizar las órdenes dadas por los seres humanos, excepto si estas órdenes entrasen en conflicto con la primera ley y por último un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o la segunda ley.

Dichas reglas son una buena manera de plantear la ética en la inteligencia artificial, pero «no responde realmente a los límites que deben tener la inteligencia artificial. La forma de expresarlo todavía no es tan pragmático como las reglas del libro «Yo, robot» de Isaac Asimov».

Sin regulación

 

 

Si sabemos regular, mediante una Ley, hasta donde se puede llegar con la I.A., los avances podrían ser controlados pero, siempre estará el científico independiente de “geniales” ideas que de con todo al traste y no cumpla las Normas.

 

¿Por qué resultan tan difícil establecer un consenso internacional para el desarrollo de la inteligencia artificial? Esta cuestión es a menudo respondida por el caso de los vehículos sin conductor, «un coche autónomo que haría si tiene que decidir entre matar a sus ocupantes o cinco personas en un paso de peatones», expone Domínguez. Dentro de la cuestión ética también trae consigo el componente de la cultura, que no es universal.

En las distintas vertientes de la IA, se ha obtenido en ciertas áreas un nivel de especialización mucho mayor, por lo que el Dr. Sánchez opina que «si esto lo combinamos con máquinas con autonomía de tomar ciertas decisiones estratégicas y operar en dispositivos que en este caso sí que podrían ser armas, pues puede suponer un riesgo». Por lo que, ajeno a ese mundo apocalíptico de máquinas superiores, hay que centrar los esfuerzos en controles de calidad para garantizar cierto nivel de calidad.

 

  Esta escena es ya un hecho, los humanos juegan al ajedrez con máquinas

La inteligencia artificial busca simular comportamientos que los seres humanos podemos interpretar como inteligentes, pero son los que toman decisiones de cierto calibre los que están en el foco de atención. IBM es una de las compañías punteras en lo referente a lo que llaman sistemas cognitivos, el software Watson que utilizan algunas empresas para sus sistemas se están empleando en casos reales como el diagnóstico de enfermedades. Cada Watson es distinto dependiendo del objetivo predispuesto al igual que la base de datos con la que está conectada, porque al fin y al cabo es una herramienta que lee muchos datos que una persona no podría abarcar, pero que despiertan dudas.

Por un lado, el director estratégico de InnoTech explica que «estos sistemas expertos a mí me preocupan desde el punto de vista de ciberseguridad, porque qué pasaría si alguien consigue atacarlos y modificar su comportamiento -bien sea alimentándolos de datos maliciosos para que cambian su manera de comportarse o de alguna manera transmutándolos para que de alguna manera cambien sus decisiones- ahí podríamos estar hablando de muertes de personas o incluso de colapsos de compañías a nivel económico».

 

Los Robots están presentes en los quirófanos y en otros ámbitos de nuestras vidas, el que poco a poco y de manera silenciosa se introduzcan en nuestra Sociedad, y, comiencen a pensar… ¡sólo es cosa de Tiempo!

Asimismo, el profesor de la UE señala que «si estás hablando de diagnósticos clínicos estás hablando de protección de datos. Parece una contradicción, pero algunas de las aplicaciones más interesantes y más complejas, algunas ya eran capaces de hacer diagnósticos hace años, de cómo iba a evolucionar una enfermedad y con tasas de aciertos muy altas».

 

                            Se empieza como si de un juego se tratara y… ¿Cómo se acabará?

Algunas empresas, ante la falta de consenso, han elaborado sus propia pautas y las comparten con otros entornos, como en el caso de IBM. La compañía tecnológica ha compilado tres principios. En primer lugar, lo que llaman el diseño que se refiere a «la capacidad de amplificar una persona», explica Elisa Marín, directora de Innovación IBM España, «debido a la gran generación de conocimiento entorno a la era digital, toda la información es valiosa» de manera diferente para cada persona. En segundo lugar, el principio de credibilidad para que «generemos confianza a las personas de su utilización». Por último el principio de fiabilidad del comportamiento para que solucione un problema de un dominio específico.

Por otro lado, Marín también aclara que los programas Watson como son diferentes, también funcionan a partir de bases de datos distintas. Al estar concentrados y separados, se reduce el riesgo del problema que pueda haber con la información, así como los datos que se vayan generando vayan únicamente a «la entidad que aporta la solución». Por otro lado, también hay un Watson de computación cognitiva en las amenazas de seguridad.

 

                           

 

Sí, hoy muchos de los automóviles que circulan por nuestras carreteras han sido fabricado por robots, y, algunos, hasta los llevan dentro para que aparquen solos, o, incluso, se les marque el viaje que harán sin necesidad de conductor… ¡No me gusta nada!

En el caso de la postura Accenture, la compañía apuesta por lo que llama la Inteligencia Artificial Responsable porque creen «que es una fuerza transformadora de la sociedad que sí debe haber niveles de regulación, pero no porque tengamos miedo de lo que nos pueda traer la inteligencia artificial, porque estamos intentando que avance quitándonos tareas que pueden ser hechas por máquinas y dejándonos tareas que podemos aportar mucho más como humanos. Pero sí, tiene que estar regulada», defiende la Managing Director de Accenture Analytics.

 

• • La luz viaja mucho más rápido, eliminando la resistencia y permitiendo un transporte de información prácticamente ilimitado. Los sistemas fotónicos pueden alcanzar velocidades de transmisión de hasta 60 terabits por segundo, comparado con los ~10 gigabits del cobre.
  • Eficiencia energética: Al no generar calor por resistencia, los componentes fotónicos pueden reducir el consumo de energía en interconexiones hasta en un 90%.
  • Mayor capacidad en menos espacio: Los fotones permiten la multiplexación por división de longitud de onda (WDM), enviando múltiples señales simultáneamente por una sola guía de onda (caminos diversos), algo imposible con electrones.
  • Integración en silicio: La fotónica de silicio aprovecha la infraestructura de fabricación de semiconductores existente para integrar guías de onda ópticas directamente en los chips. 

Bueno, como tantas otras veces, plateo preguntas que nadie puede contestar pero que, sus posibles respuestas son bastantes preocupantes para nosotros. ¡Seres artificiales con Conciencoia de Ser! ¿Estamos locos!