• • Avances Médicos: La IA ya está acelerando el descubrimiento de fármacos y mejorando los diagnósticos tempranos.
  • Eficiencia Energética: Optimización de redes eléctricas y soluciones contra el cambio climático.
  • Productividad: Automatización de tareas monótonas, permitiendo a los humanos enfocarse en la creatividad y la estrategia. 

• • El Problema de la Alineación: Asegurar que los objetivos de la IA sean exactamente los mismos que los valores humanos, que a menudo son ambiguos o contradictorios.
  • Velocidad de Desarrollo: La capacidad técnica está avanzando a veces más rápido que nuestra capacidad para crear regulaciones o salvaguardas (como se discute en foros de OpenAI o Anthropic).
  • Uso Indebido: El riesgo no es solo que la IA se vuelva “rebelde”, sino que sea utilizada por humanos con malas intenciones. 

• • Regulación (AI Act): La Unión Europea ha aprobado una de las primeras leyes integrales de IA para clasificar riesgos y limitar aplicaciones peligrosas Comisión Europea.
  • IA Explicable (XAI): Investigaciones para entender cómo toma decisiones la IA, evitando el efecto “caja negra”.
  • Ética por Diseño: Incorporar principios éticos desde la fase de entrenamiento, no como una capa final. 

              Ahora, platearemos la pregunta desde una perspectiva contraria.

Estoy convencido de que la I.A., según el camino que ha tomado, será un auténtico peligro para la Humanidad, hablan de unirla a robótica y dotarla de Consciencia de Ser, lo que supondría el final de nuestra especvie, ya que, “ella” sería más fuerte y más inteligente que sus propios creadores.

La ciencia ficción introdujo las posibilidades de las máquinas en un futuro no muy lejano, films como «Terminator» o «Robocop» mostraron las dos caras de los beneficios y los peligros tácitos de la robótica. Sin embargo, el debate desde hace años se encuentra en un vaivén y más cuando se tercia si se le da la posibilidad a un exoesqueleto de metal de tomar decisiones como un ser humano, revolucionando de esta manera el paradigma de la ética a través de la inteligencia artificial.

 

Hace unos años, el científico Stephen Hawking alertó de la amenaza que podía representar la robótica, sobre todo cuando se le integra un sistema de inteligencia artificial e si esta no se moderaba: «Los robots son una amenaza para la humanidad. Los seres humanos que están limitados por la evolución biológica lenta, no podrían competir por la inteligencia artificial, y serían superados por ella».

Mark Zuckererg, el fundador de Facebook, es uno de los precursores del desarrollo de este tipo de tecnología, además de ser parte de la postura contraria que alienta a los desarrolladores a no ser víctima del miedo. Por contra, Elon Musk -que ha fundado y dirige empresas como Tesla, SpaceX, Hyperloop One o Paypal, es quien lidera la versión moderada de implantar una serie de medidas reguladoras. Los dos tecnólogos tuvieron un enfrentamiento sobre las medidas delimitadoras en las que se debería desarrollar.

 

     Si no sabemos manejar este espinoso asunto, las cosas se podrían poner feas para los humanos

Las opiniones generadas entorno a esta área han llegado a la formación de manifiestos y grupos contrarios a su desarrollo sin control, mientras que otros acreditan que ciertas posturas están fundamentadas en el terror. Lo cierto es que este verano saltó la voz de alarma cuando Facebook tuvo que desactivar un experimento de inteligencia artificial, porque dos bots programados para aprender a negociar habían llegado a la conclusión de que era más fácil regatear con un idioma más simple extraído del inglés; es decir, inventaron su propio lenguaje inentendible para el ser humano.

 

El director estratégico de InnoTech, aclara que en este tipo de experimentos ocurren desenlaces imprevisibles como parte de lo que supone la propia investigación. Por lo que, se debe matizar en el caso de estos dos bots que «no pensábamos que iban a reaccionar así», en lugar de «que no estaban programados para ello». Por lo tanto, «no se apagó porque se hubiera sucumbido al pánico, sino que ya se había cumplido el objetivo del experimento». Sin embargo, ambos bots no habían sido programados para que negociasen en un idioma entendible, porque al fin y al cabo las máquinas siguen sus normas establecidas en el código.

 

          Todos los indicios nos dicen que, con facilidad, los “Seres” Artificiales nos superarán, hasta el punto de que, en un momento dado, podrían pensar que no nos necesitan. Simplemente tenemos que pensar que el humano tiene muchos problemas para viajar al Espacio y soportar grandes distancias de decenas, cientos o miles de años de viaje para llegar a otros mundos. ¿Qué le impide a estos Robots de última generación realizar esos viajes: No necesitan comer ni dormir, no caen enfermos, tienen más fuerza que nosotros, no les afecta la radiación…

Por todo esto, la preocupación existe y discurre no en la tesitura de que un sistema funcione sin las pautas establecidas por un ser humano, sino por la falta de un consenso de la ética que deben seguir los sistemas inteligentes y el nivel de ciberseguridad para que los delincuentes no alteren su lógica marcada. «Sí que hay ciertos asuntos que hacen preocuparnos como lo relativo a la privacidad y la seguridad. Porque se está empezando a ver sistemas que están muy especializados en un área y eso puede suponer una amenaza», indica Sánchez. En este sentido, resuena a menudo las tres leyes de la robótica que estableció Isaac Asimov en su libro «Yo, robot» y que ha quedado plasmada a lo largo de la literatura de ciencia ficción.

 

    En ésta película pudimos ver la rebelión de los Robots que, bien podría ser un presagio de futuro

En primer lugar un robot no hará daño a un ser humano o, por inacción, permitir que un ser humano sufra daño, en el segundo caso un robot debe hacer o realizar las órdenes dadas por los seres humanos, excepto si estas órdenes entrasen en conflicto con la primera ley y por último un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o la segunda ley.

Dichas reglas son una buena manera de plantear la ética en la inteligencia artificial, pero «no responde realmente a los límites que deben tener la inteligencia artificial. La forma de expresarlo todavía no es tan pragmático como las reglas del libro «Yo, robot» de Isaac Asimov».

Sin regulación

 

 

Si sabemos regular, mediante una Ley, hasta donde se puede llegar con la I.A., los avances podrían ser controlados pero, siempre estará el científico independiente de “geniales” ideas que de con todo al traste y no cumpla las Normas.

 

¿Por qué resultan tan difícil establecer un consenso internacional para el desarrollo de la inteligencia artificial? Esta cuestión es a menudo respondida por el caso de los vehículos sin conductor, «un coche autónomo que haría si tiene que decidir entre matar a sus ocupantes o cinco personas en un paso de peatones», expone Domínguez. Dentro de la cuestión ética también trae consigo el componente de la cultura, que no es universal.

En las distintas vertientes de la IA, se ha obtenido en ciertas áreas un nivel de especialización mucho mayor, por lo que el Dr. Sánchez opina que «si esto lo combinamos con máquinas con autonomía de tomar ciertas decisiones estratégicas y operar en dispositivos que en este caso sí que podrían ser armas, pues puede suponer un riesgo». Por lo que, ajeno a ese mundo apocalíptico de máquinas superiores, hay que centrar los esfuerzos en controles de calidad para garantizar cierto nivel de calidad.

 

  Esta escena es ya un hecho, los humanos juegan al ajedrez con máquinas

La inteligencia artificial busca simular comportamientos que los seres humanos podemos interpretar como inteligentes, pero son los que toman decisiones de cierto calibre los que están en el foco de atención. IBM es una de las compañías punteras en lo referente a lo que llaman sistemas cognitivos, el software Watson que utilizan algunas empresas para sus sistemas se están empleando en casos reales como el diagnóstico de enfermedades. Cada Watson es distinto dependiendo del objetivo predispuesto al igual que la base de datos con la que está conectada, porque al fin y al cabo es una herramienta que lee muchos datos que una persona no podría abarcar, pero que despiertan dudas.

Por un lado, el director estratégico de InnoTech explica que «estos sistemas expertos a mí me preocupan desde el punto de vista de ciberseguridad, porque qué pasaría si alguien consigue atacarlos y modificar su comportamiento -bien sea alimentándolos de datos maliciosos para que cambian su manera de comportarse o de alguna manera transmutándolos para que de alguna manera cambien sus decisiones- ahí podríamos estar hablando de muertes de personas o incluso de colapsos de compañías a nivel económico».

 

Los Robots están presentes en los quirófanos y en otros ámbitos de nuestras vidas, el que poco a poco y de manera silenciosa se introduzcan en nuestra Sociedad, y, comiencen a pensar… ¡sólo es cosa de Tiempo!

Asimismo, el profesor de la UE señala que «si estás hablando de diagnósticos clínicos estás hablando de protección de datos. Parece una contradicción, pero algunas de las aplicaciones más interesantes y más complejas, algunas ya eran capaces de hacer diagnósticos hace años, de cómo iba a evolucionar una enfermedad y con tasas de aciertos muy altas».

 

                            Se empieza como si de un juego se tratara y… ¿Cómo se acabará?

Algunas empresas, ante la falta de consenso, han elaborado sus propia pautas y las comparten con otros entornos, como en el caso de IBM. La compañía tecnológica ha compilado tres principios. En primer lugar, lo que llaman el diseño que se refiere a «la capacidad de amplificar una persona», explica Elisa Marín, directora de Innovación IBM España, «debido a la gran generación de conocimiento entorno a la era digital, toda la información es valiosa» de manera diferente para cada persona. En segundo lugar, el principio de credibilidad para que «generemos confianza a las personas de su utilización». Por último el principio de fiabilidad del comportamiento para que solucione un problema de un dominio específico.

Por otro lado, Marín también aclara que los programas Watson como son diferentes, también funcionan a partir de bases de datos distintas. Al estar concentrados y separados, se reduce el riesgo del problema que pueda haber con la información, así como los datos que se vayan generando vayan únicamente a «la entidad que aporta la solución». Por otro lado, también hay un Watson de computación cognitiva en las amenazas de seguridad.

 

                           

 

Sí, hoy muchos de los automóviles que circulan por nuestras carreteras han sido fabricado por robots, y, algunos, hasta los llevan dentro para que aparquen solos, o, incluso, se les marque el viaje que harán sin necesidad de conductor… ¡No me gusta nada!

En el caso de la postura Accenture, la compañía apuesta por lo que llama la Inteligencia Artificial Responsable porque creen «que es una fuerza transformadora de la sociedad que sí debe haber niveles de regulación, pero no porque tengamos miedo de lo que nos pueda traer la inteligencia artificial, porque estamos intentando que avance quitándonos tareas que pueden ser hechas por máquinas y dejándonos tareas que podemos aportar mucho más como humanos. Pero sí, tiene que estar regulada», defiende la Managing Director de Accenture Analytics.

 

• • La luz viaja mucho más rápido, eliminando la resistencia y permitiendo un transporte de información prácticamente ilimitado. Los sistemas fotónicos pueden alcanzar velocidades de transmisión de hasta 60 terabits por segundo, comparado con los ~10 gigabits del cobre.
  • Eficiencia energética: Al no generar calor por resistencia, los componentes fotónicos pueden reducir el consumo de energía en interconexiones hasta en un 90%.
  • Mayor capacidad en menos espacio: Los fotones permiten la multiplexación por división de longitud de onda (WDM), enviando múltiples señales simultáneamente por una sola guía de onda (caminos diversos), algo imposible con electrones.
  • Integración en silicio: La fotónica de silicio aprovecha la infraestructura de fabricación de semiconductores existente para integrar guías de onda ópticas directamente en los chips. 

Bueno, como tantas otras veces, plateo preguntas que nadie puede contestar pero que, sus posibles respuestas son bastantes preocupantes para nosotros. ¡Seres artificiales con Conciencoia de Ser! ¿Estamos locos!

• Teléfonos móviles y Videollamadas: Los comunicadores plegables de Star Trek (1966) inspiraron directamente a Martin Cooper de Motorola para desarrollar el primer teléfono móvil portátil.
• Internet y Ciberespacio: William Gibson acuñó el término “ciberespacio” en su novela Neuromante (1984), anticipando la red global. Arthur C. Clarke también predijo la red en 1964.
• Tablets y Pantallas Planas:Star Trek: The Next Generation mostraba dispositivos llamados “PADDs”, que son idénticos en funcionalidad y forma a las tablets modernas como el iPad.
• Inteligencia Artificial (IA) y Asistentes de Voz: Desde HAL 9000 en 2001: Odisea del Espacio hasta JARVIS en Iron Man, la IA conversacional ya es una realidad con asistentes como Siri, Alexa o modelos de lenguaje avanzados.
• Realidad Virtual (RV): El concepto fue popularizado en relatos como “Pygmalion’s Spectacles” (1935) de Stanley G. Weinbaum, mucho antes de los cascos modernos de RV.
• Submarinos: Julio Verne describió el Nautilus en Veinte mil leguas de viaje submarino (1870), influyendo a los pioneros de la navegación submarina.
• Puertas Automáticas y Domótica:Star Trek popularizó las puertas corredizas con sensores, y Los Supersónicos visualizaron la automatización del hogar (Internet de las cosas).

1. Inspiración Vocacional: Muchos investigadores reconocen que la ciencia ficción inspiró su carrera científica.
2. Debate Ético: Obras como 1984 o las leyes de la robótica de Asimov fomentan debates cruciales sobre la privacidad, la vigilancia y la ética de la IA.
3. Prototipado Ficticio: Diseñadores e ingenieros utilizan la ficción para visualizar cómo los usuarios interactuarán con tecnologías futuras. 

• • Hablar sin comprender: La comunicación humana a menudo falla no por falta de diálogo, sino por la falta de un sistema compartido de conceptos y por la actitud defensiva que adoptamos, más que por una escucha real. El miedo al ridículo o la inseguridad a menudo nos lleva a hablar de lo que no sabemos.
  • La contradicción constante: La necesidad de corregir continuamente lo que se dijo ayer es el resultado de intentar aplicar conocimientos incompletos o erróneos a situaciones complejas.
  • La complejidad de la vida: La Naturaleza y el Universo, con sus incontables secretos, requieren una confluencia de parámetros tan exacta que la emergencia de la vida misma, y con ella la consciencia, los pensamientos y sentimientos, es un fenómeno asombroso y apenas comprendido en su totalidad. 

Cuando he hablado de todo esto, no he nombrado a Dios, he creído y dejado entrever que, ante tantas maravillas y tanta perfección…. ¡Debe existir una especie de Conciencia Cósmica! Una conciencia cósmica muy ocupada con infinidad de cuestiones a las qu atenderr, que se se puede parar para atender el mal que esté presente en este o en aquel lugar, eso lo deja en manos de los hombres, que si no tienen conciencia, puden vivir tan ricamente a costa del sufrimiento ajeno.

¡Son tántos los ejemmplos que nos muestra la Histira del Pasado, son tantos los ejemplos del Presente, serán tantos los ejemplos del Futuro que vendrá!

Si ese Dios no atiende a nuestras necesidades, si no evita las injusticias, si no castiga a los malos… ¿Para qué lo queremos? Hemos llegado a comprender que el “Cielo” y el “Infierno” ¡Están aquí!