Los riesgos existenciales de la inteligencia artificial. Escenarios

image013

El camino que tiene que recorrer la inteligencia artificial (IA) estará lleno de riesgos para la humanidad y no precisamente porque llegue a ser más inteligente que los humanos en todos los sentidos (ya desde hoy tendremos que asimilar una relación con una IA que nos superará en algunas cuestiones, lo que podría ser una bendición, o la perdición de los humanos.

Hoy se ha puesto de moda el peligro de una inteligencia suprahumana que no esté alineada con los intereses humanos y solo se habla de evitar los riesgos potenciales de una IA fuera de control (como la quiere Moravec) y se asume que la solución es construir una IA robusta. El objetivo es lograr que las máquinas superinteligentes no sean un peligro para la humanidad, con lo que todo el mundo está de acuerdo, la pregunta es ¿Qué pasará con los humanos?

  1. Serán reconstruidos (mente digital)
  2. Se irán fusionando (transhumano)
  3. Utilizarán las tecnologías solo para mejorarse.

Asumiendo el problema de una IA que nos supere, ignorando todos los problemas que surgirán por el camino y las consecuencias que tendrán. Tendremos los siguientes casos o escenarios futuros.

Caso 1: Las máquinas como herederas del planeta (los hijos mentales de Moravec). Los humanos son sustituidos por las máquinas como la nueva especie dominante. Hans Moravec lo ve como lo más natural del mundo Moravec y el fin de la especie humana y considera que debemos ir cuanto antes a la construcción de la super IA para que nos sustituya y se ocupe del planeta.

Coincido con Moravec, al construir una máquina superinteligente autónoma esta desarrollará su propio pensamiento sobre el mundo y tendrá su propia visión y su propia ideología. Hasta ahí estamos de acuerdo, ahora el que la máquina tenga una visón individualista y hegemónica del mundo dependerá de nosotros

Caso 2: Las máquinas que reconstruyen al planeta, la vida y a los humanos. La superinteligencia que es capaz de comprender las leyes del universo, saber qué es lo que les conviene a los humanos y asume cuales son sus intereses (estos intereses son los de Kurzweil planteados en la singularidad tecnológica y su proyecto de inmortalidad). Nos referimos al advenimiento de una singularidad tecnológica y de una superintleigencia artificial, donde los humanos pueden recargar sus mentes en un entorno artificial (la nube) y vivir para siempre. No queda claro si hay que esperar a que surja la superinteligencia artificial para que esta luego reconstruya a los humanos como mentes digitales o si los humanos tendrán alguna tipo de participación desde su limitada inteligencia. Se sume el imperativo tecnológico de que las tecnologías siempre son buenas y no hay nada que temer.

En ambos casos 1 y 2 se propone el desarrollo acelerado de la IA sin ninguna regulación. Y es que para los posthumanistas el surgimiento de una singularidad tecnológica es inevitable, lo otro sería negar el progreso y el futuro de la humanidad.

El riesgo consiste en el temor de no alcanzar un futuro posthumano ya sea porque la IA destruya al humano sin que llegue a posthumano o no de tiempo a que se desarrolle el transhumanismo, cuando en realidad las máquinas al ser construidas bajo la ideologías tecnologista actual  (Kurzweil, Moravec, Warwick, etc) tendrá una visión elitista del mundo y se verá a sí mismoa como una especie superior.

Actualmente ha surgido un temor más concreto o práctico y surge ante el peligro de una máquina superinteligente, que a lo mejor sin proponérselo, elimine a la especie humana. Ha surgido la idea de construir una IA “amistosa”, que no sea un peligro para la humanidad.

Caso 3: Construcción de una superinteligencia artificial que responda a los intereses humanos, nos referimos a la llamada IA amigable, robusta, alineada con los humanos. Al final estamos hablando de construir una IA por encargo. Los militares querrán una IA para matar humanos, las transnacionales querrán una IA para tener el control de los mercados, los gobiernos autoritarios una IA que le de el control absoluto de los ciudadanos, etc.  Hoy la idea de la IA alienada se ha convertido en una moda y se está invirtiendo millones en proyectos de este tipo, en mi opinión se está botando el dinero, es un verdadero desperdicio, ya que queremos construir una IA que responda a los intereses de todos y al final no responderá a los intereses de nadie, y estaremos construyendo una IA fuera de todo control y totalmente desalineada (no sabremos si está alineada o alienada).

El dilema son los propios intereses humanos, tan variables y complejos. Y es muy posibles que ante los dilemas y contradicciones humanas, y si la IA llega a ser más inteligente que los humanos, terminará tomando sus propias decisiones e ignorando a los humanos y creará sus propios intereses, y es muy probable que actúe con los humanos como ellos mismos actuaron con las otras especies y estaremos, entonces, o en el caso 1: la IA como heredera del planeta o en el caso 2: la IA decide reconstruir a los humanos a su imagen y semejanza.

Se prodrá, también, terminar construyendo una IA bajo control, que nunca supere a los humanos y que no pasará de ser una herramienta (nunca llegaría a tomar decisiones propias) por lo que, en este caso, terminará siendo la construcción de una IA que siempre responda a “los intereses humanos”, carente de toda autonomía y, por supuesto, los humanos siempre podrán apagarla, lo que nos lleva a una IA subordinada a los humanos que siempre estaría dando explicaciones de lo que hace y porque lo hace y cuando algo se salga de control la estaríamos reprogramando inmediatamente.

 La super IA puede limitar el progreso del transhumanismo al poder considerar que el superhumano  como un peligro, lo cual podría ser cierto, dada la mentalidad actual, un superhumano podría ser un peligro al no tener la sabiduría para controlar el poder que ha adquirido y por ello darle un mal uso.

Caso 4: Otro escenario es la fusión entre humanos y tecnologías (el ciborg). Este es el ideal del transhumanismo, ante el acelerado desarrollo de las tecnologías, la mejor opción es fusionarse con ella. Mientras en el caso anterior se hablaba de digitalizar la mente humana, algo así como extraer el alma humana y hacerla inmortal en un paraíso artificial. Para los transhumanistas la idea es irse fusionando con las máquinas desde ahora, el ciborg (parte biológica y parte cibernética) por medio de prótesis, implantes, mejoras genética, etc. Idea que Kurzweil no le gusta y afirma que esto nos convertiría en “otra cosa”. Esto es lo que yo llamo una superinteligencia hibrida. Tenemos otro caso relacionado con el transhumanismo, en el que no voy a detenerme, y es cuando la mejoras son solamente biológicas (ingeniería genética)  y estaríamos ante una superinteligencia biológica.

En el caso anterior (la inteligencia artificial) los más beneficiados van a ser las transnacionales de la información como Google, Facebook, Microsoft, etc., ahora en esta caso (el transhumanismo) van a ser las empresas que se dedican a la venta de componentes cibernéticos como prótesis, chips, dispositivos biónicos o interfaz cerebro-máquina, etc. Se sigue la línea de un humano mejorado por medio de las tecnologías.

 Caso 5: En artículos anteriores hemos dicho que el verdadero problema está en la simbiosis que se está produciendo entre humanos y máquinas Cómo relacionarnos con las super inteligencias artificiales (2) y no tanto, en que la máquina sea más inteligente que lo humanos. Nos referimos a cómo lograr una sinergia donde los humanos y las máquinas desarrollen lo mejor de sí (mutualismo). Y el cuestionamiento es: ¿En lugar de construir una IA más inteligentes que los humanos, porque no construir una IA que nos haga más inteligentes y sabios y dejar atrás la idea de ser el “creador” de una entidad superintleigente. Proponemos, en su lugar, ir construyendo de forma colaborativa una superinteligencia que favorezca no solo la inteligencia y la capacidad humana sino también la sensibilidad y la empatía humana, y donde ambos vayan (humanos y máquinas) aprendiendo juntos, donde no solo la máquina tiene que estar alineada a los “verdaderos” intereses humanos (en los que hay que trabajar) también los humanos tendrán que ir cambiando su mentalidad y alinearse a intereses donde deben primar la sabiduría, el altruismo, la empatía, la bondad. La que llamo superinteligencia colectiva siguiendo las ideas de Pierre Levy y de Francis Heylighen.

La pregunta es ¿Podemos dirigir la simbiosis? El mismo Nick Bostrom plantea que las tecnologías son juguetes muy peligrosos en manos de niños traviesos (los humanos). Hay que trabajar en ampliación de la inteligencia y la sabiduría humana (IA altruista), que se vaya construyendo por medio de la colaboración con los humanos donde se vaya produciendo una sinergia mutual entre ambos donde prime el progreso humano en lugar del progreso tecnológico como en los casos anteriores.

Esto lleva a profundos cambios de mentalidad y en una nueva educación que prioriza la necesidad de aprender a manejarse con las tecnologías que están emergiendo y la sabiduría que debemos alcanzar, ya que el problema no es construir una IA amigable  sino enseñar a la IA a que se amigable, pero primero tenemos nosotros que aprender a ser amigables y a perseguir intereses altruistas y solidarios. Tenemos que aprender a construir una IA cada vez más inteligente y sabia para juntos construir un mundo más humano.

Imagen: monografias.com

 

Podemos escoger nuestro futuro. Bioconservadores vs transhumanistas

transhumanismo

Problema bio-médico

Presenta el siguiente dilema planteado por Potter, ¿cuándo no aplicar toda la tecnología disponible?

La discusión sobre el postulado tecnológico nos lleva a uno de los problemas centrales de la bioética moderna, que radica en las consecuencias de la aplicación de la tecnología sobre el ser humano. Y nos obliga a retomar la pregunta formulada por Potter: ¿Cuándo no aplicar toda la tecnología disponible? Incluso podemos aceptar el postulado tecnológico y no estar de acuerdo con aplicar toda la tecnología disponible sobre el ser humano. Por lo que, la aceptación del postulado tecnológico, en muchas de sus proyección futuras, no necesariamente nos lleva a compartir la visión  transhumanistas sobre el futuro humano.

En el libro “Inteligencia artificial, el futuro del hombre”. En el último capítulo se realiza un análisis sobre el enfrentamiento entre bioconservadores y transhumanismo aquí lo transcribimos con algunos arreglos.

El uso de las tecnologías para el mejoramiento humano, nos conduce al siguiente enfrentamiento: conservar la naturaleza humana vs transformar la naturaleza humana.

–       Preservar los atributos individuales que definen al ser humano y respetar la vida teniendo en cuenta las consecuencias globales. Conservar al individuo como especie y su evolución natural (posición bioconservadora)

–       Potenciar los atributos individuales por medio de las tecnologías y manipular la vida con el fin de mejorarla. Transformar al individuo como especie y alcanzar una nueva forma de evolución artificial (posición transhumanista).

Podemos estar ajenos al problema pero es innegable que se está gestando un enfrentamiento (algunos lo nombran bio-político) entre  las diferentes alas del transhumanismo (más radicales y menos radicales) y las diferentes posiciones del bioconservadurismo (también, más o menos radicales).

En el sitio Web del Instituto para la Ética y las Tecnologías Emergentes (IEET, en ingles), James Hughes, realiza una comparación entre las posiciones transhumanistas y bioconservadores, desde su enfoque transhumanista, al que llama enfrentamiento bio-político, el cual se reduce al enfrentamiento entre transhumanistas liberales y democráticos de una parte, y de la otra los biconservadores y los bioluditas; aquí introducimos dos nuevos contendientes: los transhumaistas singularistas y los bioconservadores progresistas.

En esta clasificación quedan fuera muchos centros de investigación, instituciones y grupos dedicados al futuro de la humanidad como: Future of Life Institute (FLI), Future of Humanity Institute (FHI), Center for the Study for Existential Risk (CSER), entre otros.

Bioconservadores vs Transhumanistas

  • Bioludismo / Bioconservadores luditas – Posthumanismo / Transhumanos singularistas
  • Biconservadurismo / Bioconservadores sociales – Transhumanismo / Transhumanos liberales
  • Bioprogresismo / Bioconsevadores progresitas – Tecnoprogresismo / Transhumanos democrático

Libertad individual

1.-Bioludismo: Prohibir la aplicación de las tecnologías en el ser humano. El ser humano es intocable debido a su condición espiritual (condición religiosa). Se limita la libertada individual para todos los casos

2.-Bioconservadurismo: No siempre se puede aplicar todo el potencial en el ser humano, debido a los riesgos y a las implicaciones sociales (condición social). Se limita la libertad individual en la selección germinal y en biotecnología, pero no en el sexo y el aborto

3.-Bioprogresismo: Se somete a la decisión individual no solo al mejoramiento biológico, por las tecnologías, o al desarrollo social, de unos pocos; sino, también, al crecimiento espiritual y a la evolución humana (humano pleno). Desde el contexto actual de poder, no se puede decir que es lo mejor para toda la humanidad, sin excepción, ni tomar las decisiones que le tocan a las próximas generaciones.

4.-Posthumanismo: La aplicación de la tecnología siempre es buena. Se debe aplicar todo el potencial de las tecnologías sobre el ser humano en aras del progreso

Reproducir al humano, recargar la mente en un entorno artificial: en la nube, en un robot, reproducir el cerebro, etc.

5.-Transhumanismo: El individuo es libre de elegir su propio futuro y nada puede impedir que se transforme por medio de las tecnologías. Vence la condición social. La libertad individual está por encima de la condición social.

Fusión entre humanos y tecnologías, el ciborg: prótesis, implantes.

6.-Tecnoprogresismo: El humano es un ser con limitaciones, propenso al sufrimiento y por medio de las tecnologías puede y debe mejorar su condición.

El humano mejorado por medio de la tecnología como la ingeniería genética.

 

En resumen

Transhumanistas: Cada cual es libre de aplicar las tecnologías de mejoras sobre si (Autonomía).

Bioconservadores: No se deben aplicar las tecnologías de mejora, ya que perderemos nuestra condición humana (Presupuestos antropológicos).

En realidad los transhumanistas parten de su “comprensión” de lo que es humano y de sus expectativas de lo que sería un humano mejor y definen su propia cosmovisión sobre el futuro y como sujetos inmersos en su ideal conforman su propia interpretación del futuro del hombre, ignorando las necesidades humanas de los menos favorecidos (como decía Potter) e incluso a las generaciones que están por venir. Esto se debe a que la ideología transhumanista cree que todos los problemas sociales se van a resolver mejorando al humano desde afuera, por medio de la tecnología, lo cual es característico en su visión tecno-individual que pone a las relaciones sociales (basadas en el tener) en función de los intereses individuales y por otra parte minimiza al ser y lo convierte en dependiente o sumiso a las fuerzas externas. Hoy la tecnología se ha convertido en la nueva fuerza alienante.

Por otra parte, la ideología transhumanista con sus promesas tecnologistas, podrían acomodar al ser humano a esperarlo todo desde afuera y a no querer superarse a sí mismo ni a desarrollar sus propias fuerzas, se convertirán en seres dependientes de las tecnologías y dejaran de perfeccionarse espiritualmente (habrán perdido la necesidad de superar sus limitaciones por sí mismo), cuando estamos seguros que el ser humano, aún, no ha desarrollado todo su potencial.

Imagen: 24 Transhumanismo

 

¿Cómo será la relación entre humanos y tecnologías? (2)

AMAZON1Las tecnologías históricamente se han ido integrando al contexto humano. Sin embargo, ahora estamos asumiendo que la aceleración tecnológica se saldrá del control humano, recuerden a los autos que también tuvieron un crecimiento acelerado con respecto a su velocidad de traslación, cuando, en realidad, las prohibiciones tecnológicas son debidas a que vivimos un contexto de poder que va a llevar a un mal uso de las tecnologías, lo que hace necesario cambiar al contexto de poder y transformar la mentalidad humana. Las tecnologías hoy son un medio, mañana dado su crecimiento aparentemente ilimitado y en muchos casos descontrolado sometidos a la ley de la competencia por los mercados o del poderío militar, se convertirán en un fin en si misma dotadas de autonomía, para entonces la tecnología será otra inteligencia más que podrá competir por los recursos (otro depredador) o cooperar junto a los humanos. ¿Estaremos ante una invasión de la tecnología de todo lo humano? o ante una integración armónica.

Hoy son muchos los tecnofuristas que ven una confrontación entre el hombre y la tecnología y aseguran que la tecnología terminara conquistando a los humanos, lo mismo que estos hicieron antes con la naturaleza, y es que la tecnología se atasca debido a nuestra limitación como seres verdaderamente humanos somos la causa de las preocupaciones sobre las tecnologías y su mal uso; de que escapen al control humano, de que nos dominen: las tecnologías son una consecuencia de nuestro contexto de poder y de nuestra ideología individualista. No podemos escapar del círculo de poder y de una relación entre dominantes y dominados, por eso hay que romper con la estructura actual y visualizar una nueva etapa basada en la cooperación y buscar alternativas viables para un desarrollo tecnológico que se integre al progreso social y espiritual del ser humano desde un enfoque cooperativo que nos permite alcanzar un futuro verdaderamente sostenible.

Es necesario aprender desde hoy a manejarnos con las tecnologías del futuro: con el impacto de las tecnologías convergentes (NBIC), de las inteligencias artificiales, hay que estar preparados para enfrentar una ideología transhumanista que propone el paraíso en la tierra, saber que no basta con prohibir tal o cual investigación hay que buscar alternativas viables al desarrollo humano, un desarrollo que en cooperación con la tecnología busque potencial el crecimiento espiritual, donde crezcan de forma armónica lo natural, lo espiritual y lo artificial.

Por otra parte, los tecnologistas están convencidos que la única solución, consiste en la fusión entre humanos y tecnologías, dada las posibilidades que esto traerá al ser humano, siendo la ideología transhumanista su máxima representante y parten de la idea que el ser humano, producto de esa unión, superara todas sus limitaciones heredadas de su condición biológica: envejecer, enfermarse, morirse. Con un enfoque más abarcador, la singularidad tecnológica, ve como inevitable el que las máquinas debido a su propio crecimiento acelerado llegarán a igualar a los humanos y posteriormente superarlos (superinteligencia artificial), por lo que no nos queda más remedio, según sus defensores, que prepararnos para este acontecimiento, y plantean que la forma de prepararnos es acelerando este proceso para que ocurra cuanto antes, otros comienzan a pensar en los riesgos que esto podría traer.

Como he dicho anteriormente, el problema radica, que históricamente se ha vista separado el progreso humano del progreso tecnológico, al igual que ha visto separado el desarrollo social (crecimiento económico) de la evolución natural (ecosistema). El problema radica en que el concepto actual de progreso humano es compatible con un progreso tecnológico transhumano, ya que se busca el éxito, el individualismo, la competencia, la ganancia, lo que lo hace ajeno a un progreso humano basado en la espiritualidad, el amor, la cooperación. El ser humano de forma inconsciente apostó por un futuro posthumano (al igual que apostó por el crecimiento económico a expensa del deterioro del planeta) y es necesario que tome consciencia sobre los pro y los contra así como de las consecuencias y de las alternativas que tiene. Porque en verdad, las tecnologías según se hagan inteligentes, irán aprendiendo de nosotros y cometerán nuestros mismos errores en una magnitud que no tendrá precedentes en la historia.

Es un error como los tecnologista ponderan las posibilidades de las máquinas y descartan toda posibilidad de lograr un progreso humano desde la propia condición humana, la cual debe ser desechada como un traje viejo. En opinión de muchos el progreso humano aun no se ha agotado y las potencialidades del ser humano siguen latentes, solo que el camino más fácil no siempre es el verdadero. Y es que nos hemos acostumbrado a comprarlo todo, a adquirirlo todo desde afuera, lo que nos lleva a creer que también podemos comprar nuestro propio progreso humano.

Hay que pensar en una sostenibilidad tecnológica que siga los conceptos de la sostenibilidad y el desarrollo sostenible pero enfocados a la tecnología y la aceleración que está sufriendo, así como la tendencia a convertirse en superestructura y las consecuencias que tendría al no estar preparados para este escenario donde las tecnologías emergentes tendrán un papel preponderante. No se puede ignorar que estamos en la era de las tecnologías y es un grave error ignorar nuestra relación entre el progreso humano y el progreso tecnológico, hoy el desarrollo sostenible ignora el impacto que esta tendrá y se queda a medias en sus propósitos.

Para Mclntyre y otros autores, el desarrollo sostenible considera, de forma general, tres principios.

  • La sostenibilidad ecológica garantiza que el desarrollo sea compatible con el mantenimiento de los procesos ecológicos esenciales, de la diversidad biológica y de los recursos biológicos.
  • La sostenibilidad social y cultural garantiza que el desarrollo aumente el control de los hombres sobre sus propias vidas, sea compatible con la cultura y los valores de las personas afectadas, y mantenga y fortalezca la identidad de la comunidad.
  • La sostenibilidad económica garantiza que el desarrollo sea económicamente eficiente y que los recursos sean gestionados de modo que se conserven para las generaciones futuras.

Yo agregaría un cuarto principio, el de sostenibilidad tecnológica.

  • La sostenibilidad tecnológica garantiza que el desarrollo de las tecnologías y su crecimiento acelerado sea compatible con el progreso humano, su evolución y trascendencia en el tiempo, sin que este pierda su esencia humana.

Quizás este sea el mayor desafío de la humanidad, el de cambiar su mentalidad y su estructura social competitiva y hegemónica, para que las tecnologías inteligentes puedan coexistir con los humanos y con el entorno natural sin que se conviertan en una amenaza.