Vías para alcanzar la inteligencia suprahumana

Vivimos dentro del paradigma mecanicista-lineal y la construcción de una inteligencia artificial (IA) no escapa de las leyes de este paradigma, de ahí que se hable de un crecimiento acelerado (lineal): más memoria, más velocidad de cálculo, más velocidad de acceso, etc., y se asuma que esto nos llevará a una singularidad (Kurzweil) y no se tiene en cuenta la interacción con el entorno. Por otra parte se habla de ampliación de la inteligencia y del mejoramiento por medio de las tecnologías de la condición humana, donde el mejoramiento incluye no solo ser más inteligente sino, también, ser más bello, más fuerte, más saludable, etc. En este articulo nos concentraremos en sueño de alcanzar una inteligencia suprahumana (superior a la humana) sin dudas el de mayor interés, aunque sabemos que el único problema no es ser más inteligente, la inteligencia no lo es todo, pero como estamos dentro del paradigma mecanicista-lineal  donde la inteligencia es el don más preciado. Hoy el mundo necesita no solo de mas inteligencia sino, también, de sabiduría para manejarse con las inteligencias suprahumanas

Ahora veamos algunos conceptos y definiciones imprescindible para comprender el surgimiento de una inteligencia suprahumana

Existen dos formas clásicas de lograr la inteligencia suprahumana

  • Superinteligencia artificial. Construir las bases de una IA avanzada capaz de hacerse más inteligente
  • Ampliación de la inteligencia. Aprovechar la inteligencia humana y hacerla más inteligente.

En este artículo veremos una tercera forma: la inteligencia transdisciplinar

La IA avanzada es aquella que producto que cada vez se hace más inteligente (explosión de inteligencia) se convertirá en una super IA donde la IA surge independiente de los humanos.

La explosión de inteligencia

  • Para la singularidad se produce una explosión de inteligencia en las máquinas
  • Para el cerebro global se produce una explosión de inteligencia producto de la conexión entre humanos y máquinas (sistemas y dispositivos)
  • Para el transhumanismo se produce una explosión de inteligencia producto de conexión directa entre humanos y tecnologías.
  • Para el enfoque sistémico-cibernético se produce una explosión de inteligencia (aprendizaje colectivo) producto de la colaboración (interacción) entre humanos y tecnologías.

Intelectual: La IA como ciencia que permita construir una inteligencia (no humana) que iguale y supere a la humana. Se construye a nivel de laboratorio en un centro de investigación.

Social: El impacto de la IA, riesgos y beneficios. Las consecuencias que tendrá sobre la humanidad.

  1. El impacto de la IA sobre el individuo: nos hará más inteligentes y sabios, facilitará el perfeccionamiento individual, aumentarán las facultades humanas.
  2. El impacto sobre la sociedad: Eliminará las injusticias, mayor acceso a la educación, la salud al alcance de todos, permitirá un monitoreo constante del estado de salud de cada individuo.
  3. El impacto económico: no habrá pobreza, se alcanzará la prosperidad, los ricos serán más ricos (aumentará la brecha entre ricos y pobres), las grandes transnacionales controlarán la economía mundial, se eliminaran trabajos y surgirán otros, existirán nuevas oportunidades de negocio
  4. El impacto en la ecología: Por una parte se podrá alcanzar una mayor sostenibilidad en el planeta, mayor protección de los recursos, lograr el equilibrio en el ecosistema por la otra se aumentara la degradación del planeta.

Líneas de investigación

  • Línea cosmovisiva-futurista enfocada al futuro a mediano y largo plazo
  • Línea científica-presentista enfocada al presente

Cosmovisiva-Futurista: representa una cosmovisión sobre el futuro humano. Su impacto mayor se producirá en el futuro. Tiene un carácter ideológico

Cientifica-Presentista: Representa las líneas de investigación para lograr una inteligencia artificial o desarrollar las tecnologias de mejoramiento. Su impacto se realiza desde el presente hasta un futuro cercano.

Orientación de las investigaciones en IA

  • Sociales: centrada en los impactos sociales de la IA (desde lo intelectual para lo social)
  • Economicista: centrada en el crecimiento del mercado potenciado por la IA (desde lo económico para lo económico)
  • Intelectualista: centrada en el reto intelectual de construir una IA (desde lo intelectual para lo intelectual)
  • Colaboracionista: centrada en la colaboración (desde lo social para lo social)

Posiciones desde el impacto de las tecnologías

  • Transhumanista: la creencia que uno de invertir en tecnologías de extensión de vida
  • Racionalistas: crear una IA alineada que resuelva todos los problemas, incluido la inmortalidad
  • Comunitario: Desarrollado por comunidades sin fines de lucro (software libre). Desde y para lo social

 Investigación y desarrollo de una inteligencia suprahumana

  • Centro de investigación académicos (academias, universidades). IA construida en laboratorios
  • IA privativa o propietaria (*). Como servicio propiedad de las empresas de las tecnologías de la información
  • Instituciones patrocinadas (ONG. IA beneficiosa En este caso cabe preguntarse ¿por quién? Un patrocinador altruista o uno que busca solo ganancias.
  • Comunidades libres. Software comunitario (software libre). IA libre
  • Centros financiados por empresas privadas (PyMES). IA comercial (producto)
  • Institutos gubernamentales. Centros financiados por el estado, educación, salud, militares, etc. IA gubernamental.

(*) Stallman (el padre del software libre), prefiere llamarle al software propietario, software privativo, por una parte porque es privado y por la otra, porque, al ser exclusivo, limitaba (privaba) el desarrollo de otras empresas y organismos.

Las vías para alcanzar una inteligencia suprahumana

 La singularidad tecnológica de Vinge. Los caminos para alcanzar una inteligencia suprahumana.

Ya a mediado de los 80s el científico y escritor de ciencia ficción Vernor Vinge, vaticinó que la creación de entidades con inteligencia mayor que la humana será una realidad en un futuro cercano, antes del 2030 y se podrá lograr por cuatro caminos diferentes en dependencia del  tipo de superinteligencia que se alcance

  1. El desarrollo de un computador que alcance el nivel de inteligencia humana y posteriormente lo supere (Superinteligencia artificial)
  2. El desarrollo de elementos de interconexiones entre humanos y computadoras pueden llevar a un nivel tal de profundidad que permitan a un humano comportarse como un ser superinteligente (Superinteligencia híbrida)
  3. El desarrollo de redes de computadoras con sus usuarios asociados que se comporten como super-neuronas de un cerebro distribuido que “despierten” como entes inteligentes (antes la llamé Superinteligencia colectiva a hora prefiero llamarla Superinteligencia global)
  4. Manipulaciones biológicas que permitan mejorar en los seres humanos el nivel de inteligencia (Superinteligencia biológica)

Los nombres a cada superinteligencia se los puse yo para poder identificarlos de manera más fácil. No quiere decir que los inventara, muchos de ellos existían, solo se los asocie a cada una de los caminos propuestos por Vinge.

  • Paradigma mecanicista-lineal

I.-Vias para desarrollar la IA (Racionalista): crear una inteligencia artificial (IA)  avanzada capaz de resolver todos los problemas.

Linea cosmovisiva-futurista: su impacto mayor va a ser en el futuro

1.-Superinteligencia artificial: IA que a partir de un punto se hace cada más inteligente sin la necesidad de los humanos.

Surgimiento de una superinteligencia artificial superior a la inteligencia humana. Estamos hablando de que los humanos sean capaces de construir una inteligencia artificial que los iguale y que después, esta inteligencia no humana, sea capaz de superarse a sí misma. Dado el crecimiento veloz que tiene el hardware (ley de Moore) y no en el desarrollo de programas que emularan la inteligencia humana como se pretendía en los primeros años de la Inteligencia artificial. Se está hablando de una inteligencia artificial fuerte que supone que la consciencia es codificable, se consideran a los estados mentales como algoritmos altamente complejos) y puede ser descargada del cerebro y copiada en un soporte digital (conciencia trivial)

Vinge define una máquina superinteligente como una máquina capaz de superar en mucho todas las actividades intelectuales de cualquier humano independiente de este. Y que una vez que supere la inteligencia humana será capaz, a su vez, de diseñar máquinas cada vez más inteligentes, lo que llevara a una explosión de inteligencia, por lo que crecerá de forma autónoma siguiendo su propio progreso tecnológico, con o sin los humanos, idea preferida de Hans Moravec, quien ve en la evolución de las máquinas la continuidad de la humana. Muchos sueñan con que esa superinteligencia artificial, después, sea capaz de reprogramar la mente humana y con ello alcanzar la ansiada inmortalidad.

Las máquinas serán conscientes (consciencia trivial). Históricamente se ha desarrollado en centros de investigación (laboratorios de IA) y actualmente personalidades científicas (Vinge, Kurzweil, Moravec). La IA como solución a todos los problemas. El reto intelectual siempre ha sido construir una IA fuerte. Se produce dentro de una sinergia endógena parasitaria. Cosmovisión tecnologista.

Línea cosmovisión o científica: se centra en el impacto a mediano plazo

2.-IA avanzada beneficiosa: Lograr una IA avanzada y que sea beneficiosa

Se persigue la construcción de una IA controlada para que no sea un peligro. Construir una IA que responda a los intereses humanos, aunque en el fondo se aspira a una IA capaz de igualar o supera la inteligencia humana. Sera una IA regulada con un control constante sobre su desarrollo, su conciencia, de surgir, también podrá ser modificada por los humanos en cuanto se aleje de los intereses humanos, siempre podrá ser reajustada.

La IA avanzada beneficiosa o robusta, es el mayor reto intelectual de este siglo donde lo principal no es el impacto social sino que esté alineada con los intereses humanos, de lo que surgen ciertas dudas: ¿Quién tendrá el control de la IA? ¿A qué intereses responderá? Se desarrolla fundamentalmente en centros patrocinados: Instituto para el futuro de la humanidad, Instituto para el futuro de la vida, etc. El tipo de sinergia debe ser endógena comensal siguiendo la idea de una cosmovisión tecno-democrática

3.-IA avanzada privativa

Se construye en los laboratorios de las grandes transnacionales y desde el presente se está integrando en sus servicios como parte de su Know How. Tendrá su propia conciencia, en general se asume una conciencia trivial que responderá a la ley del mercado.

Su objetivo será el control del mercado y el crecimiento económico ilimitado lo cual la conducirá a una sinergia endógena de tipo mutual. Centros de investigación propios de las transnacionales (Google, Facebook, Microsoft, IBM, Amazon, etc). Cosmovisión tecno-liberal.

4.-IA general

Se busca la construcción de una IA fuerte.  Se pretende aterrizar las ideas de una super IA que tenía un carácter demasiado futurista por la idea de construir una IA fuerte  retomando las ideas de los padres de la IA. También rompe con la idea de una IA estrecha la cual se construye para desarrollar tareas propias de los humanos en un dominio especifico de aplicación (ej. los sistemas expertos). Construir una IA que sea consciente (conciencia trivial).

Se desarrolla en centros de investigación (Bent Goerzel, es uno de los pioneros de esta línea). Cosmovisión tecnologista. Tiene carácter intelectual.

Línea científica: a corto plazo. No tienen un carácter general ni de alcance cosmovisivo,  son aplicaciones puntuales que busca la implementación de la IA en la vida cotidiana.

5.-IA aplicada

Sistemas informáticos se basa en una IA débil, también se le llama IA estrecha ya que se aplica a dominios de aplicación, el ejemplo clásico son los sistemas de expertos donde se representan los conocimiento de campos especifico de aplicación. Se aplica a diferentes dominios de experticidad como el diagnostico medico, la selección de soluciones en una área determinada, el diseño de estructuras, la planificación de procesos, etc.

6.-IA comercial

Orientada al desarrollo y venta de productos (software) para el mercado. IA como producto comercial dentro de la idea de una IA débil. Se está produciendo dentro de las medianas y pequeñas empresas.

 7.-IA para el bien (AI for good)

 Se pretende aprovechar el enorme potencial de la inteligencia artificial para el bien social y lograr que tenga un papel esencial en la vida cotidiana y como objetivo se aspira a que pueda acelerar los avances en el logro de los Objetivos de Desarrollo Sostenible de las Naciones Unidas (ODS). Como se ve está relacionado con los proyectos de las Naciones Unidas y se centra en la implementación de aplicaciones de la IA donde se logre el mayor beneficio social.

II.-Vías para la ampliación de la inteligencia (transhumanista): desarrollar tecnologías de extensión de vida (ampliación endógena de la inteligencia).

Línea cosmovisiva-futurista a largo plazo

1.-Superinteligencia hibrida. Ampliación de la inteligencia por medio de la fusión entre humanos y tecnologías

Dentro del concepto de ampliación de inteligencia, Vinge incluye las interconexiones entre humanos y computadoras de la siguiente forma: Hay otros paradigma donde la inteligencia artificial y las redes neuronales se beneficiaran de una conexión más estrecha con la vida biológica. En lugar de intentar modelar la vida biológica por medio de las computadoras, la investigación podría dirigirse a la creación de sistemas compuestos, y menciona la conexión directa de un cerebro a interfaces de computadoras (aquí se producirá una conexión endógena).

Interconexión entre humanos y computadoras, tales como, prótesis, implantes de chip, etc. Lo cual nos lleva al cíborg, donde se fusionan los humanos con las máquinas. La idea de una transhumanidad que transcienda a la condición humana y con ello superar todos los límites de la especie humana y dar surgimiento a una nueva especie posthumana. Esto nos arrastra a una singularidad fuerte.

La idea de la fusión responde al sueño de los transhumanistas de lograr un humano mejorado. El transhumanismo es un movimiento tecnológico, iniciado por Nick Bostrom, que afirma la posibilidad y el deseo de mejorar, en modo fundamental, la condición humana a través de la razón aplicada, especialmente por medio del desarrollo y la puesta a disposición de tecnologías para eliminar el envejecimiento y potenciar grandemente las capacidades humanas, intelectuales, físicas y psicológicas.

Para muchos los humanos deben fusionan con las máquinas para  igualarse a las super IAs siguiendo el razonamiento de que surgimiento de una super IA es un riesgo para la humanidad (ej. el proyecto Neurolink de Elon Musk). Sinergia endógena entre humanos y tecnologias de carácter mutual, se asume una conciencia de tipo físico-reproducible. Cosmovisión tecnologista.

2.-Superinteligencia biológica

Mientras la anterior está relacionada con las tecnologías conexas, aquellas que no se fundamentan en las ciencias de la vida (biotecnologías), pero que tienen una incidencia importante sobre esta (Nanotecnología, Robótica, inteligencia artificial, etc.). La  biotecnología surge producto del desarrollo de la biología y cifra sus esperanzas en la ingeniería genética. Aquí se manejan conceptos, muy debatidos en la actualidad, como el de eugenesia negativa o positiva o el de la clonación. En general se aspira al humano mejorado por medio de la bioingeniería, la misma, irá conduciendo a la humanidad a una fusión progresiva y menos radical que la híbrida.

Vinge solo menciona esta forma de superinteligencia, no es de su interés ya que no está relacionada con la amplificación de la inteligencia por medios cibernéticos (tecnologías conexas) sino por medio de la biotecnología aquí. Estamos hablando de la posibilidad de modificar genéticamente el organismo humano y se relaciona con formas de eugenesia (hijos por encargo), la clonación, las terapias de mejoramiento todo lo cual lleva a una evolución artificial. Sinergia endógena comensal por biotecnología. Cosmovisión tecnologista.

 Línea cosmovisión a mediano plazo

 3.-Transhumanismo liberal

Se produce fusión entre humanos y tecnologías (el Cyborg), en muchos casos debido al temor a la superioridad del progreso tecnológico sobre el progreso humano, por lo que los humanos  no tiene más opción que fusionarse con la tecnología lo que daría al transhumanismo clasico. Pero su tesis principal consiste en que la tecnología es incontrolable, cualquier intervención del gobierno siempre trae consecuencias imprevistas (transhumanismo liberal). Y asume que los riesgos son manejables sin el gobierno. Se propone la integración entre los mejor de las tecnologías con lo mejor de los humanos, relación en la que ambos se favorecen por medio de una fusión endógena (sinergia endógena comensal). Por lo que tendremos una fusión entre el cerebro y las máquinas (conciencia físico reproducible) con el fin de ampliar la inteligencia humana. En lo comercial aumentaran las empresas dedicadas a la construcción de dispositivos (tecnologias conexas) e instituciones dedicadas al mejoramiento genético (biotecnología). Cosmovisión tecno-liberal

 4.-Transhumanismo democrático

Lograr que las tecnologías sean beneficiosas para el ser humano y evitar los posibles riegos. Mejorar al ser humano por medio de las tecnologías biológicas (biotecnología) o conexas (nanotecnología, infotecnología y cognotecnología). La tecnología en función de mejorar el cerebro y la mente humana.  Los riesgos son manejables con la ayuda de la supervisión democrática y la gestión (regulación). Humano mejorado (humano+), sinergia endógena comensal. El representante más importante de estas ideas es James Husser a las que llama tecnoprogresismo. Esta vía de alguna forma está relacionada con la IA beneficiosa. Cosmovisión tecno-democrática 

  • Paradigma sistémico-complejo – futuro trascendente

III.-Vías para un inteligencia transdisciplinar: desarrollar tecnologías inteligentes para la interacción entre humanos y tecnologías como alternativa a la vía tecnológica

Linea cosmovisión-futuristas: a largo plazo

 1.-Superinteligencia global (cerebro global). Surgimiento de una superinteligencia global donde estén conectados en redes los humanos y las máquinas en la que Internet está jugando un papel importante y ya algunos están hablando del surgimiento de un cerebro global que se está formando desde ahora

Vinge le da una gran importancia a Internet, al considerarla como el mejor medio de comunicación entre humanos y humanos y máquinas y considera que su poder actualmente están subestimados y que a medida que la conectividad, el ancho de banda, el tamaño de los archivos y la rapidez de las computadoras aumenta se percibe una biosfera como un procesador de datos condesado, pero a una velocidad un millón de veces superior y con millones de agentes humanamente inteligentes… Lo que algunos llaman cerebro global.

Se producirá una ampliación de la inteligencia por medio de la conexión en red entre humanos y tecnologías, estamos hablando de una IA fuerte colectiva de carácter emergente. Su mayor representante es Francis Heilyghen. Aquí se produce un superoganismo global, debido a que cada vez existen más conexiones entre humanos y máquinas (retroalimentación positiva). Las tecnologías como solución a todos los problemas desde un enfoque conexionista. Coimovision tecnologista.

Línea cosmovisiva-emergente: mediano plazo

 2.-IA avanzada colaborativa (enfoque sistémico-cibernético)

Dentro de la amplificación de la inteligencia esta, la que Vinge define como redes de computadoras y, que en su opinión, ya está surgiendo sin que los propios desarrolladores se percaten y pone los siguientes ejemplos. Vinge menciona una simbiosis entre humanos y computadoras en las diferentes esferas humana que van desde el arte, el ajedrez y las redes de internet. Vinge destaca la los asistentes informáticos (agentes inteligentes) los software de ayuda al diseño (CAD) y la participación en competencias de ajedrez de humanos y computadoras. Al final todo apunta a una colaboración cada vez más estrechas entre humanos y computadoras lo cual nos puede llevar al surgimiento de una inteligencia colectica (siguiendo las ideas de Levy) y aunque Vinge no aclara mucho todo indica que podría sustentarse sobre una interacción exógena entre humanos y máquinas.

Ampliación de la inteligencia  por medio de la colaboración (interacción) entre humanos y tecnologías (conexión lógica). La inteligencia artificial va creciendo y desarrollándose junto a los humanos y ambos se hacen más inteligentes y sabios (sinergia exógena mutual). Se busca la integración humanos-tecnologias pero teniendo como desarrolladores a la sociedad civil, en lugar de los centros de investigaciones o las transnacionales, donde la interacción entre humanos y humanos y tecnologías irá ampliando la inteligencia y la sabiduría humana (conciencia holística) dado su carácter abierto, libre y colaborativo, basado en comunidades que colaboran por el desarrollo de software abiertos (software libre) desde un enfoque sistémico (paradigma sistemico-complejo) como alternativa a las ideas racionalista (super IA)  y transhumanistas y la confrontación que se irá produciendo. Cosmovision de la complejidad.

Línea científica: corto plazo

 3.-IA compleja

Se irá construyendo desde las investigaciones en la ciencia de la complejidad. Tiene como línea de investigación la ingeniería de sistemas complejos que incluye temas como la meta heurística, la inteligencia computacional, la inteligencia de enjambre, entre otros. Tiene puntos en común con la cosmovisión de la complejidad ya que ambas, al igual que el pensamiento complejo, son parte integral de una visión compleja-transdiciplinar del mundo. En Latinoamérica el máximo exponente de la ciencia de la complejidad es Carlos Maldonado.

4.-Inteligencia colectiva (ingeniería de la inteligencia colectiva)

 Aspira a que la inteligencia se puede compartir para encontrar soluciones colaborativas a los problemas. En la práctica, se busca explorar nuevas aplicaciones que saquen provecho de la inteligencia colectiva. Las tecnologías como investigación para que sean beneficiosas. Su representante principal es Thomas Malone del MIT

Nota: queda pendiente un análisis de las ideas de Pierre Levy, escritor del libro Inteligencia colectiva.

Algunos apuntes finales.

Durante el artículo hemos hablado de la posibilidad de construir IA avanzadas o de ampliar la inteligencia por medio de las tecnologías. También existe otra vía, la de controlar o prohibir el desarrollo de la IA que no es de interés directo del artículo, pero aquí se las incluyo como cultura.

Vías para el control de lA (Paradigma oscilante entre mecanicista y complejo).  Tecnologías bajo control (principio de precaución). Salvaguardar al planeta

Línea cosmovisiva: futuro a mediano y corto plazo

  • Ecología profunda. Intelectual-social: (cosmovisión ecologista) Prohibir la IA (fundamentalmente grupos no gubernamentales: los verdes)
  • Desarrollo sostenible. Intelectual-social (cosmovisión eco-social). IA controlada. Tecnologías sostenibles (cuenta con el apoyo de las organizaciones de las NU)
  • Ecología compleja Intelectual-social: (cosmovisión eco-social desde el pensamiento complejo). Bioconservadora. IA controlada (tiene carácter académico, universidades, institutos)
  • Economicismo: En general se propone el decrecimiento económico.

Existe una gran confusión con el logro de una IA. Hay que tener en cuenta las líneas cosmovisiva  (IA consciente), científica (ingeniería de la IA) y la comercial (IA privativa). No es lo mismo una IA comercial que una IA privativa.

En la era postcapitalista se necesitará cada vez de más inteligencia:

  • Las transnacionales necesitan ser más inteligentes que los competidores (IA privativa / Trabshumanismo liberal)
  • Los militares más inteligentes que sus enemigos
  • Los gobernantes más inteligentes que los opositores.

La IA como ciencia trata de encontrar la solución desde si misma (su tema de investigación) sin inmiscuirse en los problemas sociales. Lo cual no sucede con la línea de investigación cosmovisiva.

Con el surgimiento de IA conscientes, estamos ante un problema que surgirá ante la relación de los humanos con  las inteligencias que alcancen a ser autoconsciente y que de alguna forma cambia el destino de la humanidad y tendremos que elegir entre colaborar o competir; subordinarlas a nosotros o someternos a ellas.

Por último, creo que una IA beneficiosa debería ser una forma de ampliar la inteligencia humana y es que, el primer beneficio de una IA robusta o alineada debe ser ampliar la inteligencia de todos los humanos, y es que la humanidad ante la creciente complejidad del mundo necesita de más inteligencia y sobre todo de más sabiduría para enfrentar los nuevos desafíos que traerán las inteligencias suprahumanas

Imagen: Xataka

Los riesgos existenciales de la inteligencia artificial. Escenarios

image013

El camino que tiene que recorrer la inteligencia artificial (IA) estará lleno de riesgos para la humanidad y no precisamente porque llegue a ser más inteligente que los humanos en todos los sentidos (ya desde hoy tendremos que asimilar una relación con una IA que nos superará en algunas cuestiones, lo que podría ser una bendición, o la perdición de los humanos.

Hoy se ha puesto de moda el peligro de una inteligencia suprahumana que no esté alineada con los intereses humanos y solo se habla de evitar los riesgos potenciales de una IA fuera de control (como la quiere Moravec) y se asume que la solución es construir una IA robusta. El objetivo es lograr que las máquinas superinteligentes no sean un peligro para la humanidad, con lo que todo el mundo está de acuerdo, la pregunta es ¿Qué pasará con los humanos?

  1. Serán reconstruidos (mente digital)
  2. Se irán fusionando (transhumano)
  3. Utilizarán las tecnologías solo para mejorarse.

Asumiendo el problema de una IA que nos supere, ignorando todos los problemas que surgirán por el camino y las consecuencias que tendrán. Tendremos los siguientes casos o escenarios futuros.

Caso 1: Las máquinas como herederas del planeta (los hijos mentales de Moravec). Los humanos son sustituidos por las máquinas como la nueva especie dominante. Hans Moravec lo ve como lo más natural del mundo Moravec y el fin de la especie humana y considera que debemos ir cuanto antes a la construcción de la super IA para que nos sustituya y se ocupe del planeta.

Coincido con Moravec, al construir una máquina superinteligente autónoma esta desarrollará su propio pensamiento sobre el mundo y tendrá su propia visión y su propia ideología. Hasta ahí estamos de acuerdo, ahora el que la máquina tenga una visón individualista y hegemónica del mundo dependerá de nosotros

Caso 2: Las máquinas que reconstruyen al planeta, la vida y a los humanos. La superinteligencia que es capaz de comprender las leyes del universo, saber qué es lo que les conviene a los humanos y asume cuales son sus intereses (estos intereses son los de Kurzweil planteados en la singularidad tecnológica y su proyecto de inmortalidad). Nos referimos al advenimiento de una singularidad tecnológica y de una superintleigencia artificial, donde los humanos pueden recargar sus mentes en un entorno artificial (la nube) y vivir para siempre. No queda claro si hay que esperar a que surja la superinteligencia artificial para que esta luego reconstruya a los humanos como mentes digitales o si los humanos tendrán alguna tipo de participación desde su limitada inteligencia. Se sume el imperativo tecnológico de que las tecnologías siempre son buenas y no hay nada que temer.

En ambos casos 1 y 2 se propone el desarrollo acelerado de la IA sin ninguna regulación. Y es que para los posthumanistas el surgimiento de una singularidad tecnológica es inevitable, lo otro sería negar el progreso y el futuro de la humanidad.

El riesgo consiste en el temor de no alcanzar un futuro posthumano ya sea porque la IA destruya al humano sin que llegue a posthumano o no de tiempo a que se desarrolle el transhumanismo, cuando en realidad las máquinas al ser construidas bajo la ideologías tecnologista actual  (Kurzweil, Moravec, Warwick, etc) tendrá una visión elitista del mundo y se verá a sí mismoa como una especie superior.

Actualmente ha surgido un temor más concreto o práctico y surge ante el peligro de una máquina superinteligente, que a lo mejor sin proponérselo, elimine a la especie humana. Ha surgido la idea de construir una IA “amistosa”, que no sea un peligro para la humanidad.

Caso 3: Construcción de una superinteligencia artificial que responda a los intereses humanos, nos referimos a la llamada IA amigable, robusta, alineada con los humanos. Al final estamos hablando de construir una IA por encargo. Los militares querrán una IA para matar humanos, las transnacionales querrán una IA para tener el control de los mercados, los gobiernos autoritarios una IA que le de el control absoluto de los ciudadanos, etc.  Hoy la idea de la IA alienada se ha convertido en una moda y se está invirtiendo millones en proyectos de este tipo, en mi opinión se está botando el dinero, es un verdadero desperdicio, ya que queremos construir una IA que responda a los intereses de todos y al final no responderá a los intereses de nadie, y estaremos construyendo una IA fuera de todo control y totalmente desalineada (no sabremos si está alineada o alienada).

El dilema son los propios intereses humanos, tan variables y complejos. Y es muy posibles que ante los dilemas y contradicciones humanas, y si la IA llega a ser más inteligente que los humanos, terminará tomando sus propias decisiones e ignorando a los humanos y creará sus propios intereses, y es muy probable que actúe con los humanos como ellos mismos actuaron con las otras especies y estaremos, entonces, o en el caso 1: la IA como heredera del planeta o en el caso 2: la IA decide reconstruir a los humanos a su imagen y semejanza.

Se prodrá, también, terminar construyendo una IA bajo control, que nunca supere a los humanos y que no pasará de ser una herramienta (nunca llegaría a tomar decisiones propias) por lo que, en este caso, terminará siendo la construcción de una IA que siempre responda a “los intereses humanos”, carente de toda autonomía y, por supuesto, los humanos siempre podrán apagarla, lo que nos lleva a una IA subordinada a los humanos que siempre estaría dando explicaciones de lo que hace y porque lo hace y cuando algo se salga de control la estaríamos reprogramando inmediatamente.

 La super IA puede limitar el progreso del transhumanismo al poder considerar que el superhumano  como un peligro, lo cual podría ser cierto, dada la mentalidad actual, un superhumano podría ser un peligro al no tener la sabiduría para controlar el poder que ha adquirido y por ello darle un mal uso.

Caso 4: Otro escenario es la fusión entre humanos y tecnologías (el ciborg). Este es el ideal del transhumanismo, ante el acelerado desarrollo de las tecnologías, la mejor opción es fusionarse con ella. Mientras en el caso anterior se hablaba de digitalizar la mente humana, algo así como extraer el alma humana y hacerla inmortal en un paraíso artificial. Para los transhumanistas la idea es irse fusionando con las máquinas desde ahora, el ciborg (parte biológica y parte cibernética) por medio de prótesis, implantes, mejoras genética, etc. Idea que Kurzweil no le gusta y afirma que esto nos convertiría en “otra cosa”. Esto es lo que yo llamo una superinteligencia hibrida. Tenemos otro caso relacionado con el transhumanismo, en el que no voy a detenerme, y es cuando la mejoras son solamente biológicas (ingeniería genética)  y estaríamos ante una superinteligencia biológica.

En el caso anterior (la inteligencia artificial) los más beneficiados van a ser las transnacionales de la información como Google, Facebook, Microsoft, etc., ahora en esta caso (el transhumanismo) van a ser las empresas que se dedican a la venta de componentes cibernéticos como prótesis, chips, dispositivos biónicos o interfaz cerebro-máquina, etc. Se sigue la línea de un humano mejorado por medio de las tecnologías.

 Caso 5: En artículos anteriores hemos dicho que el verdadero problema está en la simbiosis que se está produciendo entre humanos y máquinas Cómo relacionarnos con las super inteligencias artificiales (2) y no tanto, en que la máquina sea más inteligente que lo humanos. Nos referimos a cómo lograr una sinergia donde los humanos y las máquinas desarrollen lo mejor de sí (mutualismo). Y el cuestionamiento es: ¿En lugar de construir una IA más inteligentes que los humanos, porque no construir una IA que nos haga más inteligentes y sabios y dejar atrás la idea de ser el “creador” de una entidad superintleigente. Proponemos, en su lugar, ir construyendo de forma colaborativa una superinteligencia que favorezca no solo la inteligencia y la capacidad humana sino también la sensibilidad y la empatía humana, y donde ambos vayan (humanos y máquinas) aprendiendo juntos, donde no solo la máquina tiene que estar alineada a los “verdaderos” intereses humanos (en los que hay que trabajar) también los humanos tendrán que ir cambiando su mentalidad y alinearse a intereses donde deben primar la sabiduría, el altruismo, la empatía, la bondad. La que llamo superinteligencia colectiva siguiendo las ideas de Pierre Levy y de Francis Heylighen.

La pregunta es ¿Podemos dirigir la simbiosis? El mismo Nick Bostrom plantea que las tecnologías son juguetes muy peligrosos en manos de niños traviesos (los humanos). Hay que trabajar en ampliación de la inteligencia y la sabiduría humana (IA altruista), que se vaya construyendo por medio de la colaboración con los humanos donde se vaya produciendo una sinergia mutual entre ambos donde prime el progreso humano en lugar del progreso tecnológico como en los casos anteriores.

Esto lleva a profundos cambios de mentalidad y en una nueva educación que prioriza la necesidad de aprender a manejarse con las tecnologías que están emergiendo y la sabiduría que debemos alcanzar, ya que el problema no es construir una IA amigable  sino enseñar a la IA a que se amigable, pero primero tenemos nosotros que aprender a ser amigables y a perseguir intereses altruistas y solidarios. Tenemos que aprender a construir una IA cada vez más inteligente y sabia para juntos construir un mundo más humano.

Imagen: monografias.com

 

Los riesgos existenciales de la inteligencia artificial (1)

Vernor_Vinge_small

Vernor Vinge. La singularidad tecnológica

What is the problem? It seems plausible that some time this century, people will develop algorithmic systems capable of efficiently performing many or even all of the cognitive tasks that humans perform. These advances could lead to extreme positive developments, but could also potentially pose risks from intentional misuse or catastrophic accidents. For example, it seems possible that (i) the technology could be weaponized or used as a tool for social control, or (ii) someone might create an extremely powerful artificial intelligence agent with values misaligned with humanity’s interests. It also seems possible that progress along these directions could be surprisingly rapid, leaving society underprepared for the transition. Give Well

Comenzamos con las consideraciones de Give Well sobre cual es problema que enfrentaremos ante el surgimiento de una inteligencia artificial que pueda superar a los humanos. Claro aquí estamos haciendo una abstracción de los demás problemas, ya que los problemas no vienen solos, siempre están precedidos por otros problemas y a su vez estos arrastras a otros. El tema de los problemas, del cual hemos estado hablando y volveremos sobre el en próximos articulo hemos hablado de problemas biomédico, psicoreligiosos, socioeconómico, ecosostenible y tecnocientífico. Aquí nos estamos concentrando en el problema tecnocientífico y los riesgos de la inteligencia artificial (IA).

Para responder a las preguntas que hace Give Well vamos a hacer hincapié en tres enfoques, que iremos tratando en diferentes artículos.

1.-Inteligencia suprahumana. La posibilidad de que surja una inteligencia suprahumana
2.-Riesgos de la IA. Los riesgos potenciales del surgimiento de la IA
3.-Futuro sostenible o poshumano. Si estamos preparados o vamos a ciegas al futuro.

1.-Inteligencia suprahumana

Ya en mi articulo ¿Surgirá una superinteligencia capaz de superar al ser humano? Se realiza un análisis sobre la posibilidad de una IA superior a los humanos, por lo que no me dentendré en detalles.

Lo primero, restringiéndonos al problema tecnocientífico el mismo no está en el surgimiento de una inteligencia superior a la humana, sino como advirtió el bioeticista Van R Potter: el aumento del conocimiento sin el aumento de la sabiduría para manejarse con ese conocimiento. Ahora: ¿Es posible el surgimiento de una IA superior a la humana?

Vinge planteaba la posibilidad del surgimiento de 4 tipos de inteligencias suprahumanas.
1. Superinteligencia artificial: Pueden desarrollarse computadoras “conscientes” con una inteligencia equivalente a la humana o superior. (Hoy existe mucha controversia sobre si podremos crear el equivalente a un humano en una máquina, pero si la respuesta es “sí”, entonces quedan pocas dudas de que podremos construir entidades aún más inteligentes.).
2. Superinteligencia colectiva: Las grandes redes de computadoras con sus usuarios asociados, pueden despertar como entidades superinteligentes.
3. Superinteligencia hibrida: Las interconexiones entre humanos y computadoras pueden llegar a tal nivel de profundidad que los que la usen actúen como superinteligencias.
4. Superinteligencia biológica: La ciencia biológica puede lograr métodos que mejore el intelecto humano natural.

Me gusta utilizar el nombre de inteligencia suprahumana para recordar que mientras muchos quieren construir una inteligencia superior a la humana o ampliar sus capacidades y su inteligencia, existen, aun, inteligencias infrahumanas producto precisamente de las condiciones infrahumanas en que viven muchos seres humanos.
Estoy en contra de los que quieren prohibir las investigaciones sobre el desarrollo de IA que puedan superar a los humanos, pero si creo que es un deber moral erradicar la inteligencia infrahumana natural antes de construir una inteligencia suprahumana artificial.

En dicho artículo se mencionaba la tendencia de priorizar el hard sobre el soft lo que conducía a los siguientes los siguientes conceptos:
• La evolución de las máquinas es más rápida que la de los humanos, mientras las máquinas sufren un crecimiento acelerado, la evolución natural de los humanos está prácticamente detenida.
• La aceleración de las tecnologías se seguirá incrementando hasta llegar a un punto que escapa a las capacidades de los humanos (singularidad tecnológica).
• La máquinas que se irán auto construyéndose a si misma cada vez más perfeccionadas, más veloces, más memorias, dotadas de mejores algoritmos podrán llegar a convertirse en maquinas superinteligentes que superen a los humanos.
• La inteligencia de las máquinas dada la complejidad que irán adquiriendo y las conexiones internas (circuitos) o externas (redes) podrá despertar como una entidad auto consciente.

Vemos que se apuesta por el surgimiento de máquinas cada vez más inteligentes, lo que llevaría a una explosión de inteligencia, pienso que la importancia de la inteligencia está sobredimensionada y peor aun, la inteligencia se reduce al concepto de velocidad: velocidad de análisis, velocidad de procesamiento, velocidad de cálculo, etc. Cuando, en realidad, dentro de la escala de desarrollo la inteligencia viene siendo el primer escalón: inteligencia, conocimiento y sabiduría. Tampoco creo que el peligro de una explosión de inteligencia por parte de las máquinas es que se convierta en una superinteligencia fuera de control sino en que no se fomente la sabiduría necesaria para manejarnos con esas inteligencias de forma colaborativa

Los humanos programarán a las IA de acuerdo con sus acciones y las IAs harán lo que los humanos hacen. La IA debe aprender dentro del contexto humano y según las máquinas se vayan haciendo más complejas y autónomas hasta despertar como una inteligencia que tendrá conciencia de sí misma (emergencia). Y es que la IA al igual que nuestros hijos, en algún momento dejarán de depender de nosotros, el problema consiste en; si, para ese entonces, nos verán cómo sus padres o como sus dueños.

Imagen: Wikimedia