El aumento exponencial de la inteligencia artificial y la carencia de sabiduría

Estamos ante el dilema del aumento exponencial en el conocimiento, sin el aumento de la sabiduría necesaria para manejarlo”
Van R Potter

Hoy se habla del advenimiento de una singularidad tecnológica y con ello del surgimiento inteligencias superiores a la humana producto la explosión de inteligencia que se producirá. ¿Estamos preparados para ese aumento exponencial de la inteligencia?
Aunque la singularidad tecnológica tiene diferentes enfoques no es lo mismo la singularidad de Vinge, que la de Moravec ni que la de Kurzweil, pero todos coinciden en que surgirá un aumento exponencial de la inteligencia y al surgimiento de inteligencias sobrehumanas, en especial el de una superinteligencia artificial

Para una mayor compresión les recomiendo los artículos:  La singularidad de Vinge, Moravec y el fin de la especie humana y La singularidad de Kurzweil). Mientras Vinge se centra en inteligencias sobrehumanas, Kurzweil se concentra en la superinteligencia artificial y Maravec en las máquinas superinteligentes pero los tres parten de los siguientes postulados

Postulados de la singularidad tecnológica

La singularidad se sustenta sobre la idea que las máquinas son cada vez más veloces y que esta velocidad crece de forma exponencial y parten que esa velocidad de cálculo superará a la del cerebro.

  • Un primer postulado es que se puede lograr una inteligencia artificial por fuerza bruta, o sea que dada la velocidad de la maquina pueda analizar exhaustivamente todas las posibles soluciones. Este es el caso del ajedrez, la inteligencia de la máquina se basa en su velocidad para calcular las variantes, lo cual le permite prever los que puede suceder en el tablero.
  • Un segundo postulado, es la emergencia, que llegará un momento en que dada su velocidad podrá manipular una gran cantidad de información y que dada su complejidad podría, también, despertar como una inteligencia.
  • Un tercer postulado es que las maquinas al alcanzar cierta inteligencia serán capaces de construirse a sí misma cada vez mejores hasta llegar a una superinteligencia.

Podemos decir que esto son los postulados centrales para el surgimiento de una superinteligencia artificial y sostiene sobre el modelo de una IA operativa basada en la velocidad de procesamiento de datos.

Por su parte el científico y escritor de ciencia ficción Vernor Vinge, la singularidad se puede lograr por cuatro caminos diferentes en dependencia del tipo de superinteligencia que se alcance (ver Las cuatro singularidades tecnológicas 2)

  1. Pueden desarrollarse computadoras “conscientes” con una inteligencia equivalente a la humana o superior estamos hablando de una superinteligencia artificial, ya sea poshumana (Kurzweil) o una máquina superinteligente (Moravec)
  2. Las grandes redes de computadoras con sus usuarios asociados, pueden despertar como entidades superinteligentes estamos hablando de una superinteligencia colectiva y al surgimiento de un cerebro global
  3. Las interconexiones entre humanos y computadoras pueden llegar a tal nivel de profundidad que los que la usen actúen como superinteligencias estamos hablando de una superinteligencia hibrida que nos lleva tanto al transhumanismo como al humano mejorado
  4. La ciencia biológica puede lograr métodos que mejore el intelecto humano natural estamos hablando de una superinteligencia biológica.

La singularidad nos conduce a la idea de máquinas más inteligentes que los humanos y debido a su inteligencia superior podrán cambiar al mundo y crear a su vez humanos superiores.
Siguiendo la idea de las superinteligencias vamos a tener diferentes tipos de explosiones de inteligencias (en próximos artículos volveremos sobre este tema)

  • Para la singularidad tanto de Moravec como de Kurzweil se produce una explosión de inteligencia en las máquinas
  • Para el cerebro global se produce una explosión de inteligencia producto de la conexión lógica entre humanos y máquinas (sistemas y dispositivos).
  • Para el transhumanismo liberal se produce una explosión de inteligencia producto de la conexión física (directa) entre humanos y tecnologías guiados por la ley del mercado.
  • Para el transhumanismo democrático se produce una explosión de inteligencia producto de la conexión física entre humanos y tecnologías guiados por la idea de mejorar al ser humano.
  • Para el enfoque sistémico-cibernético se produce una explosión de inteligencia (aprendizaje colectivo) producto de la colaboración (interacción) entre humanos y tecnologías.

Como es lógico, mi interés se concentra en el enfoque sistémico-cibernético (paradigma constructivista). En el artículo Ciencia cognitiva y la inteligencia artificial, hablábamos de dos paradigmas centrales de la IA: Paradigma representacionista y paradigma construccionista y en otros artículos hemos hablado sobre los riesgos y beneficios de la IA (Riesgos y beneficios de una inteligencia artificial avanzada desde un enfoque sistémico-cibernético).  Ahora volveremos sobre los riesgos de una superinteligencia artificial (super IA)

Si vemos a la inteligencia artificial (IA) dentro del paradigma representacionista, será construida de forma abstracta, aislada de la vida social; en cambio si es construccionista, se irá formando a través de las relaciones sociales. Por lo que no hace falta concebir de forma abstracta una IA beneficiosa ya que producto de su interacción con los humanos y su carácter colaborativo aprenderá, por si misma, a ser beneficiosa

Los riesgos de una Superinteligencia artificial

Los riesgos de la IA adquieren gran importancia a partir de la definición de una singularidad tecnológica y del posible surgimiento de una superinteligencia artificial. Para los riesgos y beneficios de la IA se necesita de un enfoque sistémico-cibernético para tener en cuenta el equilibrio que se irá produciendo de las sinergias humano-tecnología y el papel de las tecnologías como elemento neguentrópico que regula ese equilibrio.

Históricamente la ciencia ficción ha manejado la idea de máquinas fuera de control que ponen en riesgo a la humanidad, pero no fue hasta la propuesta de una singularidad tecnológica que se tomaría conciencia de los peligros que podría traer la inteligencia artificial, por lo que ante la amenaza de una superinteligencia artificial comenzaron a surgir propuestas para el desarrollo de una IA beneficiosa que no represente peligro alguno para la especie humana. Ahora: ¿es posible construir una IA beneficiosa? Si pensamos a la IA dentro del paradigma representacionista actual, la IA será construida de forma abstracta, aislada de la vida social.

Hoy se habla de programas alineados con los intereses humanos, pero como los intereses humanos están regidos por del mercado y carecen de un propósito compartido. Debemos preguntarnos si la humanidad tiene claro cuál es su propósito y si tenemos en cuenta que el proceso actual es entrópico, dado el crecimiento a costa del consumo de los recursos, lo cual lleva a la destrucción del ecosistema y su entorno natural, el cual está siendo sustituido por el tecno-sistema y la reconstrucción de un entorno artificial. Creo que en lugar de querer programar una IA amigable, se deberían seleccionar a los desarrolladores de la IA (los que sean más amigables con la humanidad) hacerle test de altruismo, de empatía, de humildad, de pensamiento abierto y colaborativo. Pienso que en el grupo de desarrolladores deberían existir bioeticista capaces de ejercer un sacerdocio humanista, ya que las máquinas no podrán ser conscientes de sus actos ante los humanos ya que carecen de una conciencia humana formada de la experiencia, podrán vivir como un humano más, en familia y aprender. Pienso que primero tendrán que aprender a lidiar con los humanos desde su propia conciencia como máquina, pero desde un contexto colaborativo donde cada cual aporte lo mejor de sí, por lo que la conciencia de las máquinas no tiene que ser igual a la humana, y el hecho de carecer de intencionalidad y de las ambiciones humanas, les permitirá tener un juicio imparcial y su mentalidad estará más cerca del budismo y su desapego a las cosas materiales.

Las tecnologías deben ser vistas como un medio que permite el mejoramiento de la humanidad tanto intelectual como espiritual y que la misma puede crecer indefinidamente integrándose al contexto humano. Se busca la cooperación entre humanos y tecnologías en lugar de la competencia entre ambas. Esto lleva a profundos cambios y en una nueva educación que prioriza la necesidad de aprender a manejarse con las nuevas tecnologías que están emergiendo y la sabiduría que debemos alcanzar, ya que el problema no es construir una IA amigable sino enseñar a la IA a que se amigable, pero primero tenemos nosotros que aprender a ser amigables y a perseguir intereses altruistas y solidarios. Se necesita de un nuevo enfoque que más que construir una inteligencia artificial persiga amplificar la inteligencia humana.
En sus inicios debe construirse como un sistema de computación que sea capaz de integrarse (desde su contexto como máquina) a la forma del pensamiento humano y en primera instancia representar los procesos del pensamiento humano como un sistema abierto en interacción con el entorno humano y es que las máquinas tendrán que asimilar la cultura humana y aprender, no solo de la ciencia sino también del arte y de la filosofía, y adquirir su propia experiencia. Las máquinas autónomas nunca podrán desarrollarse sino es dentro del contexto socio-cultural de los humanos, de la cual surgirá una sinergia humanos-tecnologías.

Explosión de inteligencia o explosión de aprendizaje

El aprendizaje de la máquina en el mundo real (que no es lo mismo que en un laboratorio), hasta hoy no permite que se puedan programar todos los conocimientos (ir construyendo manualmente una base de conocimientos sobre el mundo real) la experiencia ha llevado a que la máquina debe ser capaz de aprender por sí misma. Lo cual nos lleva a que pueda construir programas cada vez más inteligentes a la vez que va construyéndose a sí misma. Aquí hay un problema, se supone que, en estos programas, la máquina le transfiera su experiencia a la nueva máquina, por tanto, el acto de autoprogramarse es una acción que requiere de un aprendizaje que se va a trasmitir por la elaboración de códigos de programas que serán incluidos en la nueva máquina (al igual que los humanos requieren de un aprendizaje que debe ser asimilado).

Por tanto, cuando se habla de máquinas más inteligentes se refieren a una máquina que construye otra más potente: más capacidad de memoria, más velocidad de cálculo y se ignora la necesidad de un aprendizaje y de una experiencia adquirida en la práctica. Ya que la máquina al igual que los humanos estará sometida a un proceso de aprendizaje, de una experiencia y de una especialización en ciertas actividades. O sea, estamos hablando de acelerar el aprendizaje. Por eso en lugar de una explosión de inteligencia que se refiere a máquinas que construyen máquinas cada vez más potente, prefiero hablar de una explosión de aprendizaje donde las máquinas tendrán que ser capaces de aprender y a su vez de construir máquinas capaces de aprender más y mejor. Y en este caso, están tanto los humanos como las máquinas, ambos tienen que aprender a aprender.

Siguiendo con el aprendizaje, las máquinas tendrán que aprender del mundo real, de los textos, de la experiencia humana, de las instituciones educativas humanas. Entonces, ¿cómo se harán más inteligentes que los humanos? Su potente hardware necesitará de una fuente de conocimientos que los humanos no podrán darle (dado sus lentos cerebros) y podría suceder que vieran a los humanos como un obstáculo para su crecimiento. ¿Qué pasaría si dotáramos a un tigre de una superinteligencia, primero se convertiría en el depredador más eficiente que jamás haya existido y después consideraría a la raza humana un peligro y, sin dudas, la destruiría?

Y es que las máquinas y los humanos deben aprender juntos, ambos deben hacerse cada vez más inteligentes y sabios, e ir acelerando el aprendizaje y con ello las fuentes de conocimientos, las instituciones educativas, los medios de aprendizaje, en general, se debe transformar la cultura actual, exclusivamente humana, por una producto de la colaboración entre humanos y máquinas, estamos hablando de una inteligencia avanzada colectiva que surgirá producto de la interacción entre humanos y máquinas. De una parte, tendremos máquinas más eficientes que se irán construyendo y, de la otra, niños que irán creciendo también mejores dotados y que, ambos, estarán comprometidos a una educación cada vez más avanzada (aceleración del aprendizaje). Por supuesto que este super-optimismo parece más bien una utopía, pero se está convirtiendo en una esperanza en un mundo carente de grandes ideales y donde el consumismo y el TENER (en lugar del SER) se han convertido en la primera premisa de la humanidad.

Libro recomendado: Inteligencia artificial, el futuro del hombre

Responder

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Cerrar sesión /  Cambiar )

Google photo

Estás comentando usando tu cuenta de Google. Cerrar sesión /  Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Cerrar sesión /  Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Cerrar sesión /  Cambiar )

Conectando a %s