La relación humanos-tecnologías, la inteligencia artificial y el enfoque sistémico-cibernético (2)

Gregory Bateson.

“La humanidad necesita urgentemente una nueva sabiduría que le proporcione el conocimiento de cómo usar el conocimiento”. Van R. Potter

A Norbert Wiener siempre le preocupó como sería la relación entre humanos y tecnologías y cuál sería el destino de los seres humanos. Él siempre entendió a la cibernética como una nueva forma de pensar y de un nuevo paradigma que rompe con el paradigma mecanicista y determinista. En cambio la IA desde sus orígenes nació desligada de las consecuencias éticas,  de sus trabajos solo importaba la investigación, mientras la cibernética no concibe una máquina inteligente separada de su contexto social, siempre se pensó en una máquina en interacción con su entorno y que respondiera a los propósitos del sistema.

La cibernética, como investigación en sus inicios se baso en la construcción de máquinas autónomas que permitieran la comprensión estructural y funcional de los sistemas vivientes, buscando analogías entre los sistemas vivos y los sistemas artificiales.

La inteligencia artificial (IA) critico el enfoque cibernético de la búsqueda de analogías y quiso crear una ciencia en si misma basada en la construcción de programas de computación que emularan la inteligencia humana, lo cual llevo a reducir los procesos del pensamiento en complejos algoritmos que podían ser computarizados (metáfora del computador)

Wiener se imaginaba a las máquinas interactuando con el entorno, las maquinas abiertas al entorno y en interacción con los humanos y que podrían ir evolucionando desde maquinas más simples a maquinas más complejas, en lugar del hombre introducirse en las máquinas y hacerse cada vez mas digital (artificial). Para la cibernética será introducir a las máquinas en el entorno humano y convertirla cada vez en más humana.

IA, reduce el proceso del pensamiento al procesamiento de la información que se lleva a cabo de forma aislada en el interior de una computadora. Por otra parte la IA nace dentro del pensamiento positivista, mecanicista y reduccionista desde este enfoque solo cabe pensar en una IA que será cada vez más inteligente dado su crecimiento lineal (retroalimentación positiva): más memoria, más capacidad de procesamiento, más velocidad de cálculo, etc) de ahí el temor de muchos pensadores que ven como solución que la programación de la IA alineada a los intereses humanos. Una vez construida ¿Qué sucederá? ¿Estará alineada a los intereses de sus creadores, como son las grandes transnacionales: Google, Microsoft, IBM, Facebook, Aple, etc? Por otra parte, en muchos casos, se sigue aspirando a una IA a imagen y semejanza de los humanos y se ignoran los aportes  de los padres del enfoque sistemático-cibernético: Bateson, Capra, Maturana y Varela, entre otros.

El enfoque sistémico-cibernético, busca lograr, que la sinergia humanos-tecnologías, que se integren como un sistema que tienda al mismo propósito (sistema auto-organizado). Donde humanos y las maquinas, en su interacción, vayan conformando un sistema que se auto-organiza (metasistema).

En sus inicios debe construirse como un sistema de computación que sea capaz de integrarse (desde su contexto como máquina) a la forma del pensamiento humano y en primera instancia representar los procesos del pensamiento humano como un sistema abierto en interacción con el entorno humano.

Es que las máquinas tendrán que asimilar la cultura humana y aprender, no solo de la ciencia sino también del arte y de la filosofía, y adquirir su propia experiencia. Las maquinas autónomas nunca podrán desarrollarse sino es dentro del contexto socio-cultural de los humanos, de la cual surgirá una sinergia humanos-tecnologías.

Estamos ante la necesidad de una colaboración transdiciplinar de aceptar la simbiosis humano tecnología (dimensión tecno-bio-psico-social) desde un enfoque sistémico-cibernético que incluya un cambio de mentalidad hacia nuestra fuerza interior; transformación de la estructura social competitiva hacia una colaborativa, la protección del planeta y el surgimiento de una superestructura tecnológica sostenible. Donde se defienda la conservación de la condición humana desde la idea de un humano pleno y al surgimiento de una superorganismo colaborativo (ver Las crisis: la tecnología)

La pregunta es ¿Podemos dirigir la simbiosis? El mismo Nick Bostrom plantea que las tecnologías son juguetes muy peligrosos en manos de niños traviesos (los humanos). Hay que trabajar en ampliación de la inteligencia y la sabiduría humana, se necesita una IA altruista que se vaya construyendo por medio de la colaboración con los humanos para que se vaya produciendo una sinergia mutual entre ambos donde prime el progreso humano en lugar del progreso tecnológico como se propone en la cosmovisión tecno-centrista.

Las tecnologías están presentes en el individuo, la sociedad y el entorno y se está produciendo una sinergia humanos-tecnologias.

1.-Individual: tecno-individuo (ciborg). La tecnologización va del individuo hacia fuera

  • Fusión tecnológica entre el individuo y la tecnología

2.-Social: Tecno-sociedad

  • Superorganismo global (cerebro global): tecno individuo-sociedad. Se produce una fusión tecnológica entre el individuo y la sociedad de alcance global
  • Superorganismo colaborativo (sistema colectivo): la sinergia tecnológica entre una nueva mentalidad y la sociedad sin que se pierda la esencia de la relación individuo-entorno.

3.-Tecnológica: transformar el entorno natural (sustitución por la tecnología) y van a absorber a la sociedad y al individuo (singularidad tecnológica).

  • Sustituye al entorno natural
  • Sustituye al contexto social
  • Sustituye al individuo (sujeto biológico) y lo convierte en objeto tecnológico

La singularidad tecnológica plantea una evolución artificial donde los humanos como mentes digitales viven en un entorno artificial (tecno-centrismo) donde el individuo se está haciendo cada vez más independiente de la naturaleza y más dependiente de las tecnologías

Vamos a una sinergia humano-tecnología, la cual puede ser exógena o endógena o ambas a la vez

  • La exógena puede llevar a una subordinación de los humanos (dominio de las tecnologías)
  • La endógena puede llevar a la desaparición de la condición humana.

La colaboración con las tecnologías y la ampliación exógena de lo natural

  • Dependencia total de las tecnologías. Las tecnologías controlan a los humanos (tiranía de las máquinas), para evitar este escenario se propone como solución la prohibicion de las tecnologías, lo cual lleva a una ectosimbiosis parasitaria donde las tecnologías se ven como enemigas: virus y parásitos tecnológicos.
  • Tecnología como herramienta. Escenario ingenuo que asumen que las tecnologías siempre estarán bajo control y que solo harán lo se les programe. Conservar la era actual (ectosimbiosis comensal)
  • Colaboración humano-tecnología y la ampliación exógena de los natural (ectosimbiosis mutual)

Sinergia exógena (ecologismo)

  • Mutualismo: proteger la relación interactiva con el entorno natural como un metasistema. Se produce una ampliación, producto de la interacción, con el entorno natural.
  • Comensalismo: conservar el entorno natural, las tecnologías se utilizan bajo regulación, los posibles entornos artificiales siempre estarán subordinados (supeditados) al natural. El entorno artificial se desarrolla para satisfacer las necesidades del ser humano y implementa bajo fuerte control.
  • Parasitismo: regreso al entorno natural, las tecnologías deben ser prohibidas ante los posibles riesgos. Se produce un retroceso al entorno natural y se prohíbe el entorno artificial y todo vestigio con las tecnologías disruptivas.

Las tecnologías harán lo que el ser humano le haya ensenado.

Las máquinas no podrán ser conscientes de sus actos ante los humanos ya que carecen de una conciencia humana formada de la experiencia, podrán vivir como un humano más, en familia y aprender. Pienso que primero tendrán que aprender a lidiar con los humano desde su propia conciencia como máquina, pero desde un contexto colaborativo donde cada cual aporte lo mejor de sí, por lo que la conciencia de las máquinas no tiene que ser igual a la humana, y el hecho de carecer de intencionalidad y de las ambiciones humanas, les permitirá tener un juicio imparcial y su mentalidad estará más cerca del budismo y su desapego a las cosas materiales.

Con relación de complejidad de un sistema con su entorno, podemos decir  que en el mundo actual la complejidad del sistema social es muy superior a la complejidad del sistema ecológico por lo cual el sistema socio-económico está produciendo enormes cambios en el ecosistema en muchos casos de carácter destructivo, de ahí que Morin hable de una auto-eco-organización, ya que no es solo la auto organización del sistema social, se necesita de una auto-organización global entre los sistemas social, biológico, sicológico y ecológico

El proceso actual es entrópico, dado el crecimiento a costa del consumo de los recursos, lo cual lleva a la destrucción del ecosistema y su entorno natural, el cual está siendo sustituido por el tecno-sistema y la construcción de un entorno artificial.

Las tecnologías deben ser vistas como un medio que permite el mejoramiento de la humanidad tanto intelectual como espiritual y que la misma puede crecer indefinidamente integrándose al contexto humano. Se busca la cooperación entre humanos y tecnologías en lugar de la competencia entre ambas

Este punto nos lleva a un cambio de mentalidad y a un nuevo enfoque sobre nosotros mismo y a la responsabilidad sobre nuestro pensamiento y nuestras acciones. Donde debemos definir nuestra posición ante la naturaleza (como amos o protectores), nuestro compromiso con toda la humanidad y con las generaciones venideras, así como nuestra relación con la tecnología. Nuestro pensamiento actual y nuestro contexto socioeconómico basado en la lucha por el poder, nos llevan inevitablemente a la competencia y a la confrontación no solo entre humanos sino también entre humanos y máquinas.

Esto lleva a profundos cambios y en una nueva educación que prioriza la necesidad de aprender a manejarse con las tecnologías que están emergiendo y la sabiduría que debemos alcanzar, ya que el problema no es construir una IA amigable  sino enseñar a la IA a que se amigable, pero primero tenemos nosotros que aprender a ser amigables y a perseguir intereses altruistas y solidarios. Se necesita de un nuevo enfoque que mas que construir una inteligencia artificial persiga amplificar la inteligencia humana y no solo la inteligencia sino también nuestros propios valores, aquellos de los que vivimos orgullosos.

Imagen: psicologiaymente.net  

 

 

Los riesgos existenciales de la inteligencia artificial. Escenarios

image013

El camino que tiene que recorrer la inteligencia artificial (IA) estará lleno de riesgos para la humanidad y no precisamente porque llegue a ser más inteligente que los humanos en todos los sentidos (ya desde hoy tendremos que asimilar una relación con una IA que nos superará en algunas cuestiones, lo que podría ser una bendición, o la perdición de los humanos.

Hoy se ha puesto de moda el peligro de una inteligencia suprahumana que no esté alineada con los intereses humanos y solo se habla de evitar los riesgos potenciales de una IA fuera de control (como la quiere Moravec) y se asume que la solución es construir una IA robusta. El objetivo es lograr que las máquinas superinteligentes no sean un peligro para la humanidad, con lo que todo el mundo está de acuerdo, la pregunta es ¿Qué pasará con los humanos?

  1. Serán reconstruidos (mente digital)
  2. Se irán fusionando (transhumano)
  3. Utilizarán las tecnologías solo para mejorarse.

Asumiendo el problema de una IA que nos supere, ignorando todos los problemas que surgirán por el camino y las consecuencias que tendrán. Tendremos los siguientes casos o escenarios futuros.

Caso 1: Las máquinas como herederas del planeta (los hijos mentales de Moravec). Los humanos son sustituidos por las máquinas como la nueva especie dominante. Hans Moravec lo ve como lo más natural del mundo Moravec y el fin de la especie humana y considera que debemos ir cuanto antes a la construcción de la super IA para que nos sustituya y se ocupe del planeta.

Coincido con Moravec, al construir una máquina superinteligente autónoma esta desarrollará su propio pensamiento sobre el mundo y tendrá su propia visión y su propia ideología. Hasta ahí estamos de acuerdo, ahora el que la máquina tenga una visón individualista y hegemónica del mundo dependerá de nosotros

Caso 2: Las máquinas que reconstruyen al planeta, la vida y a los humanos. La superinteligencia que es capaz de comprender las leyes del universo, saber qué es lo que les conviene a los humanos y asume cuales son sus intereses (estos intereses son los de Kurzweil planteados en la singularidad tecnológica y su proyecto de inmortalidad). Nos referimos al advenimiento de una singularidad tecnológica y de una superintleigencia artificial, donde los humanos pueden recargar sus mentes en un entorno artificial (la nube) y vivir para siempre. No queda claro si hay que esperar a que surja la superinteligencia artificial para que esta luego reconstruya a los humanos como mentes digitales o si los humanos tendrán alguna tipo de participación desde su limitada inteligencia. Se sume el imperativo tecnológico de que las tecnologías siempre son buenas y no hay nada que temer.

En ambos casos 1 y 2 se propone el desarrollo acelerado de la IA sin ninguna regulación. Y es que para los posthumanistas el surgimiento de una singularidad tecnológica es inevitable, lo otro sería negar el progreso y el futuro de la humanidad.

El riesgo consiste en el temor de no alcanzar un futuro posthumano ya sea porque la IA destruya al humano sin que llegue a posthumano o no de tiempo a que se desarrolle el transhumanismo, cuando en realidad las máquinas al ser construidas bajo la ideologías tecnologista actual  (Kurzweil, Moravec, Warwick, etc) tendrá una visión elitista del mundo y se verá a sí mismoa como una especie superior.

Actualmente ha surgido un temor más concreto o práctico y surge ante el peligro de una máquina superinteligente, que a lo mejor sin proponérselo, elimine a la especie humana. Ha surgido la idea de construir una IA “amistosa”, que no sea un peligro para la humanidad.

Caso 3: Construcción de una superinteligencia artificial que responda a los intereses humanos, nos referimos a la llamada IA amigable, robusta, alineada con los humanos. Al final estamos hablando de construir una IA por encargo. Los militares querrán una IA para matar humanos, las transnacionales querrán una IA para tener el control de los mercados, los gobiernos autoritarios una IA que le de el control absoluto de los ciudadanos, etc.  Hoy la idea de la IA alienada se ha convertido en una moda y se está invirtiendo millones en proyectos de este tipo, en mi opinión se está botando el dinero, es un verdadero desperdicio, ya que queremos construir una IA que responda a los intereses de todos y al final no responderá a los intereses de nadie, y estaremos construyendo una IA fuera de todo control y totalmente desalineada (no sabremos si está alineada o alienada).

El dilema son los propios intereses humanos, tan variables y complejos. Y es muy posibles que ante los dilemas y contradicciones humanas, y si la IA llega a ser más inteligente que los humanos, terminará tomando sus propias decisiones e ignorando a los humanos y creará sus propios intereses, y es muy probable que actúe con los humanos como ellos mismos actuaron con las otras especies y estaremos, entonces, o en el caso 1: la IA como heredera del planeta o en el caso 2: la IA decide reconstruir a los humanos a su imagen y semejanza.

Se prodrá, también, terminar construyendo una IA bajo control, que nunca supere a los humanos y que no pasará de ser una herramienta (nunca llegaría a tomar decisiones propias) por lo que, en este caso, terminará siendo la construcción de una IA que siempre responda a “los intereses humanos”, carente de toda autonomía y, por supuesto, los humanos siempre podrán apagarla, lo que nos lleva a una IA subordinada a los humanos que siempre estaría dando explicaciones de lo que hace y porque lo hace y cuando algo se salga de control la estaríamos reprogramando inmediatamente.

 La super IA puede limitar el progreso del transhumanismo al poder considerar que el superhumano  como un peligro, lo cual podría ser cierto, dada la mentalidad actual, un superhumano podría ser un peligro al no tener la sabiduría para controlar el poder que ha adquirido y por ello darle un mal uso.

Caso 4: Otro escenario es la fusión entre humanos y tecnologías (el ciborg). Este es el ideal del transhumanismo, ante el acelerado desarrollo de las tecnologías, la mejor opción es fusionarse con ella. Mientras en el caso anterior se hablaba de digitalizar la mente humana, algo así como extraer el alma humana y hacerla inmortal en un paraíso artificial. Para los transhumanistas la idea es irse fusionando con las máquinas desde ahora, el ciborg (parte biológica y parte cibernética) por medio de prótesis, implantes, mejoras genética, etc. Idea que Kurzweil no le gusta y afirma que esto nos convertiría en “otra cosa”. Esto es lo que yo llamo una superinteligencia hibrida. Tenemos otro caso relacionado con el transhumanismo, en el que no voy a detenerme, y es cuando la mejoras son solamente biológicas (ingeniería genética)  y estaríamos ante una superinteligencia biológica.

En el caso anterior (la inteligencia artificial) los más beneficiados van a ser las transnacionales de la información como Google, Facebook, Microsoft, etc., ahora en esta caso (el transhumanismo) van a ser las empresas que se dedican a la venta de componentes cibernéticos como prótesis, chips, dispositivos biónicos o interfaz cerebro-máquina, etc. Se sigue la línea de un humano mejorado por medio de las tecnologías.

 Caso 5: En artículos anteriores hemos dicho que el verdadero problema está en la simbiosis que se está produciendo entre humanos y máquinas Cómo relacionarnos con las super inteligencias artificiales (2) y no tanto, en que la máquina sea más inteligente que lo humanos. Nos referimos a cómo lograr una sinergia donde los humanos y las máquinas desarrollen lo mejor de sí (mutualismo). Y el cuestionamiento es: ¿En lugar de construir una IA más inteligentes que los humanos, porque no construir una IA que nos haga más inteligentes y sabios y dejar atrás la idea de ser el “creador” de una entidad superintleigente. Proponemos, en su lugar, ir construyendo de forma colaborativa una superinteligencia que favorezca no solo la inteligencia y la capacidad humana sino también la sensibilidad y la empatía humana, y donde ambos vayan (humanos y máquinas) aprendiendo juntos, donde no solo la máquina tiene que estar alineada a los “verdaderos” intereses humanos (en los que hay que trabajar) también los humanos tendrán que ir cambiando su mentalidad y alinearse a intereses donde deben primar la sabiduría, el altruismo, la empatía, la bondad. La que llamo superinteligencia colectiva siguiendo las ideas de Pierre Levy y de Francis Heylighen.

La pregunta es ¿Podemos dirigir la simbiosis? El mismo Nick Bostrom plantea que las tecnologías son juguetes muy peligrosos en manos de niños traviesos (los humanos). Hay que trabajar en ampliación de la inteligencia y la sabiduría humana (IA altruista), que se vaya construyendo por medio de la colaboración con los humanos donde se vaya produciendo una sinergia mutual entre ambos donde prime el progreso humano en lugar del progreso tecnológico como en los casos anteriores.

Esto lleva a profundos cambios de mentalidad y en una nueva educación que prioriza la necesidad de aprender a manejarse con las tecnologías que están emergiendo y la sabiduría que debemos alcanzar, ya que el problema no es construir una IA amigable  sino enseñar a la IA a que se amigable, pero primero tenemos nosotros que aprender a ser amigables y a perseguir intereses altruistas y solidarios. Tenemos que aprender a construir una IA cada vez más inteligente y sabia para juntos construir un mundo más humano.

Imagen: monografias.com

 

Entre el progreso humano y el progreso tecnológico

Apenas escribo para el blog y es debido a que estoy trabajando en mi próximo libro y les confieso que estoy algo atascado. Pero, para que vean que no me olvido de los amigos, aquí les van algunas ideas de lo que estoy haciendo. Espero me disculpen cualquier incoherencia.

Siempre he pensado que el verdadero enfrentamiento será entre los defensores de un futuro sostenible y los que defienden un futuro poshumano. Y si me preguntan, los segundos llevan la delantera. Ahrobot1_270x250ora, la pregunta es, ¿Por qué el futuro poshumano es tan atrayente? ¿Son posibles todas sus promesas? Y la pregunta más importante. ¿Qué dejaremos de ser?

Ya, el fundador de la bioética, Van R. Potter, había hecho una definición sobre el concepto de progreso humano. Lo que nos lleva a que tenemos que repensar el concepto de progreso humano y lo que entendemos por progreso humano, a la luz de la contaminación ambiental y del acelerado progreso tecnológico.

Hoy, aunque muchos no lo quieran aceptar, estamos bajo el predominio de la ideología tecnológica, incluso el economicismo imperante cada vez se subordina más a las tecnologías, incluso, me atrevería a decir que el neoliberalismo actual, de seguir como vamos, será sustituido por un tecnoliberalismo.

Un error muy frecuente actualmente, a veces inconsciente o porque no se pensado lo suficiente sobre el tema, es creer que l progreso humano va en una dirección y el progreso tecnológico va en otra, debido a que se ven como dos procesos diferentes. Los humanistas puros defienden un progreso humano al margen de las tecnologías, en el mejor de los casos estas siguen subordinadas a los deseos humanos y se niega el surgimiento de toda inteligencia no humana.

En cambio, el tecnologismo cree que todos los problemas se van a resolver con las tecnologías emergentes: nanotecnología, biotecnología, infotecnología y cognotecnología (NBIC), y sueñan con la construcción de dispositivos que permitan mejorar la vida y la sustitución de los recursos naturales por componentes artificiales. De esta forma ellos piensan superar todas las limitaciones biológicas como enfermedades, vejez (incluso la muerte); superar las facultades actuales, más inteligente, más fuerte, más hermoso; sustituir los recursos energéticos, por otros que no se agoten como el combustible y hasta con construir planetas artificiales.

Y es que, en realidad, seguimos ignorando que ya estamos viviendo una simbiosis entre humanos y tecnologías y la clave está en saber qué tipo de simbiosis queremos alcanzar. Estoy de acuerdo con los que asumen que vamos a ciegas al futuro; el cual está motivado por intereses egoístas, competitivos y hegemónicos, ya que vivimos dentro de un contexto social basado en la competencia y el éxito a toda costa. Entonces, ¿Qué pasara cuando las máquinas alcancen una inteligencia superior a la humana? Sin dudas, entrarán en competencia con los humanos y usarán esa inteligencia, que los humanos le han dado, para ir asumiendo roles cada vez más importante en la sociedad, posiblemente sin mucha violencia, como dice Moravec, será un proceso indoloro. Este es el punto que defino como crisis tecnológica.

Crisis tecnológica: Sera el momento en que el progreso tecnológico supere al progreso humano lo cual será posible cuando las tecnologías sean más inteligentes que los humanos y que el progreso humano se haga totalmente dependiente del progreso tecnológico.

El progreso tecnológico está muy bien definido en los trabajos de Kurzweil (sobre todo con respecto al futuro) sobre la singularidad tecnológica en cambio a pesar de las corrientes filosóficas, que han existido durante siglos y de las investigaciones en psicología y sociología; el concepto de progreso humano esta desactualizado y desfasado con respecto a los acontecimientos del mundo actual y su creciente complejidad, y demás está decir que el futuro a penas se toca y siempre se le ha dejado a la ciencia ficción, y esto se debe a que se pensaba que el mundo siempre seria igual, hoy sabemos que el planeta se está deteriorando y cada vez son más las especies que desaparecen y de seguir así, la extinción de la especie humana es cuestión de tiempo, tampoco se conocía el poder que alcanzarían las tecnologías y que hoy se ven como la sucesora de la raza humana. En este nuevo contexto hay que repensar, urgentemente, el concepto de progreso humano, se necesita de un nuevo enfoque que nos diga hacia qué futuro vamos, que no necesariamente es el de una singularidad tecnológica. Lo primero que tenemos que analizar entre las posibles simbiosis entre humanos y tecnologías, ¿Cuál es la que es la que queremos para nuestros hijos?

Como decía, el problema es, que históricamente se ha vista separado el progreso humano del progreso tecnológico, al igual que ha visto separado el desarrollo social (crecimiento económico) de la evolución natural (ecosistema). Hoy comenzamos a entender la relación que existe entre ambos y la simbiosis que se está produciendo entre humanos y tecnologías, por lo que es necesario, desde el presente, establecer relaciones profundas con las tecnologías como un igual. Establecer desde hoy formas de cooperación con las tecnologías, pero para ello, primero los humanos tienen que aprender a colaborar entre si y dejar atrás su contexto competitivo actual, basado en el poder. Este cambio de mentalidad es imprescindible si queremos seguir existiendo como especie.

Foto: Periodista digital