La relación humanos-tecnologías, la inteligencia artificial y el enfoque sistémico-cibernético (2)

Gregory Bateson.

“La humanidad necesita urgentemente una nueva sabiduría que le proporcione el conocimiento de cómo usar el conocimiento”. Van R. Potter

A Norbert Wiener siempre le preocupó como sería la relación entre humanos y tecnologías y cuál sería el destino de los seres humanos. Él siempre entendió a la cibernética como una nueva forma de pensar y de un nuevo paradigma que rompe con el paradigma mecanicista y determinista. En cambio la IA desde sus orígenes nació desligada de las consecuencias éticas,  de sus trabajos solo importaba la investigación, mientras la cibernética no concibe una máquina inteligente separada de su contexto social, siempre se pensó en una máquina en interacción con su entorno y que respondiera a los propósitos del sistema.

La cibernética, como investigación en sus inicios se baso en la construcción de máquinas autónomas que permitieran la comprensión estructural y funcional de los sistemas vivientes, buscando analogías entre los sistemas vivos y los sistemas artificiales.

La inteligencia artificial (IA) critico el enfoque cibernético de la búsqueda de analogías y quiso crear una ciencia en si misma basada en la construcción de programas de computación que emularan la inteligencia humana, lo cual llevo a reducir los procesos del pensamiento en complejos algoritmos que podían ser computarizados (metáfora del computador)

Wiener se imaginaba a las máquinas interactuando con el entorno, las maquinas abiertas al entorno y en interacción con los humanos y que podrían ir evolucionando desde maquinas más simples a maquinas más complejas, en lugar del hombre introducirse en las máquinas y hacerse cada vez mas digital (artificial). Para la cibernética será introducir a las máquinas en el entorno humano y convertirla cada vez en más humana.

IA, reduce el proceso del pensamiento al procesamiento de la información que se lleva a cabo de forma aislada en el interior de una computadora. Por otra parte la IA nace dentro del pensamiento positivista, mecanicista y reduccionista desde este enfoque solo cabe pensar en una IA que será cada vez más inteligente dado su crecimiento lineal (retroalimentación positiva): más memoria, más capacidad de procesamiento, más velocidad de cálculo, etc) de ahí el temor de muchos pensadores que ven como solución que la programación de la IA alineada a los intereses humanos. Una vez construida ¿Qué sucederá? ¿Estará alineada a los intereses de sus creadores, como son las grandes transnacionales: Google, Microsoft, IBM, Facebook, Aple, etc? Por otra parte, en muchos casos, se sigue aspirando a una IA a imagen y semejanza de los humanos y se ignoran los aportes  de los padres del enfoque sistemático-cibernético: Bateson, Capra, Maturana y Varela, entre otros.

El enfoque sistémico-cibernético, busca lograr, que la sinergia humanos-tecnologías, que se integren como un sistema que tienda al mismo propósito (sistema auto-organizado). Donde humanos y las maquinas, en su interacción, vayan conformando un sistema que se auto-organiza (metasistema).

En sus inicios debe construirse como un sistema de computación que sea capaz de integrarse (desde su contexto como máquina) a la forma del pensamiento humano y en primera instancia representar los procesos del pensamiento humano como un sistema abierto en interacción con el entorno humano.

Es que las máquinas tendrán que asimilar la cultura humana y aprender, no solo de la ciencia sino también del arte y de la filosofía, y adquirir su propia experiencia. Las maquinas autónomas nunca podrán desarrollarse sino es dentro del contexto socio-cultural de los humanos, de la cual surgirá una sinergia humanos-tecnologías.

Estamos ante la necesidad de una colaboración transdiciplinar de aceptar la simbiosis humano tecnología (dimensión tecno-bio-psico-social) desde un enfoque sistémico-cibernético que incluya un cambio de mentalidad hacia nuestra fuerza interior; transformación de la estructura social competitiva hacia una colaborativa, la protección del planeta y el surgimiento de una superestructura tecnológica sostenible. Donde se defienda la conservación de la condición humana desde la idea de un humano pleno y al surgimiento de una superorganismo colaborativo (ver Las crisis: la tecnología)

La pregunta es ¿Podemos dirigir la simbiosis? El mismo Nick Bostrom plantea que las tecnologías son juguetes muy peligrosos en manos de niños traviesos (los humanos). Hay que trabajar en ampliación de la inteligencia y la sabiduría humana, se necesita una IA altruista que se vaya construyendo por medio de la colaboración con los humanos para que se vaya produciendo una sinergia mutual entre ambos donde prime el progreso humano en lugar del progreso tecnológico como se propone en la cosmovisión tecno-centrista.

Las tecnologías están presentes en el individuo, la sociedad y el entorno y se está produciendo una sinergia humanos-tecnologias.

1.-Individual: tecno-individuo (ciborg). La tecnologización va del individuo hacia fuera

  • Fusión tecnológica entre el individuo y la tecnología

2.-Social: Tecno-sociedad

  • Superorganismo global (cerebro global): tecno individuo-sociedad. Se produce una fusión tecnológica entre el individuo y la sociedad de alcance global
  • Superorganismo colaborativo (sistema colectivo): la sinergia tecnológica entre una nueva mentalidad y la sociedad sin que se pierda la esencia de la relación individuo-entorno.

3.-Tecnológica: transformar el entorno natural (sustitución por la tecnología) y van a absorber a la sociedad y al individuo (singularidad tecnológica).

  • Sustituye al entorno natural
  • Sustituye al contexto social
  • Sustituye al individuo (sujeto biológico) y lo convierte en objeto tecnológico

La singularidad tecnológica plantea una evolución artificial donde los humanos como mentes digitales viven en un entorno artificial (tecno-centrismo) donde el individuo se está haciendo cada vez más independiente de la naturaleza y más dependiente de las tecnologías

Vamos a una sinergia humano-tecnología, la cual puede ser exógena o endógena o ambas a la vez

  • La exógena puede llevar a una subordinación de los humanos (dominio de las tecnologías)
  • La endógena puede llevar a la desaparición de la condición humana.

La colaboración con las tecnologías y la ampliación exógena de lo natural

  • Dependencia total de las tecnologías. Las tecnologías controlan a los humanos (tiranía de las máquinas), para evitar este escenario se propone como solución la prohibicion de las tecnologías, lo cual lleva a una ectosimbiosis parasitaria donde las tecnologías se ven como enemigas: virus y parásitos tecnológicos.
  • Tecnología como herramienta. Escenario ingenuo que asumen que las tecnologías siempre estarán bajo control y que solo harán lo se les programe. Conservar la era actual (ectosimbiosis comensal)
  • Colaboración humano-tecnología y la ampliación exógena de los natural (ectosimbiosis mutual)

Sinergia exógena (ecologismo)

  • Mutualismo: proteger la relación interactiva con el entorno natural como un metasistema. Se produce una ampliación, producto de la interacción, con el entorno natural.
  • Comensalismo: conservar el entorno natural, las tecnologías se utilizan bajo regulación, los posibles entornos artificiales siempre estarán subordinados (supeditados) al natural. El entorno artificial se desarrolla para satisfacer las necesidades del ser humano y implementa bajo fuerte control.
  • Parasitismo: regreso al entorno natural, las tecnologías deben ser prohibidas ante los posibles riesgos. Se produce un retroceso al entorno natural y se prohíbe el entorno artificial y todo vestigio con las tecnologías disruptivas.

Las tecnologías harán lo que el ser humano le haya ensenado.

Las máquinas no podrán ser conscientes de sus actos ante los humanos ya que carecen de una conciencia humana formada de la experiencia, podrán vivir como un humano más, en familia y aprender. Pienso que primero tendrán que aprender a lidiar con los humano desde su propia conciencia como máquina, pero desde un contexto colaborativo donde cada cual aporte lo mejor de sí, por lo que la conciencia de las máquinas no tiene que ser igual a la humana, y el hecho de carecer de intencionalidad y de las ambiciones humanas, les permitirá tener un juicio imparcial y su mentalidad estará más cerca del budismo y su desapego a las cosas materiales.

Con relación de complejidad de un sistema con su entorno, podemos decir  que en el mundo actual la complejidad del sistema social es muy superior a la complejidad del sistema ecológico por lo cual el sistema socio-económico está produciendo enormes cambios en el ecosistema en muchos casos de carácter destructivo, de ahí que Morin hable de una auto-eco-organización, ya que no es solo la auto organización del sistema social, se necesita de una auto-organización global entre los sistemas social, biológico, sicológico y ecológico

El proceso actual es entrópico, dado el crecimiento a costa del consumo de los recursos, lo cual lleva a la destrucción del ecosistema y su entorno natural, el cual está siendo sustituido por el tecno-sistema y la construcción de un entorno artificial.

Las tecnologías deben ser vistas como un medio que permite el mejoramiento de la humanidad tanto intelectual como espiritual y que la misma puede crecer indefinidamente integrándose al contexto humano. Se busca la cooperación entre humanos y tecnologías en lugar de la competencia entre ambas

Este punto nos lleva a un cambio de mentalidad y a un nuevo enfoque sobre nosotros mismo y a la responsabilidad sobre nuestro pensamiento y nuestras acciones. Donde debemos definir nuestra posición ante la naturaleza (como amos o protectores), nuestro compromiso con toda la humanidad y con las generaciones venideras, así como nuestra relación con la tecnología. Nuestro pensamiento actual y nuestro contexto socioeconómico basado en la lucha por el poder, nos llevan inevitablemente a la competencia y a la confrontación no solo entre humanos sino también entre humanos y máquinas.

Esto lleva a profundos cambios y en una nueva educación que prioriza la necesidad de aprender a manejarse con las tecnologías que están emergiendo y la sabiduría que debemos alcanzar, ya que el problema no es construir una IA amigable  sino enseñar a la IA a que se amigable, pero primero tenemos nosotros que aprender a ser amigables y a perseguir intereses altruistas y solidarios. Se necesita de un nuevo enfoque que mas que construir una inteligencia artificial persiga amplificar la inteligencia humana y no solo la inteligencia sino también nuestros propios valores, aquellos de los que vivimos orgullosos.

Imagen: psicologiaymente.net  

 

 

Pioneros del enfoque sistémico-cibernético y el pensamiento complejo. La cibernética (1)

Norbert Wiener

 

No hace mucho realizamos una encuesta sobre los pioneros de del pensamiento complejo y me llamó la atención que Norbert Wiener fue uno de los menos señalados, lo cual indica el desconocimiento sobre su importancia en el pensamiento complejo. Sus ideas, junto a las de Beralanffy, son las bases del nuevo pensamiento sistémico (tiene como fundamento al enfoque sistémico-cibernético), digo nuevo pensamiento sistémico porque se reafirma con la ampliación de la cibernética (cibernética de segundo orden), la teoría de sistemas (teoría de sistemas auto-organizados) y la teoría de la información (teoría de la información/comunicación). Además de una fecunda interacción con el pensamiento complejo, el enfoque holista y el paradigma ecológico (respetando las definiciones dada por Enrique Luengo).

Veamos los trabajos y aportes de Wiener a la Cibernética

  1. Introdujo al lenguaje científico el concepto de cibernética.
  2. Se dedicó a la investigación de los procesos de control y transmisión de la información.
  3. Pionero de la investigación interdisciplinaria en el pensamiento sistémico.
  4. Introdujo el concepto de cibernética (de primer orden), el cual fue acuñado para referirse a todo el campo cubierto por la teoría del control y la teoría de la información, tanto en máquinas como en animales. 
  5. Propuso el concepto de retroalimentación (feedback) para referirse a la propiedad de ajustar la conducta futura a hechos pasados.

Origen de la palabra

El matemático y físico NORBERT WIENER (1894-1964), propuso el concepto de cibernética, en su obra principal: El control y la comunicación en animales y máquinas y Cibernética y sociedad.  “Wiener quien eligió este término en homenaje al físico inglés Clarence Maxwell por haber definido en 1868 los mecanismos de retroacción, no podía imaginarse que mucho antes el filósofo griego Platón, se dio gusto utilizando el término Kybernetike para referirse al arte de la navegación como timonel, ni que muchos años después en 1834, otro brillante físico, el francés Andrés Ampere, utilizó el término Cibernética como el arte de gobernar en política” (La cibernética).

Cibernética: La teoría de las máquinas autónomas

Wiener definió la cibernética como el campo interdisciplinario que aborda los problemas de la organización y los procesos de control (retroalimentación) y transmisión de informaciones (comunicación) en las máquinas y en los organismos vivos.

Es bueno resaltar que el contexto donde se generó la cibernética fue el tecnológico con un acercamiento a la neurofisiología. Wiener quería encontrar las analogías entre una máquina automática y los organismo vivos. Por lo que la cibernética nació como una teoría de las máquinas, pero como bien dice Juan Carlos Moreno: “aunque la cibernética comenzó muy ligada al desarrollo de mejores máquinas, ella es más que una “teoría de las máquinas”. Como señala Ashby: También la cibernética es una “teoría de las máquinas”, pero no estudia objetos sino modos de comportamiento. No pregunta: ¿qué es esto?, sino: ¿qué hace? […] Es, por lo tanto, esencialmente funcional y conductista […] Trata todas las formas de conducta en la medida en que son determinables, regulares o reproducibles”

Pero quizás el aporte más importante de la cibernética fue fundamentase sobre las analogías, de ahí su característica de ciencia exógena, la cual está dada por la interrelación con otras ramas del conocimiento y su asimilación, pero sobre todo por la propuesta de teorías generales que explicasen fenómenos propios de las otras ciencias. Por ejemplo la cibernética ha preferido basarse en la teoría de los modelos, haciendo más hincapié en la representación funcional de los organismos que en su estructura, en el sentido vertical o jerárquico.. Esto unido a la búsqueda de analogías entro los fenómenos y no a la reducción de un fenómeno en otro (como posteriormente hizo la inteligencia artificial), la llevo a convertirse en una guía científica para la comprensión del mundo desde una visión más general y abierta (Los aportes de la cibernética).

En el “Manual de iniciación pedagógica al pensamiento complejo”, Juan Carlos Moreno, afirma lo siguiente: En términos generales la cibernética estudia los modos de comportamiento de las máquinas y de los organismos vivos, para lograr procesos cada vez más automáticos en las máquinas, similares a los de los organismos vivos. Pero, en un sentido más profundo, esos comportamientos automáticos podemos entenderlos como procesos de cambio, y el objeto de estudio de la cibernética es el cambio (disponible en los archivos del grupo Futuro de la Inteligencia Artificial

Para los organismos vivos la Cibernética representa el modelo de sus comportamientos desde las analogías y las diferencias entre sistemas vivos y no vivos. Como dice Juan Carlos Moreno: “La diferencia entre los organismos no vivos y los vivos es que los primeros están sometidos al cambio (la degradación) y los segundos, además de estar sometidos al cambio, son los únicos que controlan el cambio y, con ello, neutralizan su tendencia a la degradación y a la muerte, generando vida”. Esta es una idea interesante, ya que actualmente muchos representantes del transhumanismo hablan de la fusión entre humanos y maquinas y resaltan las bondades de los sistemas artificiales (no vivos) y demeritan a los sistemas vivos, uno de los argumentos es que los componentes de un sistema artificial puede ser cambiados mientras los orgánicos no se pueden cambiar. Incluso hablan de las ventajas de tener versiones de humanos al igual que las maquinas. A la ideología transhumanista se le opone la bioconservadora (Mapa biopolítico: biconservadores vs transhumanista)

Concepto de retroalimentación (Feedback)

Un concepto importante desarrollado dentro de la cibernética es el de retroalimentación, que dice que el efecto de un elemento de un sistema puede regresar al mismo elemento

Wiener definía este concepto como todo método que se emplea para controlar un sistema, reinsertando en él los resultados de su actividad anterior.  Con el tiempo, este concepto se ha ido ampliando y se aplica a todas los fenómenos: psicológicos, sociales, ecológicos, tecnológicos, biológicos, etc.

“La retroalimentación se entiende como el procesamiento de la información que le permite a la máquina o al sistema vivo regular su comportamiento de acuerdo con su funcionamiento real y no en relación con lo que se espera… Actualiza esa información y le permite a la máquina o al organismo comportarse de acuerdo con propósitos actualizados… Ya que un propósito se mantiene y se controla en la medida en que se actualice y la organización se mantiene y se controla en la medida en que mantenga su propósito” (Juan Carlos Moreno en Manual de iniciación pedagógica al pensamiento complejo).

Por experiencia de la vida cuando se habla de la relación causa y efecto se asume que existe una relación proporcional entre ambas, o sea, si aumenta la causa aumenta el efecto. La idea de retroalimentación, que introduce Norbert Wiener, rompe con el principio de causalidad, ya que da a lugar a una relación causa-efecto-causa, esto se debe a que el efecto es capaz de retornar y modificar la causa. Existen dos formas de retroalimentación la positiva y la negativa

La retroalimentación es positiva si amplifica o multiplica el cambio en una dirección determinada, igual a fuerza desestabilizadora. Son mecanismos de auto-refuerzo que tienden a hacer crecer un sistema y desestabilizarlo (ej., la aceleración tecnológica)

  • La retroalimentación es negativa cuando su función consiste en contener o regular el cambio, igual a fuerza estabilizadora .Son mecanismos de reequilibrio que tienden a mantener la integridad de un sistema y estabilizarlo (ej., el termostato)

 Los primeros son “revolucionarios” y los segundos “conservadores”

También se habla de la retroalimentación compensada, que se produce cuando un regulador ejerce alternadamente retroalimentaciones positivas o negativas, según las necesidades del mantenimiento de la estabilidad dinámica del sistema o subsistema regulado

Carlos Gershenson, en el curso Pensamiento sistémico, utiliza el concepto pre-alimentación y es cuando los efectos de un elemento tratan de influir en la dinámica del sistema antes de que ocurra cierto evento para poder regular mejor el sistema. Y luego define la adaptación como: la habilidad de un sistema para cambiar su estado como respuesta a una perturbación. La anticipación actúa antes de que una perturbación ocurra para preservar al sistema. Y más adelante añade: Sin embargo debido a la complejidad de un entorno que está cambiando constantemente y a las interacciones hemos visto que esta predicción es limitada. Para esto es deseable que los sistemas puedan adaptarse a todos aquellos cambios que no sean posibles de predecir. 

En el próximo artículo continuaremos hablando de la cibernética

Imagen: history-computer Norbert Wiener

 

La Cibernética

Padre de la Cibernetica

Hoy en día están de moda los términos Ciberpunk, Ciberespacio, Ciberarte…, términos que encierran en sí todo un movimiento integracionista en los que se confunde la fantasía del arte con los descubrimientos más novedosos de la ciencia. Pero, ¿cuál es su origen?

En 1948, el matemático norteamericano Norbert Wiener, quien se encontraba en ese momento en una situación monetaria precaria, decide escribir un librito al que tituló: “Cybernetics, or control and communication in the animal and the machine”. El que, para asombro del propio autor, se convirtió pronto en un best seller e inició uno de los movimientos más espectaculares del mundo científico.

La Cibernética no debe verse ni como una ciencia, ni como una disciplina; sino como un movimiento de ideas que trató de romper con la estrechez de los conocimientos propios de cada disciplina. El movimiento cibernético demostró que las barreras que existían entre la matemática, la biología y la electrónica, por solo citar tres de las más beneficiadas, eran superables y encontró sorprendentes analogías entre ellas.

Wiener. quien eligió este término en homenaje al físico inglés Clarence Maxwell por haber definido en 1868 los mecanismos de retroacción, no podía imaginarse que mucho antes el filósofo griego Platón, se dio gusto utilizando el término Kybernetike para referirse al arte de la navegación como timonel, ni que muchos años después en 1834, otro brillante físico, el francés Andrés Ampere, utilizó el término Cibernética como el arte de gobernar en política.

Nada de esto resta mérito a la labor de Wiener como padre indiscutible de la Cibernética, aunque él mismo reconoce a Leibniz como su precursor por sus ideas, entre ellas la de descubrir un lenguaje del pensamiento basado  en el arte de la combinatoria que permite a través del lenguaje de los números expresar cualquier idea o concepto fórmula de la verdad. Sin embargo, Wiener ignoró al español Ramón Llull, quien nació en Mallorca en 1235 y falleció en 1315. Entre sus muchos inventos, propuso una máquina lógica que permitiera obtener demostraciones de modo mecánico. Este proyecto despertó el interés de muchos científicos, pero también las más violentas críticas; entre ellas la del sabio inglés Francis Bacon, así como de otro inglés Jonatan Swift, quien en su libro “Los viajes de Gulliver” ridiculiza tanto a las ideas de Llul como a todos los que la consideran técnicamente realizable. ¿En qué consistía la máquina de Ramón Llul? Veamos la explicación dada por Kondratov en su libro “El intelecto electrónico”.

“La máquina lógica era un sistema de círculos concéntricos giratorios que permitían obtener demostraciones de un modo mecánico. Al saber que de los axiomas se deducen teoremas, lemas y fórmulas, Llul comenzó por tomar como axiomas de conocimiento seis categorías, con nueve elementos cada una. Por ejemplo, él formuló los principios absolutos: bondad, grandeza, eternidad, sabiduría, etc., designando cada uno de éstos con una letra especial, y los principios relativos: diferencia, acuerdo, contrariedad, comienzo, medio, fin, etc. El axioma virtudes englobaba elementos como justicia, templanza, fe, caridad y esperanza, mientras que el axioma vicios, incluía avaricia, gula, lujuria, soberbia, pereza, envidia, ira, falsedad, traición… Los círculos se unían entre sí y, una vez puestos en giro, permitían obtener combinaciones de símbolos y colores, originales fórmula de la verdad”.

Para muchos Leibniz tuvo conocimiento de las ideas de don Ramón y las asimiló y les dio su propia interpretación matemática. Si nos seguimos remontando más atrás, vemos que la Cibernética persigue la integración entre las ciencias (el sueño del diletante) y su objetivo era desarrollar máquinas que simularan el comportamiento animal, al menos éste fue su aporte más espectacular; recuerden las tortugas de Grey Walter, el ratón de Shannon, los zorros de Ducrop y otros muchos ciberanimalitos más. Entonces, qué mejor padre que Leonardo Da Vincy, quien en su época trató de hallar la analogía entre todas las ciencias.

El movimiento cibernético tuvo su época de oro en los años 50, cuando se hablaba que las máquinas, algún día, dominarían al hombre; se especulaba sobre los robots y se soñaba con construir un modelo del cerebro humano. Sin embargo, en el último congreso cibernético se cuestiona la utilidad de la Cibernética como disciplina científica, ya que carece de bases sólidas que la sustenten por sí misma: la Cibernética toma ideas de la biología, de la electrónica, de la matemática y se dedica a construir juguetes para probar ciertas conductas. Incluso para sugerir el comportamiento de un mecanismo o un animal desconocido partiendo de sus funciones de forma general.

Para los nuevos cibernéticos esto es demasiado difuso y proponen una nueva ciencia: la inteligencia artificial que se dedicaría al desarrollo de programas que tuvieran aptitudes inteligentes, y a partir de entonces los congresos de Cibernética se convierten en congresos de Inteligencia Artificial. Esto unido a la consolidación de la robótica también como ciencia independiente, dejaría a la Cibernética sin soporte científico.

¿Murió el movimiento Cibernético?

En los umbrales del siglo XX surgen nuevos movimientos integracionistas (esta vez de la ciencia con el arte) tales como Ciberpunk, Ciberarte…, sobre todo el Ciberarte, que mezcla el arte con tecnologías de avanzada tales como multimedia, realidad virtual, etc. La pregunta es si estamos en presencia de un nuevo movimiento de cibernéticos que vuelvan a revivir a aquel antológico movimiento de los años 50, que aglutinó a destacados matemáticos, neurólogos, siquiatras, comunicadores…
Esperermos que sí.