Fundamentos para una IA centrada en el ser humano

Instituto para una IA centrada en el ser humano

Son muchos los que sueñan con construir una inteligencia artificial (IA) que supere la inteligencia humana, y son muchos los proyectos de cómo lograrlo, también son muchos los que están preocupados y proponen soluciones aún más riesgosas. Y es que estamos ante uno de los dilemas más grande que ha enfrentado la humanidad: ¿Sabemos lo que queremos? ¿Qué queremos que haga la IA por nosotros? ¿Demos construir una inteligencia superior a la humana? ¿Debemos construirla bajo un férreo control? ¿Cuáles son las vías para construirlas? ¿Desde qué visión queremos construirla? De algo si podemos estar seguros, del destino de los humanos está ligado al surgimiento de otras inteligencias, de cómo seamos capaces de entendernos y de interactuar con ellas (Comprendiendo el futuro de la inteligencia artificial)

Podemos decir que todavía no está bien definido en que consiste una IA centrada en el ser humano, y es que, aun, es muy temprano para definir los objetivos.  Se necesita elaborar una serie de principios éticos sobre el desarrollo de la IA, que tenga en cuenta las etapas para su desarrollo, hacia dónde va la IA y que lugar ocuparemos en ese desarrollo.

¿Qué es una IA centrada en el ser humano?

Cuando decimos centrada en el ser humano estamos ante tres interpretaciones:

  1. Que se aplique a las actividades humanas
  2. Que siga la medida humana
  3. Que sea consciente de los humanos.

1.-IA aplicada a las actividades humanas

  • Las aplicaciones dan solución a problemas sociales. para alcanzar objetivos importantes para la humanidad en su conjunto, y no únicamente las típicas aplicaciones que buscarán las empresas.
  • Lograr una IA para el bien de todos los seres humanos (AI for Good). Mayor beneficio social

En dependencia de los tipos de IA, sus enfoques y las vías para su desarrollo, surgirán nuevas oportunidades de trabajo y de colaboración, o no surgirá oportunidad algunas y las IAs nos desplazaran

2.-Medida humana

  • Funciona muy similar a la mente y/o al cerebro humano

Siguen la forma de pensar humana

  • IA cognitiva simular el pensamiento individual (modelo cognitivo)
  • IA colectiva simular el pensamiento colectivo (modelo colectivo)
  • IA enactiva simular el pensamiento humano en su evolución (modelo enactivo)

No sigue la forma de pensar humana

  • IA operativa no simula el pensamiento humano

Surge la pregunta ¿Como las futuras superinteligencias resolverán las tareas intelectuales por medio de conocimientos o por medio de grandes bases de datos?

3.-IA consciente de los humanos

  • Es consciente de los humanos y del entorno. Antes estaba muy concentrada en la tarea y carecía de conciencia contextual
  • Asistentes personales: diseñados para las características de las personas con quienes están destinados a interactuar (esto se confunde con ser consciente de los humanos)

Cuando hablamos de IA consciente de los humanos estamos diciendo:

  • Es capaz de entender a los humanos o, mejor aún, de entenderse con los humanos (cosa difícil).
  • Es capaz de interactuar con los humanos y con el entorno

Sistemas conscientes de los humanos

En artículos anteriores hablamos sobre el informe AI100 donde se decía que en el desarrollo de la IA debe pasar de construir sistemas inteligentes simples (no consciente de los humanos) a construir sistemas inteligentes que sean conscientes de los humanos y confiables. Y agregan: “Durante los próximos quince años, el Panel de Estudio espera un enfoque creciente en desarrollar sistemas que sean conscientes de los humanos, lo que significa que modelan específicamente, y están específicamente diseñados para las características de las personas con quienes están destinados a interactuar” (asistentes personales)

Observen que se aspira a que sean consciente de los humanos, pero no dice nada sobre sistemas que colaboren con los humanos. O sea, se aspira a una IA de carácter individual que sea consciente de los humanos. Actualmente la IA actual está separada de su entorno por lo que no puede valerse por sí misma (sistema autista).

Fei-Fei Li,  codirectora del Instituto de Stanford para la inteligencia artificial centrada en el ser humano, realiza un interesante análisis sobre la conciencia contextual y dice textualmente:

“¿Qué has aprendido hasta ahora? Tenemos que estar mucho más centrados en el ser humano. Si nos fijamos en dónde estamos en IA, diría que es el gran triunfo del reconocimiento de patrones. Está muy concentrado en la tarea, carece de conciencia contextual (consciente del ser humano) y carece del tipo de aprendizaje flexible que tienen los humanos. También queremos hacer tecnología que mejore la vida de las personas, nuestro mundo sea más seguro, nuestras vidas sean más productivas y mejores. Todo esto requiere una capa de comunicación y colaboración a nivel humano”.

Y agrega:

“¿Cómo podemos hacer IA más  centrado en el ser humano? Hay una gran frase, escrita en los años 70: “la definición de IA de hoy es una máquina que puede hacer un movimiento de ajedrez perfecto mientras la habitación está en llamas” (carece de conciencia contextual). Realmente habla de las limitaciones de AI. En la próxima ola de investigación de IA, si queremos hacer máquinas más útiles, tenemos que recuperar la comprensión contextual. Tenemos que traer la abstracción y el razonamiento del conocimiento. Estos son todos los pasos más importantes”.

Yo me pregunto ¿Podrá la IA enactiva dada su propia naturaleza de estar encarnada en el entorno humano ser consciente de los humanos y alcanzar una conciencia contextual?, como dice Fei-Fei LI.

IA beneficiosa e IA consciente de los humanos

Podemos decir que una IA consciente de los humanos, de hecho, debe ser “amistosa” y al ser consciente de los humanos, será capaz de responder a los intereses humanos, de algunos humanos: los creadores de la IA, siempre existirá un sesgo que dejara fuera a una gran parte de la humanidad

¿Puede ser consciente de los humanos y no seguir la medida humana?

Por otra parte, cuando se dice que se aplica a las actividades humanas, estaríamos en presencia de una IA que por sí misma es capaz de resolver tareas propias de los humanos o de una IA que es capaz de colaborar con los humanos para resolver problemas complejos que los humanos solos no pueden resolver (IA colaborativa)

Con respecto a las aplicaciones, que son propias de una IA específica, estaríamos hablando de aplicaciones que beneficien a la humanidad, en lugar de aplicaciones comerciales que se desarrollan para obtener ganancias

Las aplicaciones de los sistemas de computación y el surgimiento de la IA

Retomando las ideas iniciales del surgimiento de la IA y de las aplicaciones de sistemas de computación para resolver, sobre todo, tareas propias de las empresas. Los sistemas de computación nacieron centrados en la computadora, resolver tareas específicas. Es precisamente la inteligencia artificial la que viene a cambiar ese enfoque por uno que toma al ser humano como medida del desarrollo de las aplicaciones y surgen las áreas de aplicación de la IA. Entonces se hablaba de sistemas convencionales (centrados en la informática) y los sistemas de IA (centrados en la inteligencia), que siguen la medida humana

Aplicaciones de la IA (especifica)

  • Lograr ganancias y es propia de las empresas
  • Alcanzar objetivos importantes para la humanidad en su conjunto

Una cosa es construir IA que sean beneficiosas y otra que la IA sea beneficiosa en sí o por sí misma. En el primer caso las acciones (aplicaciones) de la IA estarán subordinadas a los humanos como desarrolladores de los programas que la harán funcionar en el segundo la IA tendrán autonomía y será capaz de desarrollar acciones propias que respondan a los intereses humanos.

IA beneficiosa

  • IA beneficiosa para una elite (responde a los intereses de una minoría)
  • IA beneficiosa para todos (reporta beneficios a la mayoría)
  • IA beneficiosa en si misma (poses un sentido ético). Hacer el mayor bien posible.

Por otra parte, estamos hablando de beneficios sociales o beneficios económicos y tampoco existe una percepción correcta de los riesgos de la IA., habría que preguntarse, ¿cuáles son los riesgos más perentorios?

Mientras el futuro de la IA se centre solo en las aplicaciones (IA especifica) de carácter beneficiosos, estaremos yendo a ciegas al futuro, porque no tendremos en cuenta la relación (sinergia) que se está produciendo entre humanos y máquinas.

Propósito de una IA y sus técnicas

  • Las empresas se están concentrando en el modelo de una IA avanzada operativa (orientada a los datos y basadas en la velocidad del hardware). Aprendizaje profundo.
  • Las academias se inclinan por el desarrollo de una IA cognitiva (simbolista y conexionista): reglas de producción y redes neuronales.
  • Solo unos pocos se interesan en una IA avanzada colaborativa-eneactiva (colectiva y corpórea).

Los desarrollos de la IA para el bien

 Desarrollar una IA que responda a los intereses de los patrocinadores y los desarrolladores

  • IA avanzada beneficiosa-cognitiva

Desarrollar una IA orientada a las grandes bases de datos que generan las transnacionales de la información

  • IA avanzada propietaria-operativa

Desarrollar una IA que se corresponda con el pensamiento de los grandes humanistas

  • IA avanzada colaborativa-enactiva

IA avanzada colaborativa-enactiva, siguiendo el pensamiento de Bateson, Capra y Varela para la descripción de la mente.

 Clasificación y tipos de IA

Presupuestos para una superinteligencia artificial

  • Producto de la velocidad del hardware
  • Una vez que la Superinteligencia artificial (super IA) supere la velocidad del cerebro (ley de Moore) su aceleración será inevitable (singularidad tecnológica)
  • Emergerá una inteligencia superior a la humana

Clasificación histórica de la IA

  1. IA clásica o simbolista. Programas (heurística)
  2. IA estrecha. Sistemas expertos (aplicación)
  3. IA emergente o conexionista. Super IA (aceleración del hardware). Redes neuronales. Era actual
  4. IA general. Retorno a la IA clásica (ciencia cognitiva)
  5. IA evolucionista. Ciencias de la complejidad (transdisciplinar). Próxima era

IA clásica, una IA basada en programas

IA estrecha ante el fracaso de la IA clásica, la IA abandona sus grandes objetivos y se dedica a objetivos más modestos como los sistemas expertos (IA estrecha)

IA emergente. Una IA basada en la velocidad en la mejora de sus componentes. Se basa en programas que aprovechan la velocidad del hardware (más y mejores dispositivos). Donde los programas se van ajustando a las capacidades de los dispositivos.

IA evolutiva parte de la interacción con el entorno y de la auto-organización que se produce

Comparación entre los tipos de inteligencia artificial

IA aislada o IA colectiva

  • Aislada: Resolver cualquier tarea de forma aislada o individual (autónoma o no)
  • Colectiva: Resolver cualquier tarea de forma colectiva (en interacción con los humanos)

IA conexionista o colectivista

  • Conexionista: con los programas (agentes) interactúan entre sí.
  • Colectiva: cuando los programas interactúan con los humanos

IA autónoma y no autónoma

  • IA autónoma: IA encarnada en el entorno humano (ambiente general)
  • IA no autónoma: IA no encarnada que responde a un ambiente especifico (digital)

IA consciente, no consciente de los humanos y autoconsciente

  • Consciente de los humanos: que se insertan en el contexto humano
  • No consciente: cuando dependen de su propio contexto
  • Autoconsciente: cuando adquieren una conciencia propia (consciente o no de los humanos)

Medida humana

Siguen la forma de pensar humana

  • IA cognitiva simular el pensamiento individual
  • IA colectiva simular el pensamiento colectivo
  • IA enactiva simular el pensamiento humano en su evolución (corpóreo)

No sigue la forma de pensar humana

  • IA operativa no simula el pensamiento humano

La tendencia es que los modelos simbólico y conexionista se unan en un solo paradigma (el cognitivista) ya que ambos modelos requieren de una representación de la realidad.

La operativa es cuando no sigue la forma de pensar de los humanos

¿Podrá una IA basada en datos (operativa) tener consciencia propia?

La IA actual está separada de su entorno por lo que no puede valerse por sí misma (sistema autista)

IA centrada en el ser humano

En dependencia de los tipos de IA, sus enfoques y las vías para su desarrollo, surgirán nuevas oportunidades de trabajo y de colaboración, o no surgirá oportunidad alguna y las IAs nos desplazaran

El problema no está en construir una super IA capaz de responder a criterios definidos, sino que esta vaya creciendo, formándose, junto a los humanos y que tanto la IA como los humanos vayan aprendiendo a trabajar de forma colaborativa, por lo que el algoritmo base de esta IA debe ser: la colaboración, la solidaridad, la empatía con los humanos y no las restricciones que hay que tener en cuenta. Para ello se necesita de una nueva relación entre humanos, una relación profunda, en lugar de las relaciones superficiales actuales, que a su vez conduzca a una nueva relación entre humanos y tecnologías. Por lo que desde hoy tendremos que aprender a relacionarnos como humanos para luego saber cómo relacionarnos con la superinteligencia artificial. La IA solo nos podrá desplazar si dejamos de pensar y sentir como humanos.  Si nos devaluamos como humanos y si dejamos que las maquinas realicen todas las funciones humanas basadas en su velocidad de cálculo y su memoria y negamos nuestra intuición y nuestros sentimientos más elevados que nos permiten ver más allá de un algoritmo.

Estamos ante la necesidad de una colaboración transdiciplinar de aceptar la simbiosis humano tecnología (dimensión tecno-bio-psico-social) desde un enfoque sistémico-cibernético que incluya un cambio de mentalidad hacia nuestra fuerza interior; transformación de la estructura social competitiva hacia una colaborativa, la protección del planeta y el surgimiento de una superestructura tecnológica sostenible. Donde se defienda la conservación de la condición humana desde la interacción entre humanos y tecnologías que aprenden el uno del otro y donde se vayan construyendo nuevos conocimientos que nos convierta en humanos más plenos, más sabios y en los forjadores de nuestro destino.

Esto lleva a profundos cambios y a una nueva educación que priorice la necesidad de aprender a manejarse con las tecnologías que están emergiendo y la sabiduría que debemos alcanzar, ya que el problema no es construir una IA amigable sino enseñar a la IA a que se amigable, pero primero tenemos nosotros que aprender a ser amigables y a perseguir intereses altruistas y solidarios. Se necesita de un nuevo enfoque que más que construir una inteligencia artificial persiga amplificar la inteligencia humana y no solo la inteligencia sino también nuestros propios valores, aquellos de los que todos vivimos orgullosos.

4 pensamientos en “Fundamentos para una IA centrada en el ser humano

  1. Buen articulo, aunque creo que te refieres realmente a Kai Fu -Lee (exdirectivo de Google en China y actualmente presidente de Sinovation Ventures y autor de: AI Superpowers: China, Silicon Valley, and the New World Order.
    respecto a tu párrafo:
    […] Para ello se necesita de una nueva relación entre humanos, una relación profunda, en lugar de las relaciones superficiales actuales, que a su vez conduzca a una nueva relación entre humanos y tecnologías. Por lo que desde hoy tendremos que aprender a relacionarnos como humanos para luego saber cómo relacionarnos con la supe inteligencia artificial.[…]
    Totalmente de acuerdo contigo, es mas, es el area en la que estoy trabajando en mi blog, y te invito a que le eches un vistazo: te dirijo al ultimo articulo publicado hoy pero no el ultimo sobre empatía e I.A. allí encontraras los enlaces a los anteriores artículos. por si te animas a leerlos todos: https://www.empatiaeia.com/empatia-iii/
    Atte : Eugenio Criado.

    Me gusta

      • Gracias,,,, se me metió entre ceja y ceja a Kai Fu Lee, y no me entraba otro posible nombre, y eso que China ya es prácticamente líder en IA, y nombres similares habrá un montón, ha sido un fallo por mi parte.
        Estoy suscrito a la HAI también, y la había visto, pero no había reparado en su nombre.

        Me gusta

      • Muy interesante el artículo, soy un defensor de la cibernética, olvidada por muchos, por eso me gustó la comparación de los ordenadores con los procesos de homeostasis, la cual esta presente en los seres vivos y los no vivos, así como la auto-organización, la retroalimentación y otros muchos conceptos más, nacidos de la cibernética. Nos seguiremos leyendo.

        Me gusta

Responder

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Cerrar sesión /  Cambiar )

Google photo

Estás comentando usando tu cuenta de Google. Cerrar sesión /  Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Cerrar sesión /  Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Cerrar sesión /  Cambiar )

Conectando a %s