Los objetivos mundiales y la necesidad de una IA centrada en el ser humano.

Etchemendy y Fei-Fei Li, codirectores del Instituto para una IA centrada en el ser humano

Tenemos que definir los objetivos que queremos incorporar al sistema de IA para que interpreten estos valores como nos gustaría que fueran interpretados” (Bostrom)

Siguiendo al filósofo Nick Bostrom, quien afirma que estamos ante la transición hacia la era de la inteligencia artificial (IA) y que se necesitan de objetivos internacionales para lograr una transición satisfactoria. Pero no se puede ignorar que Bostrom da por hecho el surgimiento de una Superinteligencia artificial  (super IA), ver Nick Bostrom: la amenaza de una superinteligencia artificial), y son muchos los que consideran que la super IA nunca sucederá y se cuestionan, el hecho,  que las IA hasta la fecha no han sido capaces de resolver múltiples tareas y sigue pendiente el sueño de una IA general, en cambio, y, en gran parte, producto de la pandemia se ha suscitado un nuevo interés por concretarse en aplicaciones que resuelvan problemas de la vida real que este más acorde con las realidades humana, por lo que se habla de una IA centrada en el ser humano, que siga los valores humanos o el de una IA para el bien capaz de producir el mayor bien posible.

Veamos alguno de los proyectos internacionales y objetivos que se están fraguando alrededor de  la IA. Comenzaremos por las Naciones Unidas.

Las Naciones Unidas

Siguiendo el objetivo de desarrollo número 17 propone lo siguiente: “Alianzas para el cumplimiento de los objetivos. Las Naciones Unidas están empezando a desempeñar un papel fundamental para reunir a los gobiernos, la industria, las instituciones académicas y la sociedad civil con vistas a examinar el desarrollo responsable de la IA centrada en el ser humano a fin de resolver los grandes retos de la humanidad”.

Se habla del desarrollo responsable de una IA centrada en el ser humano que pueda resolver los grandes retos de la humanidad y se pide trabajar juntos para alcanzar objetivos importantes y no únicamente las típicas aplicaciones que buscan las empresas (centradas en las ganancias)

La UNESCO

Por su parte la Unesco, “en respuesta a las grandes transformaciones de nuestras sociedades debido a la IA, la UNESCO, como laboratorio global de ideas, creador de normas, asesor de políticas y creador de capacidad, desempeñará un papel de liderazgo en la facilitación de la cooperación internacional y en la configuración de su futuro. El mandato de la UNESCO exige inherentemente un enfoque centrado en el ser humano para la IA; para cambiar la conversación para incluir el papel de AI en el tratamiento de las desigualdades actuales relacionadas con el acceso al conocimiento, la investigación y la diversidad de las expresiones culturales, y para garantizar que la IA no amplíe las divisiones tecnológicas dentro y entre los países. La promesa de “IA para todos” debe ser que todos puedan aprovechar la revolución tecnológica en curso y acceder a sus frutos, especialmente en términos de innovación y conocimiento”.

Los objetivos giran en torno a una IA para todos que se inserte en la realidad mundial de pobreza, desigualdades injusticia.  Que no aumente la brecha digital, sin sesgos sociales. Para ello se aspira a una IA centrada en el ser humano. Por otra parte, las aplicaciones beneficiosas solo van a resolver un parte del problema y no creo que las transnacionales renuncien a su visión de controlar el mercado ni que dejen de desarrollar aplicaciones con ese fin.

También dice: “La inteligencia artificial es la nueva frontera de la humanidad. El principio que la rige no es llegar a ser autónoma ni sustituir a la inteligencia humana, pero debemos asegurarnos de que se desarrolle a través de un prisma humanista”, afirma Audrey Azoulay, Directora General de la UNESCO”.

Pienso que el problema no es que sea autónoma o que sea “cognitivamente” igual o más inteligente que los humanos (existen muchos tipos de inteligencia). En realidad, el problema está en la sinergia que se ira produciendo entre humanos y tecnologías. Ver Relación simbiótica entre humanos y tecnologías (1)

La Unesco, siguiendo la idea de los principios de Asilomar, propuso un proyecto de recomendación a la comunidad internacional y para su examen introduce una serie de conceptos clave:

  • Proporcionalidad: las tecnologías de IA no deben exceder los límites preestablecidos para alcanzar metas u objetivos legítimos y deben adaptarse al contexto de su uso;
  • Supervisión y determinación humanas: Los humanos son ética y legalmente responsables de todas las etapas del ciclo de vida de los sistemas de IA;
  • Gestión medioambiental: Los sistemas de IA deben contribuir a la interrelación pacífica de todos los seres vivos y respetar el entorno natural, especialmente en la extracción de materias primas.
  • Igualdad de género: Las tecnologías de la IA no deben reproducir las brechas de género que existen en el mundo real, en particular en lo que respecta a los salarios, la representación, el acceso y la difusión de estereotipos. Es necesario adoptar medidas políticas, incluida la discriminación positiva, para evitar estos grandes escollos.

Con respecto a la ética, primero habría que crear principios éticos universales basado en verdaderos valores humanos. Son de gran valor los principios de Asilomar que que incluyo a continuación:

 Los Principios Asilomar para la IA

Meta de la investigación: el objetivo de la investigación de la IA debería ser crear inteligencia beneficiosa.

Financiación de la investigación: la inversión en IA debería ir acompañada de fondos para investigar en asegurar su uso beneficioso.

Enlace entre ciencia y política: debería haber un intercambio constructivo y sano entre los investigadores de IA y los legisladores.

Cultura de la investigación: una cultura de cooperación, confianza y transparencia debería ser fomentada entre los investigadores y desarrolladores de IA.

Evitar las carreras: los equipos que estén desarrollando sistemas de IA deberían cooperar activamente para evitar chapuzas en los estándares de seguridad.

Seguridad: los sistemas de IA deberían ser seguros a lo largo de su vida operativa, y verificables donde sea aplicable y posible.

Transparencia en los fallos: si un sistema de IA causa daño debería ser posible determinar por qué.

Transparencia judicial: cualquier intervención de un sistema autónomo en una decisión debería ir acompañada de una explicación satisfactoria y auditable por parte de una autoridad humana competente.

Responsabilidad: los diseñadores y desarrolladores de sistemas avanzados de IA son depositarios de las implicaciones morales de su uso, mal uso y acciones.

Alineación de valores: los sistemas de IA deberían ser diseñados para que sus metas y comportamientos puedan alinearse con los valores humanos.

Valores humanos: los sistemas de IA deberían ser diseñados y operados para que sean compatibles con los ideales de dignidad humana, derechos, libertades y diversidad cultural.

Privacidad personal: la gente debería tener el derecho de acceder, gestionar y controlar los datos que generan, dando a los sistemas de IA el poder de analizar y utilizar esa información.

Libertad y privacidad: la aplicación de la IA a los datos personales no puede restringir de forma poco razonable la libertad, real o sentida, de las personas.

Beneficio compartido: las tecnologías de IA deberían beneficiar y fortalecer a tanta gente como sea posible.

Prosperidad compartida: la prosperidad económica creada por la IA debería ser compartida ampliamente, para el beneficio de toda la Humanidad.

Control humano: los seres humanos deberían escoger cómo y si delegan decisiones a los sistemas de IA para completar objetivos escogidos previamente.

Sin subversión: el poder conferido por el control de sistemas de IA altamente avanzados debería respetar y mejorar, más que subvertir, los procesos sociales y cívicos de los que depende la salud de la sociedad.

Carrera armamentística: debería ser evitada cualquier carrera armamentística de armas autónomas letales.

Capacidad de precaución: al no haber consenso, deberíamos evitar las asunciones sobre los límites superiores de las futuras capacidades de la IA.

Importancia: la IA avanzada podría representar un profundo cambio en la historia de la vida en la Tierra, y debería ser planificada y gestionada con el cuidado y los recursos adecuados.

Riesgos: los riesgos asociados a los sistemas de IA, especialmente los catastróficos o existenciales, deben estar sujetos a planificación y esfuerzos de mitigación equiparables a su impacto esperado.

Automejora recursiva: los sistemas de IA diseñados para automejorarse recursivamente o autorreplicarse de una forma que pudiera llevar al rápido incremento en su calidad o cantidad deben estar sujetos a unas estrictas medidas de control y seguridad.

Bien común: la superinteligencia debería ser desarrollada sólo en servicio de unos ideales éticos ampliamente compartidos y para beneficio de toda la Humanidad, más que para un Estado u organización

Pienso que estos principios podrían convertirse en la base para el desarrollo de una IA beneficiosa y deberían ser tenidos en cuenta a la hora de elaborar políticas sobre la IA

Continuando con los objetivos para el desarrollo de una IA avanzadas

El Instituto para la INTELIGENCIA ARTIFICIAL centrada en el ser humano.

Tiene como objetivo:

“El objetivo es generar debates y estudios que no estén monopolizados por los técnicos (centrado en la investigación), y que ostenten autoridad académica y política suficiente para dictar la ley en el desarrollo de la IA”,

¿Dictar una ley para el desarrollo de la IA? Como si el desarrollo de la IA fuese posible solo por una vía. Queremos utilizar a las tecnologías para hacer lo bueno y no lo malo. ¿Ahora quien determina lo bueno y lo malo? Podemos afirmar que existen vías que nos conducirán al desarrollo de una IA fuera de control. No creo posible que el desarrollo de una IA dentro del paradigma vigente representacioncita, pueda estar centrada en los humanos, más bien están centradas en la computación. Estamos hablando de una visión tecnologista y de sus vías para desarrollar un progreso tecnológico donde los humanos, en su mayoría,  son considerados meros usuarios de las tecnologías.

Que dice el mundo empresarial

“Los expertos en IA insisten en que los debates en torno a las implicaciones de la IA para la sociedad no deben reducirse a los especialistas, punto en el que coincide la UIT y principal motivo por el que ésta decidió iniciar la serie de cumbres AI for Good. Todos los gobiernos, todas las empresas, todas las instituciones académicas, todas las organizaciones de la sociedad civil y todos nosotros tenemos que considerar de qué manera afectará la IA a nuestro futuro”.

“Son cada vez más las empresas que buscan la manera de aprovechar la IA en beneficio del bien social. Algunas de las empresas con mayor valor de mercado del mundo (Apple, Google, Microsoft, Amazon y Facebook) participan en la iniciativa Partners hipon AI para el beneficio de las personas y la sociedad, adoptando una posición sostenible y de futuro en materia de IA”.

Por su parte, “IBM lanzó su programa Watson for Social Good destinado a ayudar a las organizaciones a aprovechar la inteligencia artificial (IA) para lograr un mundo mejor”.

Queremos lograr un mundo mejor precisamente dentro de un mundo basado en la hegemonía, la competencia y el individualismo.

Terminamos con el país más poderoso del mundo

La necesidad de una política y un plan nacional para los Estados Unidos

“Estados Unidos necesita un marco de IA centrado en el ser humano que guíe una política y un plan nacional, un marco basado en nuestros valores estadounidenses compartidos de igualdad, oportunidad y agencia: la IA debería mejorar la condición humana. Este nuevo marco debe priorizar la inclusión y la colaboración interdisciplinaria”.

No me queda claro si se refiere a una IA centrada en el ser humano o en los valores norteamericanos.

Con respecto a la amenaza de la IA dicen lo siguiente:

“¿La verdadera amenaza? La mayor parte del mundo, incluido Estados Unidos, no está preparado para cosechar muchos de los beneficios económicos y sociales que ofrece la IA o mitigar los riesgos inevitables. Llegar allí llevará décadas. Sin embargo, las aplicaciones de IA están avanzando más rápido que nuestras políticas o instituciones en un momento en que la ciencia y la tecnología están siendo subfinanciadas, con poco apoyo e incluso desafiadas”

Mientras las transnacionales se dan el lujo de financiar proyecto tecnocientíficos de largo alcance.

Para terminar, veamos la posición del Director de Tecnología de los Estados Unidos, Michael Kratsios. En su opinión, los mercados decidirán el destino de la IA y, por lo tanto, del mundo. Y asume que los gobiernos federales, estatales y locales deberían aflojar los lazos de regulación y permitir a las compañías estadounidenses desarrollar y escalar ambiciosamente productos basados ​​en inteligencia artificial, porque la tecnología que gane en el mercado global tendrá el poder de difundir su ética en todo el país y en el mundo. “Si los EE. UU. Pueden continuar siendo líderes en inteligencia artificial, podemos asegurarnos de que los valores que valoramos tanto sean los que respaldarán el desarrollo a nivel mundial”.

Sin comentarios

Podemos decir que en su mayoría existe un intento por desarrollar una IA centrada en el ser humano. ¿Sera suficiente? Aún falta mucho camino por recorrer y solo estamos en la primera fase, la de las aplicaciones beneficiosas, pero, aun no existe consensó sobre el desarrollo de una IA avanzada ni las vías para lograrla.

 

 

 

Responder

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Salir /  Cambiar )

Google photo

Estás comentando usando tu cuenta de Google. Salir /  Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Salir /  Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Salir /  Cambiar )

Conectando a %s