Buscar
  • Susan Verdiguel Anzures

El secreto que pocos comparten: democratización en la inteligencia artificial

Para garantizar que la Inteligencia Artificial (IA) alcance su potencialidad, se dice que se debe democratizar como tecnología y así evitar que sea un factor más de desigualdad. Sin embargo, la democratización de IA va más allá de solo hacerla accesible para todos.



Particularmente en este año 2020, la humanidad se ha tenido que enfrentar con los cambios más desafiantes de la era digital, un panorama de cambio constante y mucha incertidumbre. A su vez, tanto pequeñas como grandes organizaciones han tenido que trabajar duro para encontrar las oportunidades del mercado, han tenido que renovar estrategias para innovar de manera emergente y así poder responder ante la crisis. Pero también con ello, han podido explorar nuevas formas de operar e impulsar el crecimiento en las diferentes regiones del mundo y han podido adoptar nuevas tecnologías a sus procesos. Las empresas que estén preparadas para pivotar constantemente, son aquellas que resistirán a los futuros cambios abrazando las tendencias tecnológicas y adaptándolas a sus estrategias.


Por otro lado, COVID-19 ha expuesto la enorme desigualdad de ingresos y oportunidades que afectan al mundo actual. El acceso a la tecnología y la capacidad de interactuar con ella exacerban estas brechas aún más, tanto a nivel individual como corporativo. A medida que la IA hace que las empresas sean más eficientes y elimina la necesidad de algunos tipos de trabajos, la riqueza seguirá acumulándose alrededor de pequeños grupos de personas y dejará a otros atrás. Ya se han generado nuevas perspectivas de cómo esta tecnología debería ser “aprovechada” por los seres humanos y las diferentes sociedades a nivel mundial sin embargo, se percibe que sólo está beneficiando a unos pocos.


También en este año ha resonado la lucha por hacer más accesible las tecnologías y no dejar a nadie atrás. El discurso de las organizaciones hacia la “Democratización de IA” no tiene semejanza con la toma de decisiones colectivas o la igualdad en los procesos de construcción. Cuando se habla de “democratización” en general, se refiere al proceso de desarrollo de las instituciones sociales liberales que conducen al fortalecimiento de la sociedad civil, resguardo de los derechos humanos básicos y la disminución de las desigualdades socio-económicas (RAE). También existe otro término referido hacia la democratización del trabajo y está muy relacionada con conceptos como la adhocracia donde todos los miembros de una organización o grupo tienen autoridad para tomar decisiones.


Cuando se hace referencia a la democratización de IA, muchas veces se confunde con el término de la democracia, pero esta última implica la toma de decisiones grupal caracterizada por la igualdad de un grupo o comunidad. Entonces, ¿Tiene algo que ver la democratización de la tecnología con la democracia? La respuesta es no. En los últimos años, los gigantes tecnológicos se han sumado a un movimiento de liberalismo económico, en el que está basado por una “economía abierta” en el cual hace resaltar el optimismo y el entusiasmo en la lucha global por la libertad del uso las tecnologías pero sobre todo que estas sean accesibles para todo el mundo. Este es un enfoque “liberal” del proceso de democratización.


La igualdad que podría constituirse con esta tecnología es meramente en su uso. Y lo preocupante, es la manera como se están diseñando los sistemas de IA que no toman en cuenta las decisiones colectivas, y las soluciones no son de todos para todos. Ni los usuarios, ni los destinatarios son incluidos en el ciclo de investigación, diseño, desarrollo, aplicación y resolución. Además, para que exista democracia debe de haber regulación, y hoy en día son pocas las organizaciones con principios éticos hacia el uso responsable de la misma.


Sin embargo, en la democracia se aplica “una distribución equitativa tanto de las protecciones como de las oportunidades de influencia en las decisiones colectivas”, ¿En qué etapa del ciclo de IA se toma en cuenta eso? Es por ello, que hoy en día la IA arroja una serie de problemáticas que está poniendo en foco rojo al mundo, tales son, los problemas de sesgos en los conjuntos de datos y en los algoritmos, la falta de diversidad en los grupos que la desarrollan, la minoría de mujeres dentro del campo, la discriminación por género, raza o hacia comunidades marginadas; en cuanto atención médica, préstamos, oportunidades laborales, por mencionar unas cuantas.


Las decisiones de los sistemas de IA solo son decisiones de alguien sobre una persona, pero sin contemplar a esa persona, y ninguno de nosotros está involucrado en la creación de esas decisiones. Es decir, que la democratización de IA no tiene absolutamente nada que ver con la igualdad, distribución equitativa o autorregulación. No cabe duda de que la IA ha sido un gran avance tecnológico pero también una peligrosa variedad de cuestiones morales; contemplando a la humanidad y su comprensión por cómo funciona esta tecnología, todavía queda mucho por explorar y entender.


Ahora bien, cuando se habla de hacer más accesible la IA hacia el mundo y minorías, se centra en brindar a las personas los conocimiento técnicos para fortalecer las habilidades requeridas para una era completamente tecnológica, un empoderamiento intelectual que vaya responsabilizado del saber que hacer con ello; así como experiencia de las empresas y las industrias para prosperar sin una formación extensa y costosa. Es importante señalar que el objetivo de la tendencia hacia la democratización de la Inteligencia Artificial podría ser cualquier persona dentro o fuera de una organización en particular, incluidos a los clientes, los socios, ejecutivos corporativos, vendedores, trabajadores, desarrolladores de aplicaciones, profesionales de otras áreas, etc.


Hay cuatro aspectos clave de la tendencia a la democratización que se están acelerando en 2020 hasta 2023 según Gartner, y son: la democratización del desarrollo de aplicaciones, la democratización de datos y análisis, la democratización del diseño de IA y la democratización del conocimiento. Y según Gartner, para 2022, al menos el 40% de los nuevos proyectos de desarrollo de aplicaciones tendrán co-desarrolladores de inteligencia artificial sus equipos. ¿Qué significa esto? Va dirigido hacia otra tendencia de la democratización de IA, con las plataformas open-source que darán apertura a una nueva era de “acceso ciudadano”, es decir, que las personas no profesionales podrán tener un mejor acercamiento a las diferentes herramientas para la creación de aplicaciones impulsadas por plataformas non-code. Un ejemplo de ello, es el modelo de lenguaje autorregresivo, aceptado por los entusiastas de PLN en el laboratorio de IA respaldado por Elon Musk, OpenIA, llamado GPT-3, que impulsa un nuevo modelo de flexibilidad que permitirá a los no desarrolladores crear soluciones innovadoras sin necesidad de ser expertos.


Más allá del optimismo y sin llegar a la ciberutopía, la democratización de IA tiene su lado positivo y su lado negativo, si bien, puede permitir el empoderamiento de los ciudadanos, de los trabajadores, de grupos vulnerables, de las industrias para adaptarse más rápido e impulsar nuevas soluciones; desde el otro extremo de la perspectiva o del lado oscuro de la IA. La democratización podría conllevar a consecuencias en que las personas sin experiencia, sin capacitación y sin una formación que integre su uso ético y responsable y sobre todo los daños que puede causar, puedan liberar herramientas poderosas que terminan causando más daños.


Si se quiere crear un mundo más equitativo, se debe abordar la creciente brecha de inteligencia artificial que existe a nivel mundial. Un buen comienzo para hacerlo, es fomentar la educación en IA con sus respectivas oportunidades y retos, con la finalidad de mejorar su comprensión de manera pública, la confusión popular sobre la adopción de esta tecnología destaca la necesidad de una mayor comprensión sobre qué es y cómo funciona, sin embargo, la alfabetización de la misma, no es suficiente para erradicar el problema. La IA funciona con datos y por consecuencia también se debe de desarrollar una comprensión de la captura de datos y la gobernanza. El mal entendimiento sobre IA genera miedo y apatía que se traduce en una mala adopción. Y por último, si se habla de democratización se necesita aumentar la conciencia de que va más allá del acceso a todos y que conlleva una responsabilidad mayor. Para lograr soluciones tecnológicas verdaderamente revolucionarias, se necesita un gama amplia de personas en todas las disciplinas para comprender, interactuar y utilizar esta tecnología.


25 vistas0 comentarios