La Inteligencia Artifical: ¿Muerte de la diferencia?

Por Ludwig Gerardo Rubio Jaime ¹Texto originalmente publicado en el portal DATALUD

La Inteligencia artificial se ha convertido en la nueva panacea de la religión científica, y como no va a serlo si desde sus entrañas parece ser el mejor acercamiento del humano de recrearse a sí mismo, el paso faltante a reafirmar que lo que llamamos inteligencia es tan inteligente que nos re-crea; somos capaces de entrenar la inteligencia, corregirla, probarla, y liberarla, incluso es más inteligente que cualquier de nosotros los humanos, pues para tomar una decisión, utiliza datos de cientos, miles y con suerte, millones de observaciones antes recolectadas por otros humanos, sensores y máquinas.

¿Qué es la inteligencia artificial?

La inteligencia artificial es la simulación de la inteligencia humana, es el resultado de la intersección de la computación, las matemáticas en general, y otras ramas de la ciencia. Es el uso de algoritmos que permiten optimizar, mejorar o simplificar la toma de decisiones, que son capaces de categorizar algo por sus atributos, incluso, de crear algo nuevo imitando lo creado por el humano.

Existen cientos de definiciones de lo qué es y no es la Inteligencia Artificial, no es el objetivo de este artículo profundizar en su definición, pero es necesario saber que ella se encuentra inmersa en muchos de los que hacemos en nuestro día a día; en los productos que encuentras en las compras del supermercado, en los colores, diseños y telas de la ropa que vistes, en la información que lees en Internet, incluso en qué publicaciones y de qué amigos verás hoy en tus redes sociales. También está presente en los procesos que rigen la estabilidad económica y política de un país, en decisiones del sector financiero, la banca,  está presente en el diagnóstico de enfermedades, e incluso en la creación de cuadros, música y esculturas de forma automatizada.

Actualmente, ya existe un debate amplio en torno al tema de la inteligencia artificial, se cuestiona la importancia de la ética en su creación, su diseño centrado en el humano, la justicia algorítmica, o su implicación en usos malignos como la suplantación de identidad, la clonación de documentos o la creación de contenido falso, pero poco he visto que se le cuestione desde raíz, ¿de dónde viene los datos que permiten la inteligencia artificial?

¿Robots asesinos?: Hasta los “buenos robots” son terroríficamente impredecibles

_____

_____

La raíz

Los datos son llamados el petróleo del siglo XXI, y el sobrenombre es de lo más atinado, al igual que profundizamos en las alternativas del petróleo como fuente de energía, deberíamos cuestionar de dónde vienen los datos, cuál es su impacto ecológico, qué conflictos bélicos y sociales se suscitan por el control de reservas y qué otras alternativas existen.

Los científicos de datos tenemos una frase que escuchamos y decimos a menudo: “Si basura entra, basura sale”.  Hacemos referencia a que no importa que tan sofisticado, complejo u optimizado esté un algoritmo, si los datos de entrada son basura, basura obtendremos de regreso.

Los algoritmos creados por el ser humano tiene siempre un sesgo, reflejan los valores humanos que están implicados en la recolección y codificación de los datos, y en torno a este tema existe ya una gran discusión entre la industria, los gobiernos y los investigadores, sin embargo, lo que busco poner a la vista aquí, es que aunque se hagan esfuerzos por eliminar el sesgo algorítmico, tendríamos que comenzar por cuestionarnos el sesgo de cualquier dato recolectado, no solo en el proceso de recolección y codificación, sino en el proceso mismo de definición.

Todo dato que es entrada y salida de un algoritmo de IA, está definido en términos de la cultura occidental.

La Inteligencia Artificial reproduce prejuicios sexistas y raciales

La Cultura Occidental

Vamos a comenzar por cuestionar uno de los ejemplos más sencillos que se suelen usar en la ciencia de datos, las aseguradoras.

Una aseguradora tiene como objetivo “mutualizar riesgos compartiendo el riesgo de un cliente con el de otras muchas personas expuestas al mismo tipo de riesgo”, este riesgo puede ser desde la pérdida de una casa, el robo de un automóvil, o hasta la pérdida de la vida, regularmente las aseguradoras utilizan algoritmos con los que pretenden predecir el riesgo de otorgar una prima a sus clientes, es muy normal que para este algoritmo un científico de datos comience a pensar en los posibles datos personales y socio-económicos que podría utilizar para esto: sexo, edad, historial crediticio, ingreso anual, etc.

Pero no nos detenemos a pensar en que para recolectar todos estos datos tenemos un conjunto de precondiciones culturales históricas para la definición de dichos datos.

Detengamos un poco el acelerador; ¿Qué otras diversidades de inteligencia existen en el mundo? ¿De qué forma el pensamiento del oriente, la sabiduría ancestral y otras formas de relacionarnos con el entorno podrían cambiar la forma de definir, recolectar, interpretar y modificar los efectos de los datos en los algoritmos de IA?

El algoritmo de la aseguradora asignará una prima a un hombre joven, con excelente historial crediticio y con un ingreso anual elevado, por qué es lo que ha aprendido de nuestra cultura como positivo.

La creación de algoritmos que utilizan, aprenden y replican el sesgo cultural de los datos puede significar no sólo la perpetuación ciega de una sola forma de inteligencia, sino la inevitable muerte de la diferencia.

¿Qué pasaría si nuestra inteligencia inicial partiera de la inteligencia de los pueblos indígenas de Norteamérica y entonces tuviéramos 5 sexos distintos? ¿Qué pasaría si la edad fuera en realidad la sabiduría, y ser anciano no se midiera en términos de “productividad” sino de respeto y conocimiento compartido? ¿Qué pasaría si en ves de ingreso anual, tuviéramos un dato que fuera capaz de contar todas las barreras sociales que se le han impuesto para lograr un excelente sueldo? ¿Qué pasaría si en vez de guardar historial crediticio, almacenaremos un historial de acciones por el bien común?

Probablemente un anciano de bajos ingresos económicos y que ha trabajado toda su vida por el bien común, podría ser el candidato perfecto para que se le otorgue una prima… ¿Te suena raro? Probablemente por que no es parte de nuestra cultura, así como tampoco es parte de la cultura de negocio del capital.

Policía e Inteligencia Artificial: Un riesgo para el activismo político

Muerte a la diferencia

La inteligencia; la capacidad de entender, solucionar problemas, tomar decisiones o generar información, no solo es humana, mucho menos sólo occidental,  la creación de algoritmos que utilizan, aprenden y replican el sesgo cultural de los datos puede significar no sólo la perpetuación ciega de una sola forma de inteligencia, sino la inevitable muerte de la diferencia.

Todo aquello que no sea absorbido, morirá reprimido por la toma de decisiones de IA al igual que actualmente lo causan las decisiones humanas. Si dejamos que la ciencia de datos se reproduzca con la tendencia actual, habremos dado el golpe final a la diversidad. La IA  está logrando transferir la responsabilidad de la toma de decisiones de un humano a una máquina, el sueño de cualquiera que desea perpetuar su forma de pensar sin tener consecuencias.

La Inteligencia Artificial ya está aquí, y requerimos de comprenderla a fondo y más allá de nuestra propia cultura para no ser co-responsables de la muerte de la inteligencia diversa, la misma inteligencia que ahora mismo nos permite continuar habitando este planeta, pues inteligencias comunitarias, rurales e indígenas son las única que han logrado preservar millones de hectáreas de bosques y selvas con las cuales resistir la inmensa huella ecológica occidental.

Al igual que deberíamos de cuestionarnos la que de facto es ya una artificial inteligencia occidental, que por ejemplo, piensa y usa a los animales como objetos y a los árboles como recursos, deberíamos comenzar a cuestionar si nuestra cultura es la base adecuada para desarrollar la Inteligencia Artificial, y si no nos encontramos en el irrepetible momento de integrar otras realidades que nos permitan una Inteligencia Artificial Diversa.

Esta entrada es parte de los textos de la Red Latinoamericana por la Ciencia Comunitaria | Para más textos sobre Inteligencia Artificial y Ciencia de Datos ingresa al portal DataLud