Policía e Inteligencia Artificial: Un riesgo para el activismo político

La policía de West Midlands (Reino Unido) y de Amberes (Bélgica) se están sirviendo de tecnología de inteligencia artificial para abordar la creciente preocupación que despierta la inseguridad y la delincuencia en toda Europa. El proyecto financiado con fondos de la Unión Europea VALCRI ha desarrollado varios ensayos en los que se emplearon tres años de datos anónimos sobre delitos que abarcaron cerca de 6,5 millones de registros.

El sistema de VALCRI ejecuta un análisis de la escena del delito escaneando en cuestión de segundos millones de fuentes de información de distintos formatos, como registros, interrogatorios e imágenes. Además, detecta patrones sospechosos y reconstruye escenas para sacar a relucir líneas de investigación prometedoras y presentar los hallazgos a los analistas en pantallas táctiles interactivas.

Esta metodología podría eliminar las tareas más laboriosas y lentas para los analistas y así dejarles tiempo para investigar y preparar casos con mayor velocidad y precisión. Es más, se espera que el sistema sea capaz de identificar conexiones que podrían pasar desapercibidas a los humanos debido a errores o sesgos.

Para despejar las dudas que pudieran surgir en cuanto a la sustitución de los sesgos humanos por otros artificiales, el sistema es completamente transparente y es posible analizar cada uno de los pasos dados en su razonamiento.

Análisis visuales e IA

VALCRI (Visual Analytics for Sense-making in CRiminal Intelligence analysis) aprovecha lod progresos alcanzados en inteligencia artificial y los combina con análisis visual para lograr una interacción analítica entre los datos en tiempo real. El sistema también se sirve de software de reconocimiento facial para detectar e identificar a personas concretas a partir de fuentes como las cámaras de circuito cerrado de televisión.

En un artículo  publicado por New Scientist, el profesor William Wong, de la Universidad de Middlesex, explica: «Todo el mundo piensa que la labor policial consiste en unir los puntos, pero esa es la parte sencilla; la parte difícil es la de determinar qué puntos deben conectarse».

Representación de un “Machine Learning”. Crédito: Tom Tunguz

Hoy en día, uno de los primeros pasos que se dan en las investigaciones es repasar las bases de datos policiales en busca de incidentes similares. Se pueden establecer conexiones en función de criterios como el momento, las personas involucradas, la ubicación o características definitorias como por ejemplo el modus operandi.

Otro miembro del proyecto, la investigadora Neesha Kodagoda, también citada en el artículo de New Scientist, señala que: «un analista con experiencia precisa realizar setenta y tres búsquedas para obtener toda esta información y después tratarla manualmente en un formato aceptable. VALCRI realiza esta tarea en un golpe de ratón».

No obstante, otras tecnologías de inteligencia artificial anteriores no han logrado realizar conexiones entre algunos fenómenos obvios para los seres humanos. Por ejemplo, la fraseología descriptiva suele ser subjetiva y variada; así, palabras como sucio o desaseado suelen describir prácticamente la misma situación.

Algoritmo avanzado

Ahora, un algoritmo avanzado permite que el sistema establezca relaciones conceptuales mejores. VALCRI también integra capacidades de aprendizaje automático, lo que supone que sus capacidades analíticas mejoran al suministrarle datos y exponerlo a perfiles delictivos.

Los investigadores consideran que los resultados analíticos presentados en las pantallas táctiles pueden describirse como un «espacio de trabajo razonado». Este espacio cuenta con tres zonas que permiten interactuar con los datos disponibles, el análisis informático de los datos (que puede incluir datos importados) y las conclusiones resultantes generadas a partir de los indicios obtenidos.

Al permitir modificar y organizar los datos seleccionándolos y arrastrándolos a distintos puntos de la pantalla, el proceso es más intuitivo que otras fuentes tradicionalmente más estáticas, como las listas. De este modo, el sistema fomenta la resolución de problemas y la extracción de sentido de un modo más imaginativo, creativo e informativo. Además, las investigaciones pueden presentarse en distintos formatos visuales como mapas o gráficos.

Posibles limitaciones legales

Existe un amplio consenso en cuanto a lograr que VALCRI evolucione un paso más allá en su desarrollo, pero para ello es necesario suministrar al sistema datos no anónimos generados en una investigación en curso, lo cual despierta una serie de dudas.

Desde el punto de vista jurídico, el empleo del sistema podría ponerse en entredicho ante un juez, lo cual invalidaría su utilidad en causas penales. Además, en el caso de investigaciones internacionales, cada país posee sus propias leyes de protección de datos, lo que obstaculiza la difusión de información confidencial útil.

Un peligro para el activismo en México

En contextos como los que se viven en nuestro país, es previsible que estas tecnologías se utilicen para recrudecer el clima de persecución política y no para mejorar sistemas de impartición de justicia. En este sentido, es importante actualizarnos al respecto para mejorar la organización entre activistas y trazar respuestas posibles ante estos escenarios.

Una de las debilidades más grandes en torno al trabajo político, es la falta de seguridad digital. El uso inconsciente de plataformas de comunicación pone en riesgo a la red ciuadana (aunque sólo en algunos de sus nodos) que se está formando para confrontar el tejido de corrupción e impunidad que caracteriza al sistema.

La protección de datos confidenciales debe ser una responsabilidad de aquellas personas que se comprometan a la transformación del país. Iniciar con una revisión de nuestros hábitos al navegar por la web es fundamental y para eso podemos aprovechar herramientas como Security in a Box. Hoy, ante el clima de violencia institucional que vivimos, es urgente aplicar la mayor cantidad de recomendaciones de seguridad para nuestros periféricos, sin caer en paranoias, acercarse a proyectos que trabajan estas cuestiones en específico (hacklabs) y entender que si nos lo proponemos, siempre podremos apropiarnos de estas tecnologías, transformarlas y aplicarlas en beneficio de nuestras comunidades.

Para más información sobre Valcri: 

  • http://valcri.org/our-content/uploads/2017/02/VALCRI-WP-2017-011-Interactive-Visual-Dimension-Reduction.pdf
  • http://valcri.org/our-content/uploads/2017/02/VALCRI-WP-2017-010-Operationalisation-Legal.pdf

Con información de Tendencias21.

Previo

La memoria no es estable y quizá tus recuerdos son falsos

Siguiente

Las poetas que están rompiendo la escena del Slam Poetry Mexicano