El Turco Mecánico: Como la IA contamina la valiosa aportación humana

La utilización de trabajadores remotos conocidos como “turcos mecánicos”¹El término “turk” se deriva de un autómata de ajedrez del siglo XVIII que derrotaba a jugadores en toda Europa, incluyendo a personajes como Napoleón y Benjamin Franklin. Los jugadores engañados nunca supieron que detrás de la máquina había un experto humano en ajedrez. se popularizó a principios de este siglo como una forma de combinar la perspectiva humana con el poder de procesamiento digital en tareas computacionales complejas.

Sin embargo, un reciente estudio realizado por investigadores de la Universidad EPFL en Suiza revela que estos trabajadores ahora están recurriendo a contenido generado por inteligencia artificial (IA) para completar sus tareas, dando lugar a lo que han denominado “inteligencia artificial artificial artificial”.²En el cambio de siglo, Jeff Bezos popularizó el uso de los “mechanical turks”, trabajadores de bajos salarios que realizaban tareas sencillas de proyectos informáticos, para aportar una perspectiva humana en aquellas tareas que resultaban perplejas para las computadoras. Este concepto de combinar la capacidad del cerebro humano con la inteligencia digital se denominó “inteligencia artificial artificial”.

Aunque el término puede sonar curioso, los investigadores plantean preocupaciones serias al respecto.

El hecho de que los trabajadores recurran a generadores de IA para cumplir con sus tareas “deterioraría gravemente la utilidad de los datos obtenidos mediante el crowdsourcing”, afirma el investigador Veniamin Veselovsky, primer autor del artículo de investigación.

Aunque los modelos de lenguaje grandes son eficientes para procesar datos de entrenamiento, la entrada humana sigue siendo superior en ciertas tareas, como etiquetar datos ingresados en los modelos, describir imágenes o responder a pantallas CAPTCHA de manera más eficiente que las computadoras.

Es tentador confiar en el crowdsourcing para validar las salidas de los modelos de lenguaje grandes o para crear datos humanos de referencia para comparación, explica Veselovsky. Sin embargo, si los trabajadores en masa también utilizan estos modelos para aumentar su productividad y, por ende, sus ingresos en las plataformas de crowdsourcing, esto contaminaría el conjunto de datos y podría poner en duda la confiabilidad de las operaciones basadas en IA.

La industria del crowdsourcing, que emplea a cientos de miles de personas, se encuentra amenazada por la adopción repentina de modelos de lenguaje grandes. Según un estudio reciente, un modelo ChatGPT 3.5 turbo logró un desempeño significativamente mejor que los trabajadores en masa a una fracción del costo. Esto presiona a los trabajadores a producir más rápidamente, lo que podría llevarlos a depender aún más de los recursos de IA.

Los investigadores de EPFL estudiaron el uso de modelos de lenguaje grandes por parte de los trabajadores en MTurk, la plataforma de crowdsourcing de Amazon, y estimaron que entre el 33% y el 46% de las tareas de los trabajadores se completaron con la ayuda de estos modelos.

Ante esta situación, Veselovsky advierte que los modelos de lenguaje grandes están en constante crecimiento y también surgen modelos multimodales que admiten no solo texto, sino también imágenes y videos. Por lo tanto, es crucial encontrar nuevas formas de garantizar que los datos humanos sigan siendo auténticamente humanos, ya que estos resultados podrían ser solo el inicio de un problema mayor en el ámbito del crowdsourcing y la integración de la IA.

Nota del Colectivo Alterius con información de TechXplore