Escribir con ayuda de ChatGPT podría condicionar tus opiniones

La utilización de asistentes de escritura impulsados por inteligencia artificial que completan frases o ofrecen respuestas “inteligentes” no solo pone palabras en boca de las personas, sino que también influye en sus ideas, según una nueva investigación.

Un estudio realizado por Maurice Jakesch, estudiante de doctorado en ciencias de la información, reveló que las personas que utilizaron un asistente de escritura de IA con sesgo a favor o en contra de las redes sociales tenían el doble de probabilidades de redactar un párrafo que estuviera de acuerdo con el asistente y eran más propensas a afirmar que tenían la misma opinión. Los sesgos incorporados en estas herramientas de escritura de IA podrían tener repercusiones preocupantes para la cultura y la política.

“Estamos apresurándonos a implementar estos modelos de IA en todos los ámbitos de la vida, pero necesitamos comprender mejor las implicaciones”, dijo el coautor Mor Naaman, profesor en el Instituto Jacobs Technion-Cornell en Cornell Tech y en la Facultad de Información de la Cornell Ann S. Bowers College of Computing and Information Science.

“Además de aumentar la eficiencia y la creatividad, podría haber otras consecuencias para los individuos y también para nuestra sociedad, como cambios en el lenguaje y las opiniones”.

Aunque se ha estudiado cómo los modelos de lenguaje grandes, como ChatGPT, pueden crear anuncios persuasivos y mensajes políticos, este es el primer estudio que demuestra que el proceso de escritura con una herramienta de IA puede influir en las opiniones de una persona. Los participantes que coescribieron con un asistente de IA a favor de las redes sociales escribieron más oraciones argumentando que las redes sociales son buenas, y viceversa, en comparación con los participantes que no contaron con la ayuda de un asistente.

Los investigadores exploraron la posibilidad de que las personas simplemente aceptaran las sugerencias de la IA para completar la tarea más rápidamente, pero incluso aquellos participantes que tardaron varios minutos en redactar sus párrafos presentaron declaraciones fuertemente influenciadas.

Este estudio destaca la necesidad de una mayor discusión pública sobre el uso y el impacto de estas tecnologías. Es importante comprender cómo pueden ser mal utilizadas y cómo deben ser monitoreadas y reguladas.

A medida que estas tecnologías se vuelven más poderosas y se integran en nuestra sociedad, debemos tener cuidado con los valores y las opiniones que se incorporan en ellas. Es crucial abordar los sesgos incorporados en las herramientas de IA y comprender cómo pueden afectar nuestras percepciones y el panorama político y cultural.

Con información de la Universidad de Cornell para TechXplore