“Nuestras mentes pueden ser secuestradas”: los expertos en tecnología que temen una distopía de teléfonos inteligentes.

Los trabajadores de Google, Twitter y Facebook que ayudaron a que la tecnología sea tan adictiva se están desconectando de Internet.

Paul Lewis informa sobre los renegados de Silicon Valley, alarmados por una carrera por la atención humana.

Justin Rosenstein había modificado el sistema operativo de su computadora portátil para bloquear Reddit, se vetó a si mismo en Snapchat, a la que compara con heroína, e impuso límites a su uso de Facebook. Pero incluso eso no era suficiente. En agosto, el ejecutivo de tecnología de 34 años dio un paso más radical para restringir su uso de las redes sociales y otras tecnologías adictivas.

Rosenstein compró un nuevo iPhone e instruyó a su asistente para que estableciera una función de control parental y evitar que descargara aplicaciones.

Estaba particularmente consciente de la fascinación por los “likes” de Facebook, a los que describe como “brillantes descargas de pseudo-placer” que pueden ser tan huecas como seductoras. Y debe saberlo: él fue el ingeniero de Facebook que creó el botón de “like” en primer lugar.

Una década después de que permaneció despierto toda una noche codificando un prototipo de lo que en su momento fue llamado un botón “impresionante”, Rosenstein pertenece a una pequeña pero creciente banda de heréticos de Silicon Valley que se quejan del surgimiento de la llamada “economía de la atención”: una Internet moldeada en torno a las demandas de una economía de la publicidad.

Estos renegados rara vez son fundadores o directores ejecutivos, que tienen poco incentivo para desviarse del mantra de que sus empresas están haciendo del mundo un lugar mejor. En cambio, tienden a haber trabajado un peldaño o dos abajo en la escala corporativa: diseñadores, ingenieros y gerentes de productos que, como Rosenstein, hace varios años, pusieron en marcha los bloques de construcción de un mundo digital del que ahora están tratando de liberarse. “Es muy común,” dice Rosenstein, “que los seres humanos desarrollen cosas con las mejores intenciones y que tengan consecuencias no deseadas y negativas”.

Rosenstein, que también ayudó a crear Gchat durante una temporada en Google, y ahora lidera una empresa con sede en San Francisco enfocada en mejorar la productividad en la oficina, parece más preocupado por los efectos psicológicos en las personas que, como lo demuestra una investigación, toca, desliza, o da ligeros golpes a su teléfono 2617 veces en un día.

Existe una creciente preocupación de que, al igual que hace adictos a los usuarios, la tecnología está contribuyendo a la llamada “atención parcial continua”, limitando severamente la capacidad de las personas para enfocarse y posiblemente disminuyendo el coeficiente intelectual. Un estudio reciente mostró que la mera presencia de teléfonos inteligentes daña la capacidad cognitiva —incluso cuando el dispositivo está apagado—. “Todo el mundo está distraído”, dice Rosenstein. “Todo el tiempo.”

Pero esas preocupaciones son triviales en comparación con el devastador impacto en el sistema político que algunos de los compañeros de Rosenstein creen que puede ser atribuido al surgimiento de los medios de comunicación social y el mercado basado en la atención que la impulsa.

Dibujando una línea recta entre la adicción a los medios sociales y terremotos políticos como el Brexit y el surgimiento de Donald Trump, afirman que las fuerzas digitales han alterado completamente el sistema político y, si se dejan sin control, podrían incluso hacer que la democracia como la conocemos sea obsoleta.

En 2007, Rosenstein fue uno de un pequeño grupo de empleados de Facebook que decidió crear un camino de menor resistencia —un solo clic— para “enviar pequeños bits de positividad” a través de la plataforma. La función “like” de Facebook fue, según Rosenstein, “increíblemente” exitosa: la participación aumentó a medida que la gente disfrutaba del estimulo a corto plazo que conseguían por dar o recibir afirmación social, mientras Facebook recolectaba valiosos datos sobre las preferencias de los usuarios que podrían venderse a los anunciantes. La idea fue copiada rápidamente por Twitter, con sus “likes” en forma de corazón (antes “favoritos” en forma de estrella), Instagram, e innumerables aplicaciones y sitios web.

Fue la colega de Rosenstein, Leah Pearlman, entonces gerente de producto en Facebook y en el equipo que creó el “like” de Facebook, la que anunció la función en una entrada de blog en 2009. Ahora con 35 años e ilustradora, Pearlman confirmó por correo electrónico que ella, también, ha desarrollado cierto descontento con el “like” de Facebook y otros bucles de retroalimentación adictivos. Ha instalado un plug-in en su navegador web para erradicar sus noticias de Facebook, y contrató a un administrador de medios sociales para monitorear su página de Facebook de manera que ella no tenga que hacerlo.

“Una razón por la que creo que es particularmente importante para nosotros hablar de esto ahora es que puede que seamos la última generación que recuerda como era la vida antes”, dice Rosenstein. Puede que sea o no relevante que Rosenstein, Pearlman y la mayoría de los tecnólogos que cuestionan la economía de la atención de hoy están en sus 30 años, miembros de la última generación que pueden recordar un mundo en el que los teléfonos estaban conectados a las paredes.

Es revelador que muchos de estos tecnólogos más jóvenes se estén destetando de sus propios productos, enviando a sus hijos a escuelas de élite en Silicon Valley donde iPhones, iPads e incluso las computadoras portátiles están prohibidas. Parecen estar siguiendo una letra de Biggie Smalls de su propia juventud sobre los peligros de distribuir cocaína en forma de crack: nunca te drogues con tu propio producto.

Una mañana de abril de este año, diseñadores, programadores y empresarios de tecnología de todo el mundo se reunieron en un centro de conferencias en la costa de la Bahía de San Francisco. Habían pagado hasta $ 1,700.00 dólares para aprender a cómo manipular a las personas en el uso habitual de sus productos, en un curso curado por el organizador de la conferencia Nir Eyal.

Eyal, de 39 años, autor de Hooked: How to Build Habit-Forming Products, ha pasado varios años como consultor para la industria tecnológica, enseñando técnicas que desarrolló estudiando detenidamente cómo operan los gigantes de Silicon Valley.

“Las tecnologías que usamos se han convertido en compulsiones, cuando no en adicciones completas”, escribe Eyal. “Es el impulso que te lleva a comprobar una notificación de mensaje. Es el jalón que te lleva a visitar YouTube, Facebook o Twitter por unos minutos, sólo para encontrarte tocando y desplazándote una hora más tarde. Nada de esto es un accidente, escribe. Es todo “tal y como sus diseñadores pretendían”.

Explica los sutiles trucos psicológicos que pueden utilizarse para hacer que las personas desarrollen hábitos, como variar las recompensas que reciben las personas para crear “un antojo” o explotar emociones negativas que pueden actuar como “disparadores”. “Los sentimientos de aburrimiento, soledad, frustración, confusión e indecisión a menudo provocan un ligero dolor o irritación y provocan una acción casi instantánea y a menudo inconsciente para sofocar la sensación negativa”, escribe Eyal.

Los asistentes a la Cumbre del Hábito 2017 podrían haberse sorprendido cuando Eyal caminó en el escenario para anunciar que el discurso de este año era sobre “algo un poco diferente”. Quería abordar la creciente preocupación por que la manipulación tecnológica fuera de alguna manera dañina o inmoral. Dijo a su audiencia que deben tener cuidado en no abusar del diseño persuasivo, y tener cuidado de cruzar la línea hacia la coerción.

Pero estuvo a la defensiva de las técnicas que enseña, y desdeñoso de los que comparan la adicción a la tecnología con la adicción a las drogas. “No estamos inhalando Facebook e inyectando Instagram aquí”, dijo. Mostró una diapositiva de un estante lleno de dulces azucarados. “Así como no debemos culpar al panadero por hacer productos tan deliciosos, no podemos culpar a los fabricantes de tecnología por hacer que sus productos sean tan buenos que queramos usarlos”, dijo. “Por supuesto que eso es lo que harán las empresas de tecnología. Y francamente: ¿lo queremos de otra manera?”

Sin ironía, Eyal terminó su charla con algunos consejos personales para resistir la tentación de la tecnología. Le dijo a su audiencia que usa una extensión de Chrome, llamada DF YouTube, “que elimina muchos de esos desencadenantes externos”, de los que escribe en su libro, y recomendó una aplicación llamada Pocket Points que “te recompensa por quedarte fuera de tu teléfono cuando necesitas enfocarte”.

Por último, Eyal confió los extremos a los que recurre para proteger a su propia familia. Ha instalado en su casa un temporizador de salida conectado a un enrutador que corta el acceso a Internet a una hora determinada todos los días. “La idea es recordar que no somos impotentes”, dijo. “Tenemos el control.”

Pero, ¿lo tenemos? Si las personas que construyeron estas tecnologías están tomando pasos tan radicales para liberarse, ¿podemos razonablemente esperar que el resto de nosotros ejercitemos nuestro libre albedrío?

No, según Tristan Harris, un ex empleado de Google, de 33 años, convertido en crítico vocal de la industria de la tecnología. “Todos estamos conectados a este sistema”, dice. “Todas nuestras mentes pueden ser secuestradas. Nuestras opciones no son tan libres como creemos que lo son.”

Harris, que ha sido calificado como “lo más cercano a una conciencia que tiene Silicon Valley”, insiste en que miles de millones de personas tienen poca opción sobre si utilizan estas tecnologías ahora omnipresentes, y son en gran medida inconscientes de las formas invisibles en que un pequeño número de personas en Silicon Valley están dando forma a sus vidas.

Graduado de la Universidad de Stanford, Harris estudió bajo la tutela de BJ Fogg, un psicólogo del comportamiento venerado en los círculos de tecnología por dominar las formas en que el diseño tecnológico se puede utilizar para persuadir a la gente. Muchos de sus estudiantes, incluyendo a Eyal, han tenido prósperas carreras en Silicon Valley.

Harris es el estudiante que se volvió insolente; un tipo de denunciante, está levantando el telón sobre los vastos poderes acumulados por las compañías de tecnología y las formas en que están utilizando esa influencia. “Un puñado de personas, trabajando en un puñado de empresas de tecnología, con las decisiones que toman dirigirán lo que miles de millones de personas están pensando en la actualidad”, dijo en una reciente charla de TED en Vancouver.

“No conozco un problema más urgente que este”, dice Harris. “Está cambiando nuestra democracia, y está cambiando nuestra capacidad de tener las conversaciones y las relaciones que queremos el uno con el otro.” Harris se hizo público: dando charlas, escribiendo ensayos, reuniéndose con legisladores y haciendo campaña por reformas después de tres años de luchar para lograr cambios dentro de la sede de Google en Mountain View.

Todo comenzó en 2013, cuando trabajaba como gerente de producto en Google, y distribuyó a 10 colegas cercanos un memorándum que llamaba a la reflexión, titulado: Un Llamado a  Minimizar la Distracción y Respetar la Atención de los Usuarios. Tocó una fibra sensible, se extendió a unos 5.000 empleados de Google, incluidos altos ejecutivos que premiaron a Harris con un nuevo trabajo con un titulo impresionante: Iba a ser el filósofo de producto y diseño ético interno de Google.

Mirando hacia atrás, Harris ve que fue promovido a un papel marginal. “No tenía una estructura de apoyo social en absoluto”, dice. Sin embargo, añade: “Tenía que sentarme en un rincón y pensar, leer y entender”.

Exploró cómo LinkedIn explota una necesidad de reciprocidad social para ampliar su red; cómo YouTube y Netflix reproducen de manera automática los próximos episodios, privando a los usuarios de una elección sobre si desean o no seguir viendo; cómo Snapchat creó su adictiva característica Snapstreaks, alentando la comunicación casi constante entre sus usuarios en su mayoría adolescentes.

Las técnicas que utilizan estas empresas no siempre son genéricas: pueden adaptarse algorítmicamente a cada persona. Un informe interno de Facebook que se filtró este año, por ejemplo, reveló que la compañía puede identificar cuando los adolescentes se sienten “inseguros”, “sin valor” y “necesitan elevar su confianza”. Tal información granular, añade Harris, es “un modelo perfecto sobre qué botones puedes presionar en una persona en particular”.

Las empresas de tecnología pueden explotar tales vulnerabilidades para mantener a las personas enganchadas; manipulando, por ejemplo, cuando las personas reciben “likes” por sus publicaciones, asegurándose que lleguen cuando es probable que un individuo se sienta vulnerable o necesite aprobación, o tal vez sólo aburrido. Y las mismas técnicas pueden ser vendidas al mejor postor. “No hay ética”, dice. Una empresa que paga a Facebook para usar sus palancas de persuasión podría ser un negocio de automóviles dirigiendo sus anuncios adaptados a diferentes tipos de usuarios que quieren un nuevo vehículo. O podría ser una granja de troles ubicada en Moscú que busca convertir a los votantes en un condado indeciso en Wisconsin.

Harris cree que las compañías de tecnología nunca se propusieron deliberadamente hacer sus productos adictivos. Estaban respondiendo a los incentivos de una economía publicitaria, experimentando con técnicas que podrían capturar la atención de la gente, incluso tropezando con el diseño altamente eficaz por accidente.

Un amigo de Facebook le dijo a Harris que los diseñadores decidieron inicialmente que el icono de notificación, que alerta a las personas a nuevas actividades como “solicitudes de amistad” o “likes”, debería ser azul. Se ajustaba al estilo de Facebook y, según se pensaba, parecía “sutil e inocuo”. “Pero nadie lo usó”, dice Harris. “Entonces lo cambiaron a rojo y por supuesto todo el mundo lo empezó a usar.”

Ese icono rojo está ahora en todas partes. Cuando los usuarios de teléfonos inteligentes miran sus teléfonos, docenas o cientos de veces al día, se enfrentan a pequeños puntos rojos junto a sus aplicaciones, suplicando que se los toque. “El rojo es un color detonante”, dice Harris. “Es por eso que se utiliza como una señal de alarma”.

El diseño más seductor, explica Harris, explota la misma susceptibilidad psicológica que hace que apostar sea tan compulsivo: recompensas variables. Cuando tocamos esas aplicaciones con iconos rojos, no sabemos si descubriremos un correo electrónico interesante, una avalancha de “likes” o nada en absoluto. Es la posibilidad de decepción lo que lo hace tan compulsivo.

Esto es lo que explica cómo el mecanismo jalar-para-refrescar, mediante el cual los usuarios deslizan hacia abajo, pausan y esperan para ver qué contenido aparece, rápidamente se convirtió en una de las características de diseño más adictivas y ubicuas de la tecnología moderna. “Cada vez que deslizas hacia abajo, es como una máquina tragamonedas”, dice Harris. “No sabes lo que vendrá después”. A veces es una hermosa foto. A veces es solo un anuncio “.

**

Traducido de Our minds can be hijacked’: the tech insiders who fear a smartphone dystopia por Paul Lewis para The Guardian. Traducción: Armando Alvarez.