Patrones oscuros de UX - La importancia de la ética en el Diseño

Hemos hablado 38 programas de los componentes neurológicos, técnicos, organizacionales y funcionales que están detrás de todas las experiencias que usamos todos los días. Pero si podemos aplicar todas estas herramientas para ayudar a otros, también podemos aplicarlas para manipular, perjudicar y sesgar. Esto se le conoce como Patrones Oscuros y suceden cuando las personas responsables de crear esas experiencias carecen de límites éticos o simplemente no les importa el impacto que su trabajo tiene en las personas que lo usan. Por eso hoy vamos a hablar de la ética en el Diseño y lo que pasa cuando no la aplicamos.

Bienvenidos a una edición más del Solcast. Yo soy su anfitrión Adrian Solca y hoy hablaremos de un tema que me han pedido mucho, pero no podíamos llegar a él porque faltaba más contexto. Pero finalmente el día ha llegado: la ética en el Diseño.

Contexto

Cuando vimos Storytelling hablamos de un concepto que se llama “la suspención de incredulidad” en dónde les platicaba que el que cuenta una historia puede crear un contexto, aún ficticio, pero es contra ese contexto contra el que vamos a evaluar el resto de la historia.

Hablamos de cómo es ese concepto el responsable de que haya nerds en Internet discutiendo la lógica de una tecnología imposible como las espadas láser de Star Wars, pero bajo esa misma lógica hay gente convencida de que el COVID es un engaño. Ambos casos son ejemplos de cómo se ha construído una narrativa que manipula nuestros sesgos para crearnos una realidad alternativa. Una realidad que nuestro cerebro no distingue de la ficción.

También hablamos de componentes como la motivación o la percepción, que son fácilmente manipulables en forma de sesgos, o incluso cosas que nosotros percibimos tan complejas como las emociones, que no son más que un comportamiento aprendido para sobrellevar un estímulo.

Hay personas que aplican todos estos principios, derivados de observar, entender y analizar a la gente, para facilitarte la vida. Ayudarte a escoger una película que te guste, el playlist correcto para tu estado de ánimo, ayudarte a encontrar pareja o justo el video de perritos que necesitas para hacer más ameno tu día.

Pero tener el poder para elegir qué poner en frente de los ojos de las personas, y que esa decisión tenga un impacto real en lo que esas personas hacen y piensan es una espada de doble filo.

Puedo controlar lo siguiente que vas a ver en un playlist de video, y la economía del comportamiento dice que probablemente no te vas a esforzar por cambiarlo; y tal vez ese siguiente contenido me beneficia más a ti que a ti; tal vez me pagaron por ponerlo frente a los ojos de personas como tú, para sesgar tu opinión sobre un tema.

O tal vez en una lista de contenidos de tus amigos y familiares, que tu consideras de confianza y cercano, comienzas a ver anuncios que tienen un formato de publicación muy similar al contenido en el que ya confías, pero que traen mensajes llamativos o escandalosos. Tal vez ese contenido, por su naturaleza, te invita a interactuar con él y a mi beneficia porque te quedas más tiempo consumiendo mi plataforma, porque te haces adicto a ese contenido que genera respuestas emocionales fuertes en ti.

Los patrones oscuros son parte de las experiencias que creamos, porque cuando se crea un campo de estudio nuevo, se crean maneras de explotarlo. Estamos rodeados de patrones oscuros, desde compañías petroleras que pagan estudios para negar el cambio climático, hasta gobiernos que crean campañas de comunicación para manipular la opinión de un grupo de personas.

Hablar de ética es hablar de un conjunto de normas autodefinidas y auto impuestas, en dónde nosotros como los responsables de construir las experiencias: Diseñadores, Devs, Product Owners, Stakeholders, tenemos opciones en cómo las construímos, y que como generalmente lo que construímos lo hacemos para alguien más (una empresa que nos contrata y nos paga para construírlo) sentimos que no nos toca a nosotros tomar esas decisiones.

Pero no es así.

Si yo contratara a un plomero para hacer un tubo que tire agua hirviendo sobre mi vecino del piso de abajo, ese plomero tiene la opción de construirlo para mi o no.

Hoy vamos a hablar del impacto que tiene cuando nosotros no tenemos principios éticos y solo hacemos lo que nos piden. Y hablaremos de cosas que podemos hacer para evitar que nuestros productos y servicios atenten contra el bienestar de nuestros clientes y usuarios.

Definición

El concepto de Patrón OScuro fue acuñado por Harry Brignull, quién también es dueño de DarkPatterns.org

Bajo su propia definición, dice:

Los patrones oscuros son engaños usados en páginas y apps que hacen cosas que no eran tu intención como comprar o registrarte a algo.

Tristemente, interactuamos con patrones oscuros todo el tiempo. Ejemplos de patrones oscuros son:

Contenido publicitario disfrazado de noticias reales. Parecen noticias pero son publicidad.
Botones de “aceptar términos y condiciones” que te registran a cosas que no te avisan, como listas de suscripción
Notas de que no van a guardar tu información y luego “se filtra” o la venden
Una vez leí de una app maliciosa que te decía que “necesitabas registrar tu huella” y en ese momento se habría el módulo de Apple Pay, con el que aceptas un pago con tu huella, y te hacían un cargo (obvio esa app no duró mucho)

Ahora, estoy utilizando estos Patrones Oscuros para conectar con el tema de la ética en el Diseño, porque los Patrones son solo una expresión de algo que pasa más en el fondo.

Para que un Patrón Oscuro llegue a manos de nuestros clientes y usuarios, eso es meramente la consecuencia de un proceso. Es exactamente el mismo proceso que crea soluciones útiles y valiosas. Crear un formulario engañoso requiere exactamente el mismo proceso, el mismo esfuerzo, los mismos roles que crear un formulario éticamente correcto.

Cuando yo estoy hablando con usuarios, gracias a mi proceso de etnografía, gracias a mis observaciones de usabilidad en contexto, puedo identificar sesgos que guían la experiencia. Puedo encontrar palabras, imágenes, patrones, información que detona algún comportamiento o alguna emoción en los usuarios.

Ahora, yo con esa información yo puedo decidir explotar ese hallazgo, puedo usarlo para minimizar la frustración pero… también puedo usarlo para crear miedo, escasés, puedo crear un contexto en dónde pueda explotar el Sistema 1, el sistema intuitivo para generar un comportamiento que me beneficia a mi, y solo a mi.

Facebook está en medio de una crisis, porque gente de su propio equipo de investigación hizo público que Facebook SABE que las publicaciones que generan odio y división generan más interacción; y más interacción implica más uso de la plataforma, que en Facebook se traduce vender más anuncios.

Facebook no se dedica a generar odio, como dice Zuckerberg, cínico como acostumbra ser, ellos se dedican a vender anuncios, pero UX habilita que la venta de esos anuncios sea en un contexto en particular. UX, la experiencia es el puente. En este caso Facebook sabe qué causa que la gente use el sitio más, la diferencia está en si esa información se usa para explotar algo que podemos considerar negativo o no.

Y es aquí donde quiero hablar del tema subyaciente, la ética.

Hace muchos años, la tecnología era una parte minúscula de nuestra vida. Teníamos que “entrar” a Internet. Pero Internet ya es parte de la vida de todos nosotros. Es necesario para hacer trámites gubernamientales, para trabajar de manera remota.

Justamente el tema de la ética es que ahora los productos digitales ya no son solo para algunos, para aquellos que “eligen” hacer algo con ayuda de la tecnología, ya es parte de nuestra vida diaria. Tenemos efecto real en la gente, en gente real, y no estamos siendo conscientes de las consecuencias que la tecnología que estamos construyendo tiene en la gente.

La ética, como concepto es “sistematizar, defender y recomendar conceptos de comportamiento positivo y negativo.

Nuestros productos y experiencias sistematizan y perpetúan esos conceptos, que cuando no tenemos una brújula de lo que es correcto e incorrecto, crean un efecto exponencial en dónde puedes dañar a miles o millones de personas.

La ética es un concepto complicado, porque en muchos contextos, lo que está bien o está mal depende de variables exógenas como normas sociales y culturales. Entonces exactamente qué está bien o está mal puede variar, pero lo importante del concepto es que SI existen cosas que están bien o están mal. No podemos fingir ignorancia y apelar a la defensa absurda de Zuckerberg que Facebook “vende anuncios”.

No hay nada antiético en vender anuncios, eso no es la crítica. Es la manera en la que esos anuncios se venden, a partir de la sobre explotación de contenido que genera odio en las personas, que a nivel comportamiento deriva en un comportamiento adictivo

Cuando hablamos de la ética en el Diseño, lo mínimo a lo que aspiramos es a cuidar y garantizar los derechos humanos de las personas que usan nuestros productos como lo refleja la “pirámide de necesidades éticas” de Aral Balkan y Laura Kalbag:

La gente tiene derecho a la privacidad, a la apertura, a la interoperabilidad, a la accesibilidad, a la seguridad, a la sustentabilidad. Pero encima de eso, la gente tiene derecho a que las cosas sean fáciles, sean convenientes. Si es un martirio usar un sistema, estás teniendo una falla ética porque no estás apelando a un sentido ético de respetar el esfuerzo de alguien más.

Y con eso quiero pasar a lo que sigue:

Cómo funcionan

Harry Brignull dice: “cuando usas apps y websites no lees cada palabra. Escaneas y asumes. si una compañía quiere engañarte pueden tomar ventaja de esto y hacer parecer que una página dice algo pero realmente dice otra.”

Los patrones oscuros y las fallas éticas en los productos suceden porque nuestros sesgos, percepción y modelos mentales son explotables y falibles. Como lo hemos visto en muchas horas que le hemos dedicado a hablar de ciencias cognitivas, nuestro cerebro funciona de manera automática la gran mayoría del tiempo y las decisiones racionales generan una carga cognitiva que nuestro cerebro tiende a evitar.

Los patrones oscuros explotan nuestros sesgos.

No leemos bien, generalizamos, extrapolamos, creemos que ya entendemos como funciona algo…

Por ejemplo, les quiero contar mi experiencia con los patrones oscuros. Que, si están leyendo este artículo van a tener que ver el programa en video porque es una historia demasiado larga para contar por escrito. Sorry, pero es básicamente una marca con la que trabajé que tenía 160+ campos para hacer una compra, entonces contaban con que la gente iba a terminar aceptando campos pre-llenados que les cobraban cosas extras.

En mi opinión, este es un problema super complejo y les voy a decir por qué:

TODOS los que trabajamos en Diseño y creación de productos, trabajamos para alguien. Es muy, muy poco probable que tu seas el dueño, inversionista, diseñador y operador de la solución que estás construyendo.

Aún los startups obedecen a un comité de inversionistas. Es decir, probablemente en la gran mayoría de los casos estamos construyendo el producto, y la solución que ponemos en manos de nuestros clientes, por medio de apelando.

Y esto significa que nosotros estamos en medio de la ecuación negocio, usuario. Acercamos a un negocio a un usuario, y a un usuario con un negocio. Esta es una ecuación con un balance super delicado.

En el ejemplo que les platiqué, la marca podría sentirse justificada para aplicar el Patrón Oscuro, porque el modelo “base” de monetización no dejaba.

A menos que la organización ya venga podrida, porque o el management no es ético (Como Facebook) o simplemente trabajas en una industria ilegal, lo más probable es que el Patrón Oscuro sea algo que quién lo implementó piensa que mantiene el balance de esta ecuación.

Pero, curiosamente quienes implementan esos Patrones son víctimas de su propio sesgo, y es que nosotros somos terriblemente malos estimando las consecuencias de nuestras decisiones, porque nuestro cerebro se limita a aprendizajes y percepciones pasados.

Si vemos a la competencia hacer algo “poco ético” y vemos que no pasan consecuencias, y quiero hacer foco en -vemos- porque obviamente no podemos saber si hubo consecuencias o no, pero si no percibimos que hay un problema, pues eso súbitamente en nuestra brújula ética se vuelve algo permisible.

Pero para agregar el siguiente nivel de complejidad ¿Qué pasa cuando la empresa es ética, y los que no son éticos son los clientes? Usando el caso de Facebook, Zuckerberg argumenta que ellos venden anuncios, ellos conectan gente y tienen herramientas para reportar contenido de odio. Es muy fácil fingir demencia y decir “mi producto es ético”

Entonces también tenemos que ver el otro lado de la ecuación ¿Cómo un usuario puede explotar este producto para dañar a otras personas?

…

Si este programa suena demasiado exploratorio y no tan concreto como otros, es porque el tema de la ética en el Diseño es un tema extremadamente complejo que está ongoing y hoy en día es el centro de muchas pláticas y conferencias, porque estamos viviendo en un mundo que ha amplificado el odio, la división, la desigualdad y la ignorancia, cosas que siempre han existido en nuestra especie, pero la tecnología les ha dado lugar.

Y es que en esa complejidad es justo la razón de su propia prevalencia.

Podemos integrar procesos de validación ética a nuestro trabajo, pero inherentemente van a implicar trabajo adicional a nuestras ocupadas agendas e interminable lista de pendientes.

Requiere capacitación, re trabajo, análisis… Cosas que las empresas de hoy en día odian… y es a partir de aquí dónde me gustaría aportar algo que tenga como una semblanza de guía para enfrentar este problema.

Mis recomendaciones

Hay una sola persona en el mundo de la cuál podemos ser responsables: nosotros mismos. No podemos obligar a otros a ser éticos, pero si nosotros hacemos lo posible por aspirar a un comportamiento responsable, tal vez inspiremos a otros. Entonces todo lo que voy a platicarte, no esperes a que tu organización u otros lo adopten, comienza contigo. Es como la empatía, comienza por ser empático tú.
Ahora, usemos la ecuación como referencia. Primero, asegurémonos de que el negocio es ético para con el usuario. Vamos a hacer un checklist:
1. Primero. El negocio ha hablado y observado a usuarios reales en su contexto. Si están haciendo algo para mujeres, han hablado con mujeres. si están haciendo algo que van a usar poblaciones vulnerables, han hablado con poblaciones vulnerables.
2. Segundo, el negocio mantiene contacto con estos usuarios durante la construcción de su producto, pide su input y su validación.
3. Tercero. Este es un tip que yo aplico personalmente. Si revisas las heurísticas de Nielsen, puedes identificar que esta es como “la carta de derechos” de los usuarios. Los usuarios tienen derecho a tener visibilidad del estado del sistema, los usuarios tienen derecho a que la experiencia tenga un lenguaje que les resulta familiar, etc.
4. Cuarto. La organización cuida y monitorea el uso del sistema desarrollado e identifica consecuencias no planeadas
  
  Estos cuatro pasos, no deberían representar trabajo EXTRA, porque son básicamente 4 pasos necesarios para crear productos que funcionan. Entrevistar gente, observar su contexto, identificar sus problemas, crear experiencias usables, accesibles.
  
  Y por lo tanto esto es a lo mínimo que deberíamos asprirar, que las empresas sepan que hablar con usuarios no es “parte de un proceso”. Es lo correctamente ético a hacer, porque no puedes crear algo para alguien que simplemente no conoces.
Ahora, pasemos con el usuario. Estas si son tareas adicionales que tenemos que considerar:
1. Comencemos con las partes que son más fáciles de cambiar: la interfaz.
  ¿Esta interfaz corre el riesgo de provocar algún daño?
  ¿Algún usuario se puede sentir discriminado o inseguro? ¿Es fácil de duplicar y que alguien nos suplante? ¿Esta interfaz alguien la puede usar para perjudicar a alguien más?
2. Ahora, el negocio que soporta esta interfaz
  ¿El negocio fomenta alguna práctica nociva o poco ética entre los usuarios de la interfaz? ¿El negocio se beneficia de esa práctica? ¿El negocio corre riesgo de beneficiarse de esa práctica en un futuro? ¿Que medidas tenemos para mitigar o desmotivar que el negocio tome decisiones poco éticas?
3. Por último, la más difícil de integrar un pensamiento ético, la infraestructura.
  ¿Nuestra infraestructura es explotable para hacerle daño a otra persona? ¿Alguien puede tomar esta idea, modificarla y usarla para perjudicar? ¿Nuestra infraestructura causa algún tipo de problema ético? tal vez nuestro modelo de inteligencia artifical discrimina, o nuestro “algoritmo” privilegia un contenido sobre otro ¿Cómo nos aseguramos de que la infraestructura cumpla con principios éticos?