¿Te has preguntado si la capacidad generativa de la tecnología está haciendo obsoleto tu criterio como profesional del diseño?
Esta inquietud recorre hoy los pasillos de las agencias y departamentos de Experiencia. Existe una ansiedad colectiva, un temor real a que la automatización convierta el oficio de diseñar en una reliquia del pasado. Sin embargo, la verdadera amenaza no es la tecnología en sí, sino nuestra propia inercia: el riesgo de seguir proyectando interfaces estáticas y lineales en un mundo que ahora exige experiencias vivas, probabilísticas y, sobre todo, profundamente humanas.
El despertar de una nueva era en la experiencia de usuario
La Inteligencia Artificial (IA) no es una tendencia pasajera; es el nuevo sistema operativo de la experiencia de usuario. Estamos ante un cambio de paradigma donde la labor de “pintar pantallas” pierde relevancia frente a la capacidad de diseñar comportamientos y arquitecturas de confianza. Ante el entusiasmo por aprender a diseñar para GenAI, se vuelve imperativo prever las implicancias que nuestras soluciones tendrán en la audiencia que las usará.
Para liderar este cambio, es vital rescatar un enfoque que nació hace tres décadas: el Diseño Sensible al Valor (DSV) o Value-Sensitive Design. Desarrollado en los años 90 por la científica de la computación Batja Friedman, este marco surgió al reconocer que el diseño tecnológico a menudo pasa por alto valores como la privacidad, la seguridad y la justicia social. Como bien señala Friedman:
“Las tecnologías no son neutrales; el diseño tecnológico siempre conlleva implicaciones morales y sociales que afectan la vida de las personas de maneras que no siempre son evidentes a primera vista”.
Hoy, el DSV actúa como un marco fundamental y un recordatorio: la innovación en IA generativa debe estar alineada con lo que realmente es importante para las personas, no solo con lo que es técnicamente posible.
El diseñador como mitigador de riesgos éticos
En la práctica habitual del diseño de producto, solemos preocuparnos por comportamientos, dolores y actitudes. Sin embargo, no es usual que nos detengamos ante las implicancias éticas; solemos pensar que eso “lo verá después el área legal o de seguridad”. En mi opinión, este es un error estratégico.
El rol del diseñador hoy no debe mutar, sino sumar la característica de mitigador de riesgos ante impactos no deseados. Ya existen roles que velan por los riesgos tecnológicos, legales o de sostenibilidad, pero ¿quién resguarda los valores éticos? Es este el rol que el diseñador deberá defender. Como afirma Mike Monteiro en su libro Ruined by Design:
“El mundo no se rompe por sí solo. Se rompe por las personas que lo diseñan. Y son esas mismas personas las que tienen la responsabilidad de arreglarlo”.
Adoptar el DSV nos permite considerar posibles resultados dañinos, el mal uso de los modelos y los efectos en el empleo y la sociedad, permitiéndonos diseñar de manera más responsable y reflexiva.
Estrategias y soluciones: La ética integrada en el flujo Ágil
Aplicar el Diseño Sensible al Valor no significa inventar una metodología nueva, sino inyectar preguntas incómodas en las fases que ya conocemos. A simple vista, estos pasos parecen una investigación cualitativa tradicional, pero la diferencia radica en el foco ético:
Investigación y Valores Clave: Corresponde a la fase de UX Research. La diferencia es que al mapa de empatía debemos añadirle las repercusiones éticas. Ya no buscamos solo brechas y dolores; buscamos entender cómo definen los usuarios la justicia o la inclusión en este producto específico.
Entendimiento del Contexto de Uso: Aquí comprendemos cómo se usará la solución. El diseñador debe observar no solo la usabilidad, sino los riesgos potenciales del entorno (hogar, trabajo, espacio público) y cómo estos afectan los valores identificados.
Diseño Consciente e Ideación: Al generar la arquitectura y los flujos, la pregunta nuclear debe ser: ¿Cómo esta decisión de diseño apoya o socava los valores identificados?. Debemos sopesar qué se gana y qué se pierde en términos de autonomía cuando balanceamos la precisión y el recall del modelo.
Evaluación y Testeo de Valores: Al testear el prototipo con usuarios reales, debemos evaluar si la herramienta funciona bien en la práctica ética. La teoría es una cosa, pero lo que sucede cuando alguien usa algo es otra muy distinta. ¿Hay brechas entre el impacto previsto y el real sobre sus valores?
Refinamiento e Iteración: Es la fase de aprendizaje del equipo completo. Implica la mejora continua y la capacidad de pivotar si el diseño deja de estar alineado con lo que es importante para la comunidad.
Saberes esenciales para ampliar la mirada
Para profundizar en este cambio de mentalidad y liderar la frontera del diseño responsable, es recomendable explorar las siguientes referencias:
Batja Friedman & David Hendry: Su obra sobre Value Sensitive Design es la base fundamental para entender cómo incrustar valores en la ingeniería y el diseño de sistemas complejos.
Don Norman: En su reciente enfoque hacia el diseño para un mundo mejor (Design for a Better World), aboga por un diseño que priorice el bienestar humano y planetario por sobre el consumo.
The IEEE Global Initiative: El reporte Ethically Aligned Design ofrece un marco normativo para traducir valores humanos en criterios técnicos de IA.
Cathy O’Neil: En su libro Weapons of Math Destruction, analiza cómo los algoritmos pueden aumentar la desigualdad si no se diseñan con una mirada social crítica.
El Diseño Sensible al Valor no es solo una metodología; es un compromiso con diseñar con empatía, responsabilidad y respeto por todas las personas involucradas. Si somos reflexivos y mantenemos siempre a las personas en el centro de nuestras decisiones, podemos crear tecnología que realmente sirva a sus necesidades y valores.
Nuestro objetivo final siempre debería ser crear tecnología que beneficie a la colectividad, no solo a unas pocas métricas de negocio. El diseño es, en última instancia, la herramienta que tenemos para habitar el mundo con más conciencia.