Tecnologías entrañables: por unas máquinas más humanas con efectos sociales beneficiosos
El PaísSergio C. Fanjul
El progreso tecnológico es un tsunami del que es imposible escapar. Las formas de transporte, los gadgets, las maneras de consumir o relacionarnos están en continua mutación y da la impresión de que solo podemos apretar el paso para no quedarnos rezagados. No conviene perder el tren del avance de la tecnología, que es el único posible y tiene un destino definido y justo: lo contrario es retroceso.
Pensar así, que la evolución de la tecnología es autónoma y prácticamente independiente de la voluntad humana, es una postura llamada determinista. Si algún avance tecnológico es posible, alguien, en algún lugar, lo llevará a cabo. Pero frente a este determinismo tecnológico, ese futuro inevitable, surgen otras opciones, por ejemplo, la que algunos autores han llamado tecnologías entrañables. "Las tecnologías son como son porque hay personas que toman decisiones para que sean así", escribe Miguel Ángel Quintanilla, catedrático emérito de Lógica y Filosofía de la Ciencia de la Universidad de Salamanca, en el libro Tecnologías entrañables (Catarata, 2017). El futuro no viene dado, sino que lo construimos nosotros sembrando ahora sus semillas. Hay una conexión posible entre los seres humanos y el devenir de las máquinas, "sin renunciar por ello a impulsar el desarrollo tecnológico y a aprovechar sus consecuencias sociales y económicas beneficiosas".
¿Puede ser entrañable la tecnología? El término entrañable (en inglés engaged technologies) se utiliza aquí como el opuesto a alienado. Las tecnologías alienadas serían aquellas sobre las que los usuarios no tenemos ningún control; la aparente autonomía de la técnica es fruto de esa alienación. "Podemos promover el desarrollo desentendiéndonos de las tecnologías que producimos o, en cambio, podemos responsabilizarnos de su control", dice Quintanilla. Algunas de ellas, como es el caso del smartphone , tienen suma importancia en nuestras vidas, sin embargo, no tenemos control sobre ellas ni conocimiento sobre su funcionamiento. Son cajas negras, como las denominaría el filósofo de la ciencia Bruno Latour.
Qué son y qué esperamos de ellas
Las tecnologías entrañables se definen por un decálogo de criterios. Por ejemplo, tienen que ser abiertas, como sucede en el caso del software libre, que cualquiera puede mirar por dentro y modificar. Así es el sistema operativo Linux. "Creo que estas opciones no son tan populares no porque sean peores, sino porque se promocionan menos", opina Quintanilla. "Antes, los jóvenes querían un computadora y al usarlo tenían que aprender cómo funcionaba, ciertas nociones de informática. Esto no pasa con el teléfono inteligente, que es una tecnología cerrada, opaca, un fetiche", añade el filósofo. Las técnicas de deep learning, dentro de la disciplina de la inteligencia artificial, comienzan a ser criticadas precisamente por su opacidad intrínseca: es difícil para los seres humanos conocer las entretelas de estos sistemas, las maneras en las que toman las decisiones. Y los humanos no deben perder el control sobre los algoritmos: la tecnología avanzada no debe ser indistinguible de la magia, como profetizó el escritor de ciencia ficción Arthur C. Clarke.
Las tecnologías han de ser también comprensibles, al menos en la medida de lo posible, para el usuario. "Es cierto que la tecnología avanzada es de por sí muy compleja, pero al menos se trata de no oscurecerla más a través del diseño", dice el catedrático. Esta oscuridad posibilitó en 2015 el escándalo en torno a las emisiones contaminantes de los coches Volkswagen, cuyos sistemas electrónicos de control de emisiones generaba datos falsos. Es difícil cometer un fraude así si no es utilizando un diseño basado en cajas negras inaccesibles.
Otro criterio que debe cumplir es la polivalencia: que pueda usarse para diferentes utilidades, como el caso del smartphone, que ya sirve para casi todo. "Aunque aquí se corre el riesgo de que al final no podamos vivir sin un teléfono inteligente", dice Quintanilla. Además, la tecnología entrañable tiene que ser sostenible medioambientalmente, socialmente responsable (que no excluya a nadie, no genere desigualdades y tenga en cuenta a los más vulnerables) o limitada, es decir, que permita predecir su funcionamiento, sus posibles efectos nocivos. En caso de no conocerlos, habría que aplicar el principio de precaución.
Pensada para perdurar
Por supuesto, la obsolescencia programada, esa práctica que hace que una tecnología acabe su vida útil antes de lo posible y haya que sustituirla por otra nueva, en aras de incentivar el consumo y mantener activada la rueda de la industria, queda muy lejos de estos criterios. "El desarrollo de las tecnologías entrañables conlleva el rescate de la figura del ciudadano frente a la del consumidor", escriben los investigadores Darío Sandrone y Diego Lawler. Entre las tecnologías que podríamos considerar entrañables o cercanas a la entrañabilidad, podríamos citar el código de software abierto, la enciclopedia colaborativa Wikipedia, la plataforma de software y hardware Arduino (completamente abierta a los usuarios) o la actividad de la comunidad maker, que comparte y produce diseños de impresión 3D. Sus postulados están cercanos a los de la economía circular, que pretende flujos económicos y ecológicos cerrados que reduzcan el impacto medioambiental aprovechando todos los residuos.
¿Quién diseña la tecnología que utilizamos y con qué criterios? "Uno de los problemas actuales del desarrollo tecnológico son las enormes redes de flujos materiales y de conocimiento involucradas en el diseño", dice Martín Parselis, investigador de la Universidad Católica Argentina y autor de una tesis doctoral sobre el tema. Así, es difícil saber quién está detrás de los desarrollos, pues estas redes diluyen la identidad de los agentes que deciden. Sin embargo, se puede hacer una aproximación: "Para las tecnologías masivas estas organizaciones suelen ser empresas que, con algún propósito, diseñan artefactos, dispositivos o servicios que llegan a nuestras manos, y se elaboran con criterios de eficiencia clásicos", explica Parselis. "Estos criterios mayormente se orientan al funcionamiento y a la relación costo-beneficio, pero externalizan diversos factores que las tecnologías entrañables intentan incorporar al diseño".
Esto implica problemas, según el investigador. El primero es de la transparencia: muchas veces utilizamos aplicaciones para resolver problemas que, al mismo tiempo, llevan a cabo funciones que desconocemos. Es el caso de cantidad de apps que, con la excusa de darnos un servicio, recopilan nuestros datos y se los venden a otras organizaciones. Un ejemplo claro es el escándalo de Cambridge Analytica, la empresa que recopiló datos privados de 50 millones de usuarios de Facebook. Con esa información, la compañía trató de influir en las elecciones en EE UU.
Otro problema surge cuando una tecnología tiene unas consecuencias que implican a toda la sociedad y sobre la que habría que tomar acuerdos comunes. "Si una tecnología es crítica por lo que hace, es necesario establecer algún acuerdo sobre su desarrollo, como en la edición genética", ejemplifica Parselis. "Si es crítica por su escala, también debemos establecer algún acuerdo, porque obligará a muchísimas personas a adoptar gestos y finalmente cambiar formas de vida". En general, se puede producir una descoordinación, un "extrañamiento", entre lo que buscamos los usuarios en una tecnología y lo que buscan los que la diseñan.
Porque no está claro que la innovación tecnológica signifique siempre progreso. Es el caso de las aplicaciones de reparto a domicilio que precarizan a los trabajadores que se desempeñan de riders. ¿Son un avance o un retroceso? Aunque a veces se difunda la idea de que cualquier avance tecnológico es deseable, esto no siempre es así. Dejarnos llevar por la tecnología sin ser conscientes de lo que ello implica es lo que el politólogo Langdon Winner ha llamado sonambulismo tecnológico.
Sería conveniente articular instituciones y procedimientos para que la ciudadanía pudiera participar del desarrollo más allá que como consumidora pasiva, que compra o rechaza un producto. "Se trata de abrir un espacio central para la ética y la participación democrática, corrigiendo el tradicional déficit normativo en la regulación del cambio tecnológico", expone José Antonio López Cerezo, catedrático de Lógica y Filosofía de la Ciencia en la Universidad de Oviedo. Es preciso fomentar el control y la participación ciudadana del cambio tecnológico, sobre todo en áreas tan sensibles como la inteligencia artificial, la nanotecnología o la ingeniería genética. Si usted no hace la tecnología, otros la harán por usted.
Decálogo entrañable
Las tecnologías entrañables, según su decálogo, deberían ser abiertas (sin restricciones de acceso para su uso, copia, modificación y distribución impuestas por criterios externos a la propia tecnología), polivalentes (capaces de integrar diferentes objetivos en un único sistema técnico), dóciles (el funcionamiento depende de un humano), limitadas (han de tener consecuencias previsibles; en caso contrario debe aplicarse el principio de precaución), reversibles (ha de ser posible restaurar el medio natural o social en que se implante un sistema técnico), recuperables (susceptibles de mantenimiento activo y de recuperación de residuos; se debe prohibir la obsolescencia programada), comprensibles (se deben evitar las cajas negras que producen desconocimiento), participativas (los ciudadanos deben poder participar en los procesos tecnológicos), sostenibles (permitir el ahorro, el reciclado de energías y recursos) y socialmente responsables (que tengan en cuenta la situación de los colectivos más desfavorecidos).
Por Sergio C. Fanjul
Temas
Conforme a los criterios de
Más leídas de Tecnología
Llega Halloween. Así se vería Chucky en la vida real, según la inteligencia artificial
Viral en TikTok. La pregunta que debés hacerle a ChatGPT si quieres saber qué conoce acerca de uno mismo
Paso a paso. Por qué recomiendan desactivar el Meta IA de WhatsApp: cómo hacerlo
Listado completo. Los códigos secretos de Netflix para ver películas ocultas en la plataforma
