Por qué la ciencia no es capaz de responder si la tecnología es mala para la salud (y cómo resolverlo)

“Tenemos que ser transparentes cuando no hay grandes pruebas”, dice Amy Orben, psicóloga y líder de un grupo de salud mental y tecnologías digitales en la Universidad de Cambridge. Quizá el mayor problema que afecta a la ciencia en relación con las nuevas tecnologías hoy es la falta de conclusiones que permitan responder con certeza a las preguntas que la sociedad se hace sobre los móviles, las redes y la inteligencia artificial (IA): “Es difícil afrontar la posibilidad de que se exagere la evidencia [de esa relación], aunque se haga pensando que así van a mantener más seguros a los niños”, añade Orben.

No hay una solución fácil. Ciudadanos y políticos a menudo deben refugiarse en prejuicios a falta de respuestas claras sobre el vínculo entre móviles y salud mental, por ejemplo. En ocasiones, las autoridades pueden acaban regulando sin necesidad o, en cambio, dejar sin regular un problema enorme que afecta a millones de personas. “Queremos animar a los científicos a conectar con la gente y hablar claro, incluyendo lo que no sabemos”, dice J. Nathan Matias, director de un laboratorio de ciudadanía y tecnología en la Universidad de Cornell (EE.UU.). Orben y Matias publican este jueves un artículo en la revista Science para generar debate sobre la velocidad de la tecnología hoy y proponer medidas para que la ciencia acelere su labor. En una conversación por videoconferencia con EL PAÍS aclaran los puntos principales.

Orben prevé que en cinco años les pedirán resultados sobre la importancia de las conversaciones de adolescentes y chatbots de IA: “Llevo meses diciendo que tenemos que empezar ya a recopilar datos a largo plazo sobre cómo usan los niños las apps de chats con IA”, dice Orben. EL PAÍS publicó un artículo sobre ese tema hace unos días y los científicos consultados básicamente tenían una respuesta: no sabemos qué impacto tiene. “La ciencia rutinaria es superpoderosa, cuidadosa, precisa, y no decimos que no se deba hacer, sino que hay que acelerarla en ciertos aspectos, porque ahora mismo todo el sistema a nuestro alrededor acelera”, añade Orben.

Las grandes compañías tecnológicas no van a ayudar. Su prioridad es lógicamente otra: ganar dinero. Las propuestas de Orben y Matias van dirigidas a la comunidad científica, no a las compañías: “Históricamente, las empresas han tendido a no querer saber algunas cosas” sobre el efecto de sus productos, describe Matias. “Nos preocupa que pase lo mismo con las tecnologías digitales. Si las empresas temen filtraciones, es comprensible que sus líderes se pregunten: ¿no será mejor no tener ningún registro sobre si este daño es real? Queremos cambiar esos incentivos”.

Matias y Orben aspiran a que todo esto no suene solo a “la ciencia es demasiado lenta” y que hay que despreciar la evidencia, pero sí que en una época donde las grandes tecnológicas tienen toda la información y pueden probar nuevos productos sin parar, la ciencia debe adaptarse. “Las empresas tecnológicas aceleran cómo desarrollan sus productos porque siempre están probando. Hacen pruebas A/B todo el tiempo, cambian cosas, ven qué pasa, y obtienen conocimiento rápido. No decimos ‘bajemos el estándar de evidencia para decir que algo es dañino’. Lo que decimos es que, aunque la evidencia no sea perfecta, deberíamos empezar a probar antes si ciertos cambios ayudan”, dice Orben.

Las medidas concretas que proponen Orben y Matias son cuatro.

1. Mejores datos sobre las consecuencias

El artículo pide que las tecnologías digitales puedan aparecer en los registros públicos cuando un funcionario registra posibles causas de muerte o daños. “Se podría empezar a incluir información sobre tecnología en sistemas como los registros de mortalidad, los informes de accidentes laborales o los informes policiales sobre violencia de pareja, igual que ya se hace con los accidentes de tráfico”, escriben Matias y Orben.

Sería un modo de tener más visión real sobre dónde puede estar afectando la tecnología: “Muchas veces, por ejemplo, con los jóvenes de ahora, tardamos muchísimo en entender qué hacen realmente y cómo les afecta. Y necesitamos afinar más el oído a lo que pasa en la vida real”, detalla Orben.

2. Ajustar la balanza del peligro

El artículo incluye esta frase sobre cómo gestionar el nivel de peligro: “Las pérdidas empresariales son más fáciles de revertir que las vidas”. Las grandes tecnológicas aprovechan la falta de evidencia clara para decir que no hay que alarmarse. Su temor es perder dinero. Igual hay que replantearse este baremo entre beneficios y salud, dicen los científicos.

Las pruebas causales perfectas en estos ámbitos son muy exigentes de lograr. A menudo se oye la frase que hay correlación, pero no casualidad. Por ejemplo, coincide una peor salud mental de algunos adolescentes de hoy con más uso de móviles, pero esa coincidencia (correlación) no está claro que sea causal (no es fácil aislar las causas para decir con certeza que son sobre todo los móviles). Son sistemas muy complejos, pero eso no tiene que significar que no se pueda pensar en soluciones. “A menudo, si me preguntan si tenemos buena evidencia sobre algo, mi respuesta puede ser que no. Pero entonces, ¿cuál es el siguiente paso? Lo que planteamos es que, además de decir que la evidencia es débil, tanto la ciencia como los políticos deberían empezar a hablar de si la evidencia no es buena, ¿actuamos ya? ¿Cuáles son los riesgos y beneficios de hacerlo? ¿O esperamos? Necesitamos una conversación más abierta sobre esto”, dice Orben.

Un ejemplo podría ser si los chatbots de IA deberían tener medidas de seguridad para evitar que fomenten el suicidio, dice Matias. “Hay gente que defiende, y se puede leer en manifiestos de capitalistas de riesgo, que las medidas de seguridad basadas en evidencia son enemigo de la innovación y de las ganancias. Esa es una visión que pone los beneficios corporativos de un lado y las vidas de las personas y la ciencia del otro. Así que pedimos a los científicos que además de buscar la evidencia y hacer una evaluación, piensen en lo que realmente está en juego cuando damos respuestas a políticos y público”, explica.

3. Trabajar en paralelo

Los experimentos sociales llevan a menudo años de preparación, ejecución y análisis. Orben y Matias proponen en algunos casos poner en marcha varias acciones en paralelo, al mismo tiempo. “En cierto modo, se trata de hacer las cosas más rápido, pero eso no significa saltarse ciertas etapas. Hay que acelerar, pero de una manera definida y cuidadosa”, dice Orben.

“A menudo nos pasamos un montón de tiempo discutiendo si un daño existe o no. Y luego hay un umbral altísimo para actuar, y solo entonces empezamos a pensar qué hacer”, añade Orben. Un ejemplo es cómo medir si las redes afectan el sueño de adolescentes. “Manipular un sistema y cambiar algo nos da evidencia bastante buena de cuál podría ser el impacto”, explica. En lugar de solo debatir si las redes sociales afectan el sueño, algo que es muy difícil de medir en datos a gran escala y a largo plazo, proponen: “Igual deberíamos ser más rápidos. Decimos a algunos padres que saquen el móvil del dormitorio, a otros no les decimos nada durante unas semanas, y vemos cómo afecta eso a los jóvenes. Ese tipo de pruebas podría ayudar a entender mejor los posibles daños”.

4. Una lista de los problemas

Hace años que hay preocupación por el impacto ambiental y en la salud de distintos tipos de químicos que se usan para limpiar, pintar o como pesticidas. Esos químicos eternos son difíciles de descomponer, causan cáncer y se sintetizaron por primera vez en los años 30. No fue hasta como los 2000 que los científicos por fin juntaron las pruebas definitivas y ha habido una revolución de químicos verdes, que defiende que, en lugar de esperar a ver si algo perjudica, debe darse prioridad al desarrollo de alternativas más seguras: “Estamos animando a que se adopte un enfoque parecido con la tecnología digital”, dice Matias.

“A veces no están seguros de si un compuesto concreto causa cáncer o algún otro problema, pero tienen una lista de cuánto se usa, qué incidentes han aparecido en registros de mortalidad, y luego los emprendedores pueden ver esa lista y desarrollar productos nuevos que sean más seguros. Hay mucho que ganar con un proceso similar de listas: ‘Aquí están los diseños que preocupan a la gente’, incluso mientras tratamos de definir la evidencia, podemos empezar ya a encontrar mejores alternativas. Es algo que requiere negociación y una entidad que se encargue de mantener esa lista. Pero es una solución basada en ciencia, en el mercado y en regulaciones que en otras áreas ha acelerado la creación de productos más seguros”, añade Matias.

La comparación entre las aplicaciones y la industria del tabaco no es muy precisa. “El tabaco es un compuesto estable, no hay muchas formas de hacerlo más seguro. Se habla mucho del tabaco comparado con las redes sociales, pero es distinto, porque con las redes sí podríamos diseñar algo mucho más seguro”, dice Orben.

Los productos químicos son un mejor modelo, insiste Matias: “Los químicos tienen muchísimos usos valiosos. Y a la vez hay compuestos que son tóxicos. Así que el reto para la sociedad es ir mejorando constantemente, pero también saber identificar las cosas que son tan malas que, simplemente, hay que prohibirlas”.

Conforme a los criterios de

Conocé más

¿Sin tiempo, sin plata, sin ganas? La opción que puede convertirse en tu nuevo entrenador personal

¿Vuelve la fiebre cripto? Bitcoin crece y cotiza por arriba de los US$90.000 en un día clave

Por favor y gracias. Tratar con cortesía a ChatGPT cuesta millones de dólares, pero vale la pena