LA NACION

El informe del gobierno de Estados Unidos sobre la Inteligencia Artifical que genera alerta

Dos expertos en IA analizaron, a lo largo de un año, el impacto del desarrollo tecnológico sin un control del ser humano y, como resultado, advirtieron que podría ser catastrófico

  • 3 minutos de lectura'
Un estudio sobre la Inteligencia Artificial asegura que podría ser una amenaza para la seguridad nacional y humana
Un estudio sobre la Inteligencia Artificial asegura que podría ser una amenaza para la seguridad nacional y humana(Fuente: iStock)

Este 2023, Italia y luego la Unión Europea fueron de los primeros en desarrollar un proyecto de marco legal que regule el uso de la Inteligencia Artificial en el bloque, algo que deberá ser aprobado por el Parlamento en los meses posteriores. Es que el temor a un desborde de este tipo de tecnología ya es un hecho presente y, por eso, los hermanos Jérémie y Edouard Harris elaboraron un informe en el que demostraron cómo esta herramienta podría volverse en contra de la raza humana.

Los Harris, propietarios de Gladstone AI, que se encarga de educar y generar políticas para prevenir riesgos en las empresas por parte de la Inteligencia Artificial, anunciaron, este lunes 11 de marzo mediante su cuenta de X, que finalizó el estudio que el gobierno de los Estados Unidos les encargó acerca de cómo esta tecnología podría representar una amenaza para la seguridad nacional.

Dos hermanos canadienses lideraron una investigación sobre la IA y sus peligros
Dos hermanos canadienses lideraron una investigación sobre la IA y sus peligros(Fuente: X/@jeremiecharris)

Este proyecto demoró un año y arrojó datos aterradores. Según explicó Jeremie, antes de iniciar con este plan, se contrató a “algunos de los más altos funcionarios de seguridad nacional y a los principales expertos en armas de destrucción masiva del gobierno de Estados Unidos”.

Tras ello, anunció: “Un importante conjunto de pruebas (muchas de ellas públicas) sugieren que la IA avanzada puede introducir riesgos similares a los de las armas de destrucción masiva para la seguridad nacional de Estados Unidos en un futuro próximo. Esa evidencia es consistente con informes de muchos investigadores de laboratorios líderes”.

En ese sentido, destacaron que la IA está preparada para desarrollar capacidades nuevas gracias a su sentido de aprendizaje, por lo que, a la larga, podría “convertirse en armas con efectos catastróficos”. “Es posible que ya estemos viendo un ‘despegue’ temprano en este sentido, a medida que las IA comiencen a reducir la barrera a ataques biológicos y cibernéticos potencialmente catastróficos”, expresó Jeremie.

Otro de los riesgos presentes es que estas aplicaciones sin necesidad de supervisión humana alcancen un mayor control de sus habilidades, por lo que los científicos mantienen una constante preocupación en no lleguen a un nivel alto de sistemas de protección que elimine el peligro de la Inteligencia Artificial.

Sin un control y prevención de riesgos, el informe advirtió que la IA podría volverse contra los humanos
Sin un control y prevención de riesgos, el informe advirtió que la IA podría volverse contra los humanos(Fuente: Pexels)

Sin embargo, el especialista aseguró que no todo es malo: “La IA es muy prometedora. Estamos entusiasmados. Hemos fundado empresas de Inteligencia Artificial desde 2015, llevamos una a través de YC y hemos invertido en muchas otras. Implementamos quizás la primera aplicación impulsada por GPT-4 en DOD y estábamos capacitando a los líderes senior en GenAI un año antes de ChatGPT”.

En tanto, en el informe se aclaró que la Inteligencia Artificial podría “potencialmente usarse para diseñar e incluso ejecutar ataques biológicos, químicos o cibernéticos catastróficos, o permitir aplicaciones armadas sin precedente en robótica de enjambre”. Además, se indicó que existen diversas “razones para creer que puede ser incontrolable si se desarrolla utilizando las técnicas actuales”. Esto podría generar un comportamiento adversario contra los seres humanos, lo que genera temor y preocupación.

Por su parte, Edouard envió tranquilidad a sus seguidores de X que rápidamente lamentaron los posibles efectos de esta tecnología: “Necesitamos que la IA siga brindando sus increíbles beneficios. Y hay maneras de hacerlo manteniendo los riesgos bajo control. Lo haremos”.

Estos hermanos canadienses se hicieron famosos el año pasado, cuando la Cámara de los Comunes de su país los invitó para dar una charla y concientizar acerca de las amenazas para la sociedad que podrían surgir si no se tienen en cuenta ciertos flancos. Hasta el día de hoy, sus estudios continúan avanzando y su mensaje, comunicándose y generando consciencia.

LA NACION
Cargando banners ...