Cada vez vemos más contenidos que circulan por la red, especialmente a través de las redes sociales, que traspasan la línea que hay entre lo que es real y lo que no, debido a los montajes cada vez más sofisticados que se pueden llevar a cabo gracias a la Inteligencia Artificial. Esto está generando muchos problemas, ya que muchos usuarios pueden llegar a pensar que ciertas noticias falsas son reales en temas delicados o serios que acaban teniendo todo tipo de repercusión.
Por eso, la Unión Europea ha decidido poner freno a este tipo de contenidos y va a empezar a aplicar las primeras obligaciones de la recién aprobada Ley de Inteligencia Artificial (AI Act) que tiene el objetivo de controlar todos los contenidos que se realizan mediante tecnologías derivadas de la inteligencia Artificial antes de que circulen por la red. Así, a partir de este mismo domingo, 2 de agosto, Bruselas ha asumido por primera vez las competencias para velar por el cumplimiento de la norma. Una normativa de la que ya venían avisando de su implantación los organismos europeos desde hace un tiempo.
Tal y como recoge el texto oficial de la ley, el problema está en que "una diversidad de sistemas de IA puede generar grandes cantidades de contenidos sintéticos que para las personas cada vez es más difícil distinguir del contenido auténtico generado por seres humanos". Esto ha provocado "nuevos riesgos de desinformación y manipulación a escala, fraude, suplantación de identidad y engaño a los consumidores".
Será obligatorio avisar de cualquier uso de IA
Para que todo esto deje de ser un peligro constante, la ley europea ha dejado muy claro lo que los desarrolladores tienen que hacer. El reglamento obliga a que "los proveedores de sistemas de IA [...] que generen contenido sintético de audio, imagen, vídeo o texto, velarán por que los resultados de salida del sistema de IA estén marcados en un formato legible por máquina y que sea posible detectar que han sido generados o manipulados de manera artificial".
Además, los famosos 'chatbots' y asistentes conversacionales han sumado la obligación de advertir e informar claramente de que estás interactuando con una máquina y no con una persona real. La normativa comunitaria dicta literalmente que se debe "garantizar que los sistemas de IA destinados a interactuar directamente con personas físicas se diseñen y desarrollen de forma que las personas físicas de que se trate estén informadas de que están interactuando con un sistema de IA".
También se persigue a las llamadas ultrasuplantaciones (los populares 'deepfakes'), definidas por Bruselas como "un contenido de imagen, audio o vídeo generado o manipulado por una IA que se asemeje a personas, objetos, lugares, entidades o sucesos reales y que puede inducir a una persona a pensar erróneamente que son auténticos o verídicos", exigiendo que, a partir de ahora, se haga público su origen artificial de manera clara y distinguible.
Frenar los peligros de una tecnología sin precedentes
Aunque la inteligencia artificial ha facilitado mucho la vida a las personas, sobre todo en los entornos laborales, sus riesgos no han pasado desapercibidos. De hecho, la vicepresidenta del Ejecutivo comunitario encargada de Soberanía Tecnológica, Seguridad y Democracia, Henna Virkkunen, ha dicho al respecto: "La inteligencia artificial es una tecnología transformadora que puede aportar beneficios extraordinarios a nuestros ciudadanos y a nuestras empresas. Pero también estamos viendo que puede causar perjuicios si no se diseña y utiliza adecuadamente, y que los modelos más avanzados plantean riesgos de una magnitud completamente nueva".
Ya que las autoridades han detectado estos riesgos, el reglamento ha sido muy claro al establecer "prohibiciones de determinadas prácticas de IA". Entre ellas, ha prohibido del todo "la introducción en el mercado, la puesta en servicio o la utilización de un sistema de IA que se sirva de técnicas subliminales quevayan más allá de la conciencia de una persona o de técnicas deliberadamente manipuladoras o engañosas con el objetivo o el efecto de alterar de manera sustancial el comportamiento de una persona".
Un despliegue escalonado para la IA de alto riesgo
Sin embargo, la aplicación de esta ley no se ha hecho de golpe, sino que continuará de forma escalonada. El siguiente gran cambio llegará el 2 de diciembre de este año, cuando entren en vigor nuevas prohibiciones para impedir el uso de sistemas capaces de generar contenido sexual explícito sin consentimiento o material de abuso sexual infantil.
Más adelante, el 2 de diciembre de 2027, llegarán las normas aplicables a la IA considerada de alto riesgo, como la utilizada en ámbitos clave como la sanidad, la educación o el empleo. Y es que, tal y como advierte el texto legal, en áreas como la educación, estos sistemas automatizados "pueden decidir la trayectoria formativa y profesional de una persona y, en consecuencia, puede afectar a su capacidad para asegurar su subsistencia". Por lo que, con este nuevo marco, Europa ha sentado las bases definitivas para que la innovación tecnológica no sobrepase derechos ni cree problemas entre las relaciones personales.
