ASSEDEL
“AI Act: un frente para contrarrestar la vigilancia masiva inspirada en el modelo chino”
En los últimos años, el uso de la inteligencia artificial ha suscitado una preocupación creciente, especialmente en relación con los posibles abusos vinculados a los sistemas de vigilancia social, como los que ya se han implementado en países como China. En estos contextos, la tecnología se utiliza a menudo para supervisar y controlar la vida cotidiana de los ciudadanos, menoscabando su libertad y privacidad. Para hacer frente a estos riesgos, Europa ha emprendido un proceso legislativo con el AI Act, una legislación que no solo pretende regular el uso de la inteligencia artificial, sino también combatir las formas invasivas de vigilancia y proteger los derechos fundamentales de los ciudadanos. De hecho, el AI Act tiene como objetivo garantizar un uso ético de la inteligencia artificial, promoviendo un modelo de “IA fiable” que respete los principios de transparencia, equidad y no discriminación.
El proceso hacia la aprobación de esta ley comenzó en 2018, cuando la Comisión Europea creó un grupo de expertos en inteligencia artificial. Este grupo elaboró directrices éticas para la IA en Europa, identificando el concepto de “IA fiable” como el único modelo aceptable en los Estados miembros.
Posteriormente, la propuesta de reglamento fue presentada por la Comisión Europea el 21 de abril de 2021 con la intención de crear un marco regulador armonizado y proporcionado para la inteligencia artificial dentro de la Unión Europea.
El AI Act se basa en el principio de que la inteligencia artificial debe desarrollarse y utilizarse de manera que garantice la seguridad, los estándares éticos y el respeto de los derechos fundamentales y de los valores europeos. Para lograrlo, la propuesta establece un sistema de clasificación de las tecnologías de IA basado en los riesgos potenciales que pueden representar para la seguridad y los derechos de las personas. También establece una serie de requisitos y obligaciones tanto para los proveedores como para los usuarios de estos sistemas. El marco regulador del AI Act incluye asimismo una clasificación de los sistemas de IA según el nivel de riesgo que representan para las personas y la sociedad. Esta clasificación distingue cuatro niveles de riesgo: riesgo inaceptable, alto, limitado y mínimo o nulo.
– Riesgo inaceptable: Esta categoría incluye los sistemas de IA que vulneran los valores fundamentales de la Unión Europea, como el respeto de la dignidad humana, la democracia y el Estado de derecho. Estos sistemas están generalmente prohibidos o, en casos específicos, como la vigilancia biométrica en tiempo real con fines de seguridad, están sujetos a estrictas restricciones. Entre los sistemas prohibidos se encuentran las tecnologías que manipulan el comportamiento humano hasta el punto de menoscabar la autonomía de los usuarios, así como los sistemas que permiten a las autoridades públicas realizar una clasificación o puntuación social, como ocurre en China.
– Alto riesgo: Esta categoría incluye los sistemas de IA que pueden tener un impacto significativo o sistémico sobre los derechos fundamentales o la seguridad de las personas. Por ello, estos sistemas están sujetos a estrictos requisitos y deben cumplir rigurosas obligaciones antes de ser comercializados o utilizados. Entre los ejemplos se encuentran las tecnologías utilizadas en los procesos de contratación y selección de personal, en el acceso a la educación, en la prestación de servicios sociales esenciales como la atención sanitaria, en la vigilancia biométrica a distancia y en aplicaciones relacionadas con los sectores judicial y policial. Los sistemas utilizados para garantizar la seguridad de infraestructuras críticas también están incluidos en esta categoría.
– Riesgo limitado: Esta categoría incluye los sistemas de IA que pueden influir en los derechos o las decisiones de los usuarios, pero en menor medida que los sistemas de alto riesgo. Para garantizar un uso informado, estos sistemas están sujetos a requisitos de transparencia que permiten a los usuarios saber cuándo están interactuando con un sistema de IA y comprender su funcionamiento, características y posibles limitaciones. Entre los ejemplos de esta categoría se encuentran las tecnologías utilizadas para generar o manipular contenidos audiovisuales, como los deepfakes, o para ofrecer recomendaciones personalizadas, por ejemplo, mediante chatbots.
– Riesgo mínimo o nulo: Esta categoría incluye los sistemas de IA que no afectan directamente a los derechos fundamentales ni a la seguridad de las personas, garantizando a los usuarios plena libertad de elección y control. Para fomentar la innovación y la exploración tecnológica, estos sistemas no están sujetos a obligaciones regulatorias. Entre los ejemplos habituales se encuentran las aplicaciones destinadas al entretenimiento, como los videojuegos, o aquellas con fines estéticos, como los filtros fotográficos, que no tienen implicaciones significativas para la sociedad o los derechos individuales.
El AI Act tiene como objetivo garantizar la seguridad y la ética en el uso de la inteligencia artificial, protegiendo los derechos de las personas y las organizaciones. Entre las principales medidas se incluyen:
– Requisitos para los sistemas de IA de alto riesgo destinados a proteger derechos fundamentales como la privacidad, la dignidad y la no discriminación.
– Supervisión humana para controlar y corregir los sistemas de IA, evitando daños a las personas o al medio ambiente.
– Prohibición de sistemas de IA que vulneren los valores de la UE, como aquellos que manipulan el comportamiento o explotan las vulnerabilidades de las personas.
– Establecimiento de un marco de gobernanza en el que participen todas las partes interesadas, con medidas de cooperación, supervisión y sanciones.
– Promoción de una cultura de IA responsable, fomentando la transparencia, la rendición de cuentas y la educación para fortalecer la confianza pública.
Por lo tanto, el AI Act pretende regular aquellas áreas en las que surgen riesgos, centrándose más en los usos de la inteligencia artificial que en la tecnología en sí misma. Al definir las normas que regulan el impacto de la tecnología en la vida de las personas, es fundamental perseguir al menos cuatro objetivos y equilibrarlos cuidadosamente: fomentar la innovación tecnológica, garantizar la protección de los derechos de los ciudadanos, asegurar la viabilidad de los requisitos impuestos y hacer que la legislación sea sostenible a lo largo del tiempo.
Este último aspecto, conocido como “future-proofness” o capacidad de adaptación al futuro, implica la necesidad de crear normas que sigan siendo válidas y aplicables incluso en un contexto tecnológico en constante evolución.
FUENTES:
– https://www.europarl.europa.eu/topics/en/article/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence
– https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai