La inteligencia artificial (IA) esta fundamentalmente en todo nuestro planeta y la tecnología se está aplicando practicamente en todas las áreas. Es por este motivo que muchas personas se sienten preocupadas, temiendo además que la IA les arrebate sus puestos de trabajo y que también, pueda tomar decisiones de manera autónoma que logren afectar a toda la sociedad.
Debido a esta intranquilidad, la Unión Europea (UE) con sus países miembros, esta poniendo en marcha un reglamento de IA, con la finalidad de colocar limitaciones ante un posible crecimiento descontrolado de su uso. Se espera que este reglamento sea aprobado durante el 2024 y que entre en vigencia en 2026.
Tras más de 30 horas de negociación, la Comisión Europea, el Parlamento Europeo y el Consejo de la UE alcanzaron el 8 de diciembre de 2023 un acuerdo sobre la futura ley que regulará el desarrollo de la inteligencia artificial en Europa. La norma, la primera de su clase a nivel mundial, permitirá o prohibirá el uso de esta tecnología en función del riesgo que suponga para las personas.
ANTECEDENTES
Recordemos que este reglamento empezó a tomar forma en 2019, cuando aún no se hacía uso de la IA a nivel social -esto no se produjo hasta el estallido de ChatGPT- y muchas cosas han cambiado desde entonces. Actualmente, el chatbot convencional y generativo ChatGPT tiene 100 millones de usuarios activos a la semana en el mundo.
USOS PROHIBIDOS
La norma prohibe, entre otros usos, los sistemas de categorización biométrica por creencias políticas, religiosas, filosóficas o por raza u orientación sexual.
En este sentido, una de las claves de la nueva legislación es que clasifica esta tecnología en función del riesgo que representan sus sistemas; y en función de dicho riesgo, -establecido en 4 categorías- quedan prohibidas ciertas herramientas y aplicaciones.
Tal y como dicta la norma, se prohibirán directamente aquellos sistemas de IA "que se consideren una clara amenaza a los derechos fundamentales de las personas". Esto incluye sistemas o aplicaciones de inteligencia artificial "que manipulan el comportamiento humano, para eludir el libre albedrío de los usuarios -como juguetes que utilizan asistencia de voz para fomentar comportamientos peligrosos de menores o sistemas que permiten la 'puntuación social'- por parte de gobiernos o empresas. También, ciertas aplicaciones de vigilacia policial predictiva".
¿QUE REGULA EL REGLAMENTO?
El reglamento no está pensado, ni menos redactado, para evitar el uso de la IA. Su propósito gira en torno a que se puedan aprovechar todas las ventajas de esta, cada vez más novedosa tecnología.
La norma garantizará que los posibles riesgos que conlleva la IA se reduzcan todo lo que sea posible. Como ya está siendo normado, las aplicaciones de la tecnología deberán corresponderse en todo momento con los derechos y valores de la Unión Europea.
PRINCIPIOS DEL REGLAMENTO
- Las tecnologías de IA deben ser supervisadas por personas para minimizar riesgos.
- Los sistemas de IA deben cumplir los requisitos que se aplican en materia de protección de datos y transparencia.
- Los sistemas de IA deben poder ser identificables, y también comprensibles y explicables para las personas.
- Nadie deberá verse perjudicado o discriminado por el uso de aplicaciones de IA.
- Ni la sociedad, ni el medio ambiente, deberán verse perjudicados por los sistemas de IA.
CONOCIENDO LA CLASIFICACIÓN DE LOS SISTEMAS DE IA QUE ESTABLECERÀ EL REGLAMENTO EUROPEO
El reglamento de IA divide los sistemas de inteligencia artificial en 4 categorías. La clategoría a la que pertenecerá un sistema, dependerá de sus capacidades y los riesgos para la salud y la seguridad que entraña, así como para los derechos fundamentales de las personas.
Categoría 1
Sistemas de IA de riesgo mínimo (videojuegos con IA y los filtros de spam).
Es el más inocuo de los cuatro. Según la Comunidad Europea, la gran mayoría de los sistemas de IA entran en la categoría de riego mínimo. De acuedo al comunicado, "las aplicaciones de riesgo mínimo se beneficiarán de un pase libre y de la ausencia de obligaciones, ya que estos sistemas presentan un riesgo mínimo o nulo para los derechos o la seguridad de los ciudadanos".
No obstante, de forma voluntaria, las empresas pueden comprometerse a adoptar códigos de conducta adicionales para estos sistemas de IA.
Categoría 2
- Sistemas de IA de riesgo limitado (chatbots).
Son aquellas aplicaciones que no poseen un riesgo a la seguridad o derechos fundamentales, pero que a pesar de ello, deberán contar con los requisitos y obligaciones específicas de transparencia. Los usuarios deben ser conscientes de que están interactuando con una máquina para que puedan tomar una desición informada sobre continuar o retroceder.
Categoría 3
- Sistemas de IA de alto riesgo (infraestructuras críticas -agua, gas y electricidad, dispositivos médicos, sistemas robotizados de selección de personal o sistemas para evaluar la solvencia de las personas y establecer una calificación crediticia, sistemas utilizados en los ámbitos de la aplicación de la ley, el control de fronteras, la administración de justicia y los procesos democráticos; además, los sistemas biométricos de identificación, categorización y reconocimiento de emociones).
Estos sistemas deben cumplir con requisitos estrictos, incluidos "sistemas de mitigación de riesgos, alta calidad de conjuntos de datos, registro de actividad, documentación detallada, información clara para el usuario, supervisión humana y un alto nivel de robustez, precisión y ciberseguridad". "Los entornos de pruebas regulatorias facilitarán la innovación responsable y el desarrollo de sistemas de IA compatibles"
Categoría 4
- Sistemas de inteligencia artificial con un riesgo inasumible o inaceptable:
- Sistemas de categorización biométrica en espacios públicos: prohibe el uso de sistemas de IA para la identificación biométrica a distancia en espacios públicos, con excepciones limitadas y reguladas.
- Sistemas que explotan vulnerabilidades de menores o personas con discapacidad: aquellos que puedan distorcionar su comportamiento de manera que pueda causarles daño físico o psicológico.
- Sistemas de puntuación social: prohibe los sistemas de IA que evalúan o clasifican a las personas según su comportamiento social o personalidad.
- Sistemas que manipulan el comportamiento humano: prohibe los sistemas de IA diseñados para manipular el comportamiento humano para eludir el libre albedrío.
- Sistemas de categorización biométrica que utilizan características sensibles: p.e., creencias políticas, religiosas, filosóficas, orientación sexual o raza.
- Sistemas de reconocimiento facial: prohibe la extracción no dirigida de imágenes faciales del Internet o imágenes de Circuito Cerrado de Televisión (CCTV), para crear bases de datos de reconocimiento facial.
- Sistemas de reconocimiento emocional: prohibe el reconocimiento de emociones en el lugar de trabajo y en instituciones educativas.
Cabe mencionar que para las categorías anteriores se aplicará la siguiente política:
"Cuanto mayor sea el nivel de riesgo, más estrictos serán los requisitos legales para el sistema de IA en cuestión".
Una vez aprobada la Ley de IA se dará inicio a una fase de transición que durará 2 años. En caso de incumplimiento de la ley, podrán aplicarse sanciones por un importe de hasta 30 millones de euros o el equivalente al 6% del volumen de negocio anual. Se espera aprobar el reglamento durante 2024, y que este entre en vigor en 2026.
CONSIDERACIONES Y CRÍTICAS
Está por verse si el reglamento de IA se materializará finalmente en sus términos actuales. Entre tanto, son muchas las voces criticas que han surgido provenientes de numerosas asociaciones.
La Federación Alemana de Sindicatos aboga por la participación de interlocutores sociales. Según su presidenta Yasmin Fahimi, en el mundo laboral, evaluar el uso de la IA es algo muy delicado por lo que los interlocutores sociales deben asesorar sobre cuáles son los riesgos y propósitos de cada aplicación.
El Dr. Frank-Oliver Grün, presidente de la Asociación de medianas empresas informáticas alemanas, señaló que las pymes de los países de la Unión Europea manifiestan su satisfacción al reglamento, sin embargo, piensan que más que una ventaja competitiva para los pequeños desarrolladores de la IA europeos, puede suponer una desventaja si la normativa es demasiado compleja, agregando que es importante que el reglamento "sea cordial con la innovación y con las pymes", de manera que puedan seguir agregando valor en Europa.
El Ministro Federal de Economía, Robert Habeck, apuesta por un marco de trabajo internacional sobre el desarrollo y el uso de la IA, que vaya más alla de las fronteras de la Unión Europea, creando condiciones de competitividad equitativa a nivel internacional.(*)
(*) European Union
(*) Imágenes: Google
Comentarios
Publicar un comentario