EL ENFOQUE A RIESGOS Los sistemas de IA se catalogan en la norma en varias categorías en función del riesgo que presentan: inaceptable, alto riesgo, riesgo limitado y mínimo. Los sistemas de riesgo inaceptable estarán prohibidos, mientras que los de alto riesgo requerirán estrictas medidas de conformidad. Los sistemas de riesgo limitado y mínimo tendrán regulaciones y medidas menos estrictas. El riesgo es inaceptable cuando se considera contrario a los valores de la Unión, por ejemplo, estarían incluidos aquí los sistemas de puntuación social, los sistemas que representen una clara amenaza para la seguridad, o para la vida y los derechos de las personas y la manipulación de comportamientos humanos. Sin duda, una sociedad que permita el uso de estos sistemas será una sociedad insoportable, y actuar y regular resulta vital para la salvaguarda del Estado de Derecho y de los valores de la Unión Europea, sobre todo, cuando la tecnología o IA que permitiría estos usos ya puede existir. De entre los sistemas permitidos se distinguen los de alto riesgo: reconocimiento facial remoto, infraestructuras críticas que podrían poner en riesgo la vida y la salud de los ciudadanos, formación educativa o profesional, que puede determinar el acceso a la educación y el curso profesional de la vida de una persona (por ejemplo, puntuación de exámenes), y dentro de los de riesgo limitado o nulo estarían los Chatbots o los videojuegos con IA. CUMPLIMIENTO NORMATIVO Cumplir con obligaciones específicas va a resultar fundamental para los proveedores que deben garantizar que sus sistemas sean conformes con los requisitos de calidad y seguridad establecidos, evaluando riesgos, garantizando la transparencia y proporcionando información clara sobre el funcionamiento y propósito del sistema. SALVA SILVESTRE DIPUTADO 9º DE LA JUNTA DE GOBIERNO DEL ICAV Además, deben mantener registros detallados de las actividades de IA y monitorizar continuamente su desempeño y cumplimiento normativo, exigiendo que los sistemas de IA se diseñen y operen de manera que respeten la privacidad del usuario y cumplan con la normativa en materia de protección de datos. Alea iacta est, dijera Julio César al cruzar el Rubicón… ¿Seremos, en realidad, dueños de la IA? “Mientras los Estados Unidos y China luchan por dominar tecnológicamente la IA, Europa ha hecho una de las cosas que mejor sabe hacer, que es regular.”
RkJQdWJsaXNoZXIy NTQ2OTk=