Blog

Background top
Jun 07, 2022
Regulación

La UE quiere regular la Inteligencia Artificial

El anhelo de entender la inteligencia humana y crear un ser inteligente es un anhelo humano muy antiguo. Hasta ahora, el arte era el conducto apropiado para explorarlo. Personajes como la criatura del Dr. Frankenstein o HAL, la computadora inteligente de la película 2001: odisea en el espacio, responden a este anhelo. Con los avances científicos y técnicos en el campo de la inteligencia artificial (“IA”), los ingenieros fueron entrando poco a poco en lo que hasta entonces era la provincia exclusiva de los artistas. Tras el paso de los ingenieros y la introducción de los sistemas de inteligencia artificial al mercado, una nueva ola de colonos se prepara para entrar en el campo de la IA: los legisladores y entes reguladores europeos.

Implicaciones de la Propuesta de reglamento sobre inteligencia artificial

En abril del año pasado, el Parlamento europeo publicó la Propuesta de reglamento sobre inteligencia artificial (la “Propuesta”), que se espera que sea debatida y aprobada pronto. La Propuesta prohibe ciertas prácticas especialmente perjudiciales de IA, regula los sistemas de IA de alto riesgo, y establece normas armonizadas para el desarrollo, la introducción en el mercado y la utilización de sistemas de IA en la Unión. Además, propone un régimen robusto de multas y sanciones, y la creación de un Comité Europeo de Inteligencia Artificial para observar el cumplimiento de la misma. El hilo conductor de la Propuesta es la clasificación de los sistemas de IA según su nivel de riesgo, en sistemas prohibidos, de alto riesgo, de riesgo medio o bajo, y el resto. 

El artículo 5 esboza cuatro sistemas de IA que el Parlamento europeo y el Consejo entiende que presentan un riesgo de tal gravedad a los derechos y libertades de los ciudadanos de la Union que es mejor prohibidos del todo. Estos son:

  • (I) IA que manipula el comportamiento humano con técnicas subliminales, ocasionando daños físicos o psicológicos
  • (II) IA que explota ciertas vulnerabilidades de un colectivo para manipular el comportamiento de sus integrantes, ocasionando daños físicos o psicológicos
  • (III) Sistemas de crédito social que lleven a un trato perjudicial o desfavorable para una persona o colectivo, en un contexto distinto de aquel en que se recabaron los datos o que sea desproporcionado o injustificado en relación con su comportamiento
  • (IV) La identificación biométrica en espacios públicos con fines de aplicación de la ley

Las prohibiciones pueden separarse en dos categorías: las que protegen una esfera interior de autonomía, y las que protegen al individuo en el espacio público. Las prohibiciones (I) y (II) protegen a las personas de técnicas como, por ejemplo, el “nudging” y los ataques fraudulentos dirigidos a personas mayores. Mientras el “phishing” u otros ataques son claramente perjudiciales para las personas, con el “nudging” habrá que evaluar las medidas caso por caso. Por otra parte, las prohibiciones (III) y (IV) parecen diseñadas para evitar la implantación en Europa de un sistema de control social similar al existente en la China y otros países asiáticos.

El alcance de la prohibición es considerable tomada por sí sola, pero más aún con la definición de inteligencia artificial propuesta en el artículo 3. Según esta, IA es cualquier software “que puede, para un conjunto determinado de objetivos definidos por seres humanos, generar información de salida como contenidos, predicciones, recomendaciones o decisiones que influyan en los entornos con los que interactúa”. Con esta definición, la prohibición abarca un rango muy amplio de sistemas, desde el machine learning y sistemas probabilísticos, hasta sistemas de razonamiento lógico.

La Propuesta no es más que un primer intento del legislador europeo de normar el uso de la IA, y como tal todavía debe ser objeto de debate y votación, pero es un paso en la dirección correcta. Aporta claridad sobre el pensamiento del legislador y contribuye a la seguridad jurídica necesaria para manejar las expectativas de los usuarios, programadores e inversores. Recuerda a los artistas e inventores que no están solos, sino que sus creaciones serán adoptadas por la sociedad. Desde Alice estamos preparados y expectantes de las novedades legislativas en este ámbito, para poder brindar el mejor servicio en el mercado.

¿Afectará la Propuesta de reglamento sobre inteligencia artificial a las startups?

En Alice, nuestra tecnología de reconocimiento facial emplea módulos de machine learning y redes neuronales para llevar a cabo el servicio. Ambas técnicas entran en la definición de inteligencia artificial contenida en el artículo 3 de la Propuesta. Sin embargo, el sistema de Alice no entra en ninguna de las categorías prohibidas. Ni siquiera en la prohibición de identificación biométrica, puesto que Alice se dedica a autentificar la identidad bajo pedido y con consentimiento del usuario, mientras el artículo 5 prohibe la identificación de un individuo en un espacio público, probablemente sin su conocimiento, menos aún su consentimiento. Por tanto, los servicios de reconocimiento facial de Alice seguirán funcionando con normalidad en caso de que la Propuesta sea aprobada.

Hay muchas otras técnicas de autenticación biométrica física y de comportamiento en el mercado y cada una tiene sus propias ventajas y desventajas. Sin embargo, una cosa es segura: los métodos biométricos son mucho más seguros que las contraseñas típicas debido a su funcionalidad basada en características humanas únicas. Con tantas opciones ahora disponibles para nosotros, el futuro es definitivamente sin contraseña.