La Comunidad europea trataría una Ley que propone prohibir el uso de IA [1], el proyecto define “IA de alto riesgo” y prohibiría el uso de IA para:

• Sistemas que establecen prioridad en el despacho de servicios de emergencia
• Sistemas que determinan el acceso o la asignación de personas a los institutos educativos
• Algoritmos de reclutamiento
• Aquellos que evalúan la solvencia crediticia
• Aquellos para realizar evaluaciones de riesgos individuales
• Algoritmos de predicción de delitos

Las prohibiciones excluirían a los sistemas de IA usados por el ejército y la seguridad pública.

Los sistemas de vigilancia biométricos utilizados en lugares de acceso público han informado erróneamente un número importante de ciudadanos inocentes, la vigilancia policial predictiva o el monitoreo y seguimiento indiscriminado de poblaciones a través de sus características biométricas son sistemas que también han generado informaciones erróneas que derivan en demandas legales.
Estos sistemas han recibido fuertes críticas, revisiones y análisis, los expertos indicaron que muchos sistemas de IA como los que se utilizan en policía para el reconocimiento de rostros, sistemas para el reclutamiento y otros sistemas de IA contienen reglas pobres, contienen “lagunas”.
Si se consolida la Ley, la Comunidad Europea tendría que aplicar más supervisión a los sistemas de IA, generar organismos de evaluación, certificación e inspección de estos sistemas. Las empresas que desarrollen productos de “IA de alto riesgo”, o «servicios de IA prohibidos», donde no se proporcione información sobre su construcción “correcta”, podrían sufrir multas severas de hasta un 4% en relación a sus ingresos globales.
Los nuevos sistemas de inteligencia artificial deberán tener supervisión humana e incluir un «interruptor de apagado», un mecanismo para apagar instantáneamente el sistema en caso que se requiera.
Al parecer en varios casos los sistemas de IA aún no proporcionan suficientes garantías sobre sus resultados y buen funcionamiento. Generar una Ley que ponga límites a los sistemas de IA podría indicar la necesidad de realizar mayores esfuerzos para cumplir con los requisitos esperados de IA.
Frente a la revolución del uso de la IA, los investigadores en el área y las empresas de desarrollo necesitan realizar un esfuerzo mayor para proporcionar “sistemas de IA más humanos”, más efectivos y que den garantías sobre sus resultados.