Periodista por un día > Inteligencia Artificial Prohibida

Publicado el 19 de abril de 2021

Inteligencia Artificial Prohibida

Existe una especie de “revolución” respecto del uso de la Inteligencia Artificial en muchísimas áreas del quehacer humano, sin dudas el uso de la IA en casos particulares es más eficiente que el humano, sin embargo, en otros casos podría generar problemas no deseados que derivan en demandas legales. Eurodiputados trataran un proyecto para limitar el uso de “IA de alto riesgo”.

La Comunidad europea trataría una Ley que propone prohibir el uso de IA [1], el proyecto define “IA de alto riesgo” y prohibiría el uso de IA para:

  • Sistemas que establecen prioridad en el despacho de servicios de emergencia
  • Sistemas que determinan el acceso o la asignación de personas a los institutos educativos
  • Algoritmos de reclutamiento
  • Aquellos que evalúan la solvencia crediticia
  • Aquellos para realizar evaluaciones de riesgos individuales
  • Algoritmos de predicción de delitos

Las prohibiciones excluirían a los sistemas de IA usados por el ejército y la seguridad pública.

forbiddenAI

Los sistemas de vigilancia biométricos utilizados en lugares de acceso público han informado erróneamente un número importante de ciudadanos inocentes, la vigilancia policial predictiva o el monitoreo y seguimiento indiscriminado de poblaciones a través de sus características biométricas son sistemas que también han generado informaciones erróneas que derivan en demandas legales.
Estos sistemas han recibido fuertes críticas, revisiones y análisis, los expertos indicaron que muchos sistemas de IA como los que se utilizan en policía para el reconocimiento de rostros, sistemas para el reclutamiento y otros sistemas de IA contienen reglas pobres, contienen “lagunas”.
Si se consolida la Ley, la Comunidad Europea tendría que aplicar más supervisión a los sistemas de IA, generar organismos de evaluación, certificación e inspección de estos sistemas. Las empresas que desarrollen productos de “IA de alto riesgo”, o «servicios de IA prohibidos», donde no se proporcione información sobre su construcción “correcta”, podrían sufrir multas severas de hasta un 4% en relación a sus ingresos globales.
Los nuevos sistemas de inteligencia artificial deberán tener supervisión humana e incluir un «interruptor de apagado», un mecanismo para apagar instantáneamente el sistema en caso que se requiera.
Al parecer en varios casos los sistemas de IA aún no proporcionan suficientes garantías sobre sus resultados y buen funcionamiento. Generar una Ley que ponga límites a los sistemas de IA podría indicar la necesidad de realizar mayores esfuerzos para cumplir con los requisitos esperados de IA.
Frente a la revolución del uso de la IA, los investigadores en el área y las empresas de desarrollo necesitan realizar un esfuerzo mayor para proporcionar “sistemas de IA más humanos”, más efectivos y que den garantías sobre sus resultados.

Fuente:

  1. «Europe seeks to limit use of AI in society»  por Jane Wakefield. https://www.bbc.com/news/technology-56745730
Ulises Rapallini

Adaptado por Rapallini Ulises M. A.

Email: [email protected]

IEEE CIS Argentina

https://site.ieee.org/argentina-cis/

IEEE CIS