Un grupo de investigadores de inteligencia artificial ha creado un sitio web colaborativo llamado FLARE-AI (Flaw Reporting for AI) para reportar y rastrear los daños causados por la IA. El proyecto surge como respuesta a la falta de mecanismos centralizados y transparentes para informar sobre las fallas que presentan los sistemas de inteligencia artificial en la actualidad.
El sistema permite reportar diversos tipos de problemas, desde la generación de malware o instrucciones peligrosas hasta la filtración de información personal y los delirios que pueden experimentar los usuarios. El código fuente abierto del sistema permite que otros verifiquen los problemas reportados y envíen los informes tanto a los creadores de los modelos como a organizaciones como MITRE, que monitorea los problemas técnicos. Es similar a Downdetector, que recopila informes de usuarios sobre interrupciones de servicios.
“En la actualidad, no existe una forma centralizada y transparente de informar sobre fallas en los sistemas de IA”, afirma Avijit Ghosh, investigador de politicas de IA en HuggingFace, quien codirigio el desarrollo de FLARE-AI junto con los cientificos informaticos Elaine Zhu y Shayne Longpre. El sistema se desarrollo en colaboracion con 49 expertos en IA de 32 organizaciones diferentes.
Los problemas que aborda FLARE-AI van mas alla de las fallas tecnicas convencionales e incluyen dano psicologico, discriminacion, sesgos y desinformacion. Los investigadores senalan que las distintas empresas tienen diferentes estandares en relacion con estos temas, lo que significa que algunos problemas pasan desapercibidos. “Ante la ausencia de un sistema de divulgacion coordinado, no existen mecanismos externos que garanticen la transparencia”, explica Ghosh.
Una serie de incidentes recientes demuestran lo facil que es que esta tecnologia falle. Esta semana, una empresa llamada LayerX revelo una forma de engañar a los navegadores web con IA para que eludieran sus medidas de seguridad. Ademas, un proyecto de ley aprobado por el Congreso estadounidense el mes pasado podria otorgar un respaldo significativo para iniciativas como FLARE-AI, al exigir al NIST desarrollar estandares para la notificacion de fallas en la IA y mantener una base de datos centralizada.
Fuente: Wired Espana
