Intel·ligència Artificial i Vulnerabilitat Social
Com impacten els algorismes, la bretxa digital i la IA generativa en els col·lectius en situació de risc? Una visió crítica, ètica i inclusiva impulsada pel grup GRAFO-UAB.
Algorisme i Equitat
Avaluador de Riscos Socials
Sistemes automatitzats que penalitzen sol·licitants per patrons geogràfics o d'edat.
Dificultat d'accés a eines d'IA generativa en entorns vulnerables.
Modelat lingüístic per reduir l'estigmatització i millorar l'atenció.
Eixos de Vulnerabilitat en l'Era de la IA
Explora les diferents dimensions a través de les quals la intel·ligència artificial afecta, condiciona o pot protegir els col·lectius vulnerables.
Simulador de Biaix Algorítmic en Ajuts Socials
Comprova com l'acumulació de diferents biaixos en els paràmetres d'un algorisme pot excloure injustament persones en situació de vulnerabilitat.
Paràmetres i Biaixos del Model
Penalitza sol·licitants de barris o zones de menor renda històrica.
Exigeix tràmits exclusivament en línia sense assistència presencial.
Penalitza sol·licitants d'edat avançada per perfils d'activitat digital.
Rebutja sol·licituds no estandarditzades o d'origen recent.
Resultat de Sol·licituds Simulades (100 Persones)
Biaix DetectatTest d'Avaluació d'Impacte Ètic i Vulnerabilitat
Desenvolupat com a guia d'autoaprenentatge per a desenvolupadors, serveis socials i entitats públiques/privades.
1. Quin és el públic objectiu o els afectats pel sistema d'IA?
Nivell de Risc Ètic de Vulnerabilitat
El sistema presenta àrees de millora importants en l'accessibilitat i la revisió de biaixos algorítmics.
Recomanacions del Projecte AFRONTA:
- Implementar auditories periòdiques d'equitat algorítmica.
- Garantir canals d'atenció no digitals per evitar l'exclusió per bretxa d'alfabetització.
Recursos Didàctics i Informes
Explora les seccions de recursos del projecte AFRONTA: infografies, guies, càpsules formatives i informes de recerca.
Preguntes Freqüents sobre IA i Vulnerabilitat
Respostes clau basades en el coneixement generat pel projecte AFRONTA.