Inventari i Avaluació Preliminar d'IA
Reglament (UE) 2024/1689 — AI Act — Aplicació AI-P
Consultoria de Tecnologia Aplicada (CTA) · Barcelona · Madrid · Val d'Aran
1. Objecte
Aquest document identifica els components d'intel·ligència artificial presents o previstos a AI-P i en fa una classificació preliminar de risc conforme al Reglament (UE) 2024/1689 (AI Act), per anticipar les obligacions que en resultin.
2. Inventari de components d'IA a AI-P
| Component | Funció | Estat |
|---|---|---|
| Assistent/agent d'ajuda a la redacció d'expedients | Suport redactor per a formularis o memòries de sol·licitud. | en desenvolupament |
| Motor de puntuació o priorització de sol·licituds | Avaluació automàtica o semiautomàtica de l'elegibilitat/puntuació d'expedients de subvenció. | No aplica |
| Cercador/RAG sobre normativa de subvencions | Assistència informativa a l'usuari sobre normativa aplicable. | Actiu i llegible |
3. Classificació preliminar de risc (Annex III)
L'AI Act qualifica com a sistema d'alt risc, entre d'altres, els sistemes d'IA destinats a ser utilitzats per autoritats públiques per avaluar l'elegibilitat de persones físiques a prestacions i serveis públics essencials. Si AI-P inclou un component que puntuï, prioritzi o decideixi automàticament sobre l'elegibilitat d'una subvenció, aquest component s'hauria de considerar potencialment d'alt risc.
- Si el component d'IA només assisteix informativament (redacció, cerca de normativa) sense intervenir en la decisió: risc limitat/mínim, subjecte principalment a obligacions de transparència (art. 50).
- Si el component d'IA puntua, filtra o prioritza sol·licituds de manera que condiciona la decisió final: risc alt (Annex III), encara que les obligacions substantives (gestió de riscos, supervisió humana, registre) no siguin exigibles fins al 2 de desembre de 2027, es recomana començar ja la documentació.
4. Obligacions de transparència (art. 50) — ja vigents
- Informar les persones usuàries quan interactuïn amb un sistema d'IA (per exemple, un assistent o chatbot) de manera clara i identificable.
- Etiquetar de manera adequada qualsevol contingut generat o modificat substancialment per IA que es publiqui.
5. Properes accions
- Completar l'inventari real de components d'IA d'AI-P amb l'equip tècnic.
- Implementar ja els avisos de transparència de l'article 50 per a qualsevol interacció amb IA visible a l'usuari.