Proveïdor vs desplegador
Proveïdor i desplegador són dos papers previstos pel Reglament d'IA, però qui els assumeix no es pot fixar per avançat: depèn del sistema, de la configuració i del contracte. AJUTIA pot ser proveïdora en uns supòsits i desplegadora en altres; el mateix val per al client. La distribució de deures s'avalua per a cada ús concret; la determinació formal de qui és responsable de cada obligació està pendent d'assessorament jurídic.
Pràctiques prohibides (art. 5)
L'article 5 del Reglament d'IA prohibeix determinades pràctiques en els supòsits que defineix: inferir emocions al treball o a l'escola, excepte els usos amb finalitat mèdica o de seguretat (art. 5.1.f); categoritzar persones a partir de dades biomètriques segons atributs sensibles (art. 5.1.g); i la puntuació social que comporta un tractament perjudicial injustificat o desproporcionat (art. 5.1.c). Aquests supòsits s'apliquen des del febrer de 2025. No els oferim. La verificació que no s'usen depèn de la configuració i l'ús del desplegador; cal examinar cada cas concret.
Avís d'IA (art. 50.1)
L'obligació d'informar que s'està parlant amb una màquina. Ha de ser visible i al començament, no amagat als termes d'ús. És un criteri de disseny i de QA que tot assistent d'AJUTIA mostri l'avís al primer missatge; la verificació transversal desplegada està pendent.
Alt risc (annex III)
Sistemes amb requisits reforçats: selecció de personal, educació, accés a serveis públics, avaluació de solvència. Segons el calendari de la Unió Europea, aquests requisits s'apliquen a partir del 2 de desembre de 2027. Hi treballem per avançar-nos-hi.
Supervisió humana
Que una persona aprovi abans que passi res irreversible: enviar a l'administració, cobrar, publicar. L'IA proposa; la persona decideix. Podeu configurar que cap acció irreversible passi sense aprovació humana. Cal activar-ho i fer-ho servir així.
No som auditors
No certifiquem res. No prometem que passaràs cap auditoria. L'objectiu és ajudar-te a arribar-hi amb evidències ordenades, no garantir-ne el resultat. La diferència és important: nosaltres et donem les eines; l'auditor és qui verifica.