La incorporació de sistemes d’intel·ligència artificial (IA), especialment els denominats agents intel·ligents, està transformant la forma en què les organitzacions gestionen processos i tracten dades personals. Aquests sistemes, basats en models avançats, permeten automatitzar tasques, prendre decisions i operar amb un cert grau d’autonomia, la qual cosa aporta importants beneficis en eficiència i productivitat.
En Escura, departament de protecció de dades, ens arriben un gran nombre de consultes sobre la intel·ligència artificial.
Sent aquest tema molt polèmic i controvertit, la pròpia agència ha publicat una guia titulada “Intel·ligència artificial agéntica des de la perspectiva de protecció de dades”.
Hem confeccionat un resum en relació amb els principals punts de la guia, que no obstant això vostè trobés íntegrament al peu de la circular.
L’ús de la intel·ligència artificial implica nous reptes en matèria de protecció de dades, ja que aquests sistemes poden accedir, processar i compartir grans volums d’informació, incloent-hi dades personals, tant dins de l’organització com amb tercers.
Els Principals riscos que posa de manifest la guia són els següents:
- Accés excessiu a dades: possibilitat de tractar més informació de la necessària, vulnerant el principi de minimització.
- Falta de control i transparència: dificultat per a entendre com es prenen decisions automatitzades.
- Interacció amb múltiples serveis externs: augment del risc de transferències de dades no controlades.
- Emmagatzematge i ús de memòria: acumulació de dades personals sense una adequada gestió o limitació temporal.
- Autonomia dels sistemes: execució d’accions sense intervenció humana directa, amb possibles impactes en els drets de les persones.
- Errors i decisions automatitzades: risc de resultats incorrectes o esbiaixats que afectin els interessats.
En la guia es destaquen com les principals obligacions per a les organitzacions:
L’ús d’IA en el tractament de dades personals exigeix complir amb la normativa vigent, especialment el Reglament General de Protecció de Dades (RGPD).
- Definir clarament responsabilitats (responsable i encarregat del tractament).
- Garantir la transparència en l’ús de la IA i en el tractament de dades.
- Assegurar una base jurídica vàlida per al tractament.
- Respectar els drets de les persones (accés, rectificació, supressió, etc.)
- Avaluar riscos mitjançant anàlisis i, si és el cas, avaluacions d’impacte.
- Controlar decisions automatitzades, especialment quan tinguin efectes significatius.
Per tot això, recomanem adoptar les següents mesures parell un ús segur i conforme amb la normativa:
- Aplicar el principi de protecció de dades des del disseny i per defecte.
- Limitar l’accés a dades i aplicar polítiques de minimització i control.
- Establir mecanismes de supervisió humana efectiva.
- Gestionar adequadament la memòria i conservació de dades.
- Implementar sistemes de traçabilitat, auditoria i control.
- Garantir la seguretat tècnica i organitzativa dels sistemes.
- Formar i conscienciar als equips en l’ús responsable de la IA.
Per a accedir a la guia pots consultar l’enllaç.
© La present informació és propietat de Escura, advocats i economistes, quedant prohibida la seva reproducció sense permís exprés.
