Carta de explicación de decisión automatizada desfavorable

Cómo usar este documento

• Sirve para explicar por escrito a una persona por qué una decisión tomada total o parcialmente por un sistema de IA o de puntuación le fue desfavorable (denegación de crédito, de un seguro, de un empleo, de un servicio o restricción de una cuenta), qué datos se usaron y cómo pedir una revisión humana.
• Dueños sugeridos: el dueño del sistema (o Recursos Humanos en decisiones de empleo) para el envío, Legal para aprobar el texto y el equipo de datos del dueño del sistema para la biblioteca de motivos.
• Esta carta es la respuesta escrita del nivel T5 de la «Política de transparencia y explicación al usuario», que fija el circuito (canal, plazo, responsable y registro de explicaciones). La revisión humana posterior se tramita con el «Procedimiento de revisión de decisiones automatizadas» y el catálogo de derechos está en el «Anexo de derechos de las personas frente a la IA».
• Antes de adoptarla, la organización debe decidir en qué decisiones se envía la carta de oficio y en cuáles solo a petición, quién firma, en qué plazo se envía y por qué canal.
• Complete la carta base de la sección 3, añada el bloque de la sección 4 que corresponda al tipo de decisión y la variante del país de la persona.
• Los motivos se toman de la biblioteca de la sección 5, que debe construirse a partir de las variables reales del modelo y validarse con el equipo de datos.
• Conserve solo las variantes de los países donde toma decisiones sobre personas. En Estados Unidos, las cartas de crédito y las basadas en informes de consumidores tienen elementos propios: use el bloque 4.5 y revíselo con su asesor.
• Pida a legal interno o a un asesor externo que revise el texto final, sobre todo los plazos y las menciones obligatorias de cada país.
• Apruebe la carta en el [COMITÉ DE IA] o en el órgano responsable del proceso de decisión, regístrela con versión y conserve copia de cada carta enviada en el registro de explicaciones entregadas.

Carta de explicación de decisión automatizada desfavorable

1. Objeto y uso

1.1. [NOMBRE DE LA ORGANIZACIÓN] usa esta carta para explicar a las personas las decisiones desfavorables en las que interviene el sistema de IA [SISTEMA DE IA], de forma que puedan entender los motivos principales, corregir datos inexactos y pedir que una persona revise la decisión.

1.2. La carta se envía:

• de oficio, en las decisiones que la organización haya definido o cuando la norma del país lo prevea; y
• a petición de la persona, en cualquier otra decisión en la que haya intervenido el sistema.

1.3. Plazo interno de envío: [COMPLETAR: número] días desde la decisión o desde la solicitud, o el plazo menor que fije la norma del país.

1.4. Cada carta se vincula al «Registro de decisiones automatizadas» mediante su identificador, de forma que pueda comprobarse qué versión del modelo, qué datos y qué motivos se usaron, y se anota en el registro de explicaciones entregadas de la «Política de transparencia y explicación al usuario».

2. Reglas de redacción

1. Motivos concretos. Se indican los motivos principales reales de la decisión, normalmente entre dos y cuatro, ordenados por importancia. No se usan fórmulas genéricas como "no cumple nuestros criterios internos" o "decisión del sistema".
2. Lenguaje claro. Frases cortas, sin jerga técnica ni nombres de variables. Si hay que usar un término técnico, se explica.
3. Papel del sistema. Se dice si la decisión fue totalmente automatizada o si una persona la revisó, y qué peso tuvo el resultado del sistema.
4. Datos usados. Se indican las categorías de datos y sus fuentes (aportados por la persona, generados por la relación, obtenidos de terceros).
5. Qué podría cambiar el resultado. Cuando sea posible y no induzca a error, se indica qué factores, de ser distintos, habrían cambiado la decisión.
6. Secreto empresarial. La protección del secreto empresarial no justifica negar toda explicación. Se describe la lógica y los factores sin revelar el código o los pesos exactos, y la información detallada se reserva para la autoridad o el tribunal si la piden.
7. Coherencia. Los motivos coinciden con los que constan en el registro de decisiones. Nunca se inventan motivos "más presentables".
8. Derechos y vías. Se explica cómo pedir revisión humana, cómo aportar información o corregir datos y cómo reclamar ante la autoridad.
9. Accesibilidad. La carta se envía en el idioma de la relación con la persona y en formato accesible cuando se pida.