Casos de uso de IA y normas relacionadas

Cada caso de uso enlaza las normas que lo mencionan, su clasificación de riesgo por jurisdicción y los documentos base que tratan esos temas.

• Empleados usan IA generativa (ChatGPT, Copilot, Gemini…)

  Uso de asistentes de IA generativa por el personal para redactar, resumir, traducir, analizar o investigar en su trabajo diario, con herramientas autorizadas o no (shadow AI). El riesgo está en los datos que se introducen, la confianza en resultados erróneos y la propiedad de lo generado.

• Asistentes de código

  Herramientas que sugieren, completan o generan código fuente dentro del entorno de desarrollo o mediante agentes. Los riesgos son la fuga de código o secretos, las licencias de código abierto incompatibles, las vulnerabilidades y la propiedad del código generado.

• Chatbot o asistente de atención al cliente

  Asistentes conversacionales de texto o voz que atienden a clientes en web, aplicaciones, WhatsApp o centros de llamadas. Ya están regulados: hay que informar de que se habla con una IA y, en varios países, ofrecer la opción de hablar con una persona.

• Chatbot de compañía o conversación social

  Chatbots diseñados para mantener relaciones o conversaciones personales sostenidas, como amistad, apoyo emocional o personajes. Varios estados de EE. UU. ya exigen avisos, protocolos ante crisis y protecciones para menores.

• Agentes de IA que ejecutan acciones

  Sistemas que, a partir de un objetivo, planifican y ejecutan acciones en otras herramientas: enviar correos, comprar, modificar registros o aprobar trámites. Su riesgo depende de los permisos que tengan y de si deciden sobre personas sin intervención humana.

• Contenido generado o sintético para marketing

  Textos, imágenes, videos y audios generados con IA para publicidad, redes sociales, catálogos o comunicación corporativa. Los riesgos son engañar al público, infringir derechos de terceros y hacer afirmaciones sobre IA sin sustento.

• Clonación de voz o imagen de personas

  Creación de réplicas digitales de la voz, el rostro o la apariencia de personas reales, como locutores, empleados, actores o clientes. Exige consentimiento y transparencia, y su uso para engañar o suplantar está sancionado en varios países.

• Selección, evaluación o despido de personal

  Uso de IA para publicar y dirigir ofertas, filtrar currículos, entrevistar, puntuar candidatos o evaluar desempeño, ascensos y despidos. Es el caso de uso con más normas vigentes en el mundo por su impacto en el derecho al trabajo y el riesgo de discriminación.

• Gestión algorítmica de trabajadores (turnos, tareas, pagos)

  Sistemas que asignan turnos, tareas, rutas o pagos, fijan objetivos o deciden incentivos y sanciones sin que un supervisor intervenga en cada caso. Afectan las condiciones de trabajo, por eso las leyes de plataformas y de información algorítmica exigen transparencia y supervisión humana.

• Monitorización de trabajadores

  Uso de IA para vigilar la actividad, productividad, ubicación, comportamiento o estado de los trabajadores mediante cámaras, software o sensores. Choca con la intimidad y la dignidad, por eso exige proporcionalidad, información previa y, en la UE, está prohibido inferir emociones.

• Scoring de crédito o solvencia

  Modelos que estiman la probabilidad de impago o la solvencia de una persona para conceder, denegar o fijar el precio de un crédito. Es alto riesgo en la UE y Perú y exige explicar las razones de la denegación y permitir la revisión humana en casi todas las jurisdicciones.

• Tarificación o suscripción de seguros

  Modelos que calculan primas, aceptan o rechazan riesgos o ajustan coberturas a partir de datos de la persona. En seguros de vida y salud es alto riesgo en la UE y varios supervisores de EE. UU. exigen gobierno y pruebas de discriminación.

• Diagnóstico, triaje o soporte clínico

  IA que ayuda a diagnosticar, priorizar pacientes, recomendar tratamientos, leer imágenes médicas o redactar documentación clínica. Un error afecta la salud, por eso se exige validación clínica, supervisión médica, transparencia con el paciente y, si es dispositivo médico, registro sanitario.

• Admisión, evaluación o vigilancia de exámenes

  IA que decide admisiones, califica trabajos, asigna niveles o vigila exámenes en línea. Condiciona el acceso a la educación de estudiantes, a menudo menores, por eso es alto riesgo en la UE y Perú y el reconocimiento de emociones en las aulas está prohibido en la UE.

• Biometría, reconocimiento facial o de emociones

  Identificación o verificación de personas por rasgos físicos o de comportamiento, categorización biométrica y reconocimiento de emociones. Es el uso más restringido: hay prohibiciones en la UE y Perú, consentimiento escrito en varios estados de EE. UU. y datos sensibles en toda la región.

• Entrenamiento o ajuste de modelos con datos propios

  Entrenar, ajustar (fine-tuning) o alimentar modelos con datos de clientes, empleados o fuentes públicas. Exige una base jurídica para reutilizar datos personales, documentar los conjuntos de datos y, si se desarrolla un modelo de propósito general, cumplir obligaciones de proveedor.

• Funciones de IA dentro de software de proveedores

  Funciones de IA incluidas en el software que la organización ya contrata, como CRM, ERP, suites ofimáticas o herramientas de RR. HH. El cliente sigue siendo responsable de cómo se usan y debe controlar contratos, datos, entrenamiento con su información y subencargados.

• Vender software o servicios que incluyen IA

  Organizaciones que desarrollan y comercializan productos o servicios con IA para otras empresas o consumidores. Asumen obligaciones de proveedor y, sobre todo, la exigencia de clientes que piden pruebas de gobierno, seguridad y transparencia antes de comprar.

• Acceso a servicios o prestaciones públicas

  IA usada por entidades públicas o sus proveedores para decidir o priorizar el acceso a subsidios, ayudas, servicios sociales, sanitarios o trámites. Afecta a personas vulnerables y derechos fundamentales, por eso exige evaluación de impacto, transparencia y revisión humana.

• Otras decisiones automatizadas con efectos relevantes (vivienda, precios, acceso a servicios)

  Decisiones automatizadas o muy influidas por IA que afectan a las personas fuera del empleo y el crédito: alquiler de vivienda, precios personalizados, acceso a servicios, bloqueo de cuentas o servicios legales. Activan los derechos frente a decisiones automatizadas de las leyes de datos y, en EE. UU., las leyes de decisiones consecuentes.