Les dossiers à traiter

Les décisions à préparer

Un usage à justifier

L’outil doit répondre à un besoin de service mesurable et respecter les compétences de l’organisme.

Un système à connaître

Origine des données, rôle du fournisseur, performance et conditions de surveillance doivent pouvoir être documentés.

Un contrôle à organiser

Les agents doivent pouvoir détecter les erreurs, décider quand interrompre l’usage et expliquer leur intervention.

Situations et missions

Ce que XXI peut réaliser

Cadrer un assistant pour les agents

La situation. Une administration veut utiliser une IA pour préparer des réponses aux usagers.

L’intervention. Délimiter les informations traitées, les usages autorisés, la validation humaine, la confidentialité et les exigences du contrat.

Ce qui est remis. Une note de qualification, un protocole d’usage et des clauses d’achat et de suivi.

Sélectionner une solution de traitement

La situation. Un organisme compare des outils pour trier et résumer des milliers de dossiers.

L’intervention. Cartographier données et risques, vérifier les exigences applicables au système et préparer les critères d’évaluation des offres.

Ce qui est remis. Une grille de conformité, un cahier des charges et un plan de tests.

Auditer un système déjà déployé

La situation. Des agents signalent des résultats erronés ou discriminatoires dans un outil d’aide.

L’intervention. Analyser cas, données, documentation et possibilités de suspension ou de correction avec les équipes techniques.

Ce qui est remis. Un rapport d’audit, un registre des incidents et un plan d’actions.

Ces exemples sont indicatifs et ne renvoient à aucun dossier du cabinet.

Faire progresser la politique publique

Améliorer l’action et ses règles

Mieux agir avec le droit

Définir finalité, responsabilité humaine, contrôle et documentation avant l’usage d’un système d’IA dans un service.

Faire évoluer le droit

Analyser erreurs et effets sur les usagers pour ajuster règles d’autorisation, transparence et contrôle des systèmes employés.

Volet contentieux

Litiges et voies de recours

Le cabinet identifie les actes, contrats et responsabilités en cause, ainsi que les délais et preuves, avant de préparer une réclamation, un recours ou une défense.

Résultat de l’IA mis en cause

Le litige. Un usager estime qu’un outil a contribué à une décision défavorable.

L’intervention. Reconstituer le rôle exact du système et celui de l’agent, contrôler les traces et contester ou défendre la décision.

Ce qui est préparé. Une chronologie probatoire et les écritures adaptées.

Contrôle de conformité

Le litige. Une autorité interroge l’organisme sur la mise en œuvre de son système.

L’intervention. Rassembler qualification, documentation, procédures et mesures correctrices, puis préparer la réponse contradictoire.

Ce qui est préparé. Un dossier de conformité et des observations ou un recours selon les suites.

Interlocuteurs

Pour qui ?

Administrations, collectivités, établissements de santé et de recherche, fournisseurs d’IA, agents et usagers.

Prestations et contextes liés

Décisions algorithmiques →Transformation de l’administration →Legaltech et Govtech →

← Les politiques de ce domainePoser une question au cabinet →