AI Act

En profondeur

Le texte repose sur une idée simple : l’exigence croît avec ce que l’usage peut faire subir à une personne. Il en découle une échelle, d’une poignée de pratiques tenues pour inacceptables jusqu’à un vaste ensemble d’usages laissés libres, en passant par une catégorie encadrée où se rangent les emplois qui décident de l’accès à un droit, à un emploi, à un service ou à une sécurité. Entre les deux se glisse une exigence transversale de transparence, qui vise à ce qu’une personne sache quand elle parle à une machine ou regarde un contenu produit par une machine. Le champ suit l’usage sur le marché européen plutôt que la nationalité de celui qui fournit le système : c’est la destination qui commande, pas l’adresse du siège.

La deuxième mécanique du texte est la répartition des rôles le long de la chaîne. Celui qui conçoit un système et le met à disposition ne répond pas de la même chose que celui qui l’emploie dans un contexte concret : au premier revient ce qui relève du produit et de sa documentation, au second ce qui relève de l’emploi réel, c’est-à-dire l’information des personnes, la surveillance humaine et le suivi dans la durée. Ce partage explique pourquoi la conformité annoncée par un fournisseur ne referme jamais la question pour l’organisation qui déploie. Un contrat peut organiser des recours entre les parties, il ne déplace pas une responsabilité que le texte attache à un rôle. Ce rôle peut d’ailleurs changer : reprendre un système à son nom ou le modifier substantiellement fait basculer d’une position à l’autre.

Il est plus utile de lire ce que le texte cherche à obtenir que de chercher une liste de gestes à accomplir. Il cherche trois choses : qu’une organisation puisse expliquer comment un système se comporte et sur quoi il a été construit, qu’il reste possible de reconstituer ce qui s’est passé quand une décision est contestée, et qu’une personne dotée des moyens de comprendre puisse intervenir là où l’enjeu le justifie. Les pièges tiennent le plus souvent à trois confusions : croire que la conformité est un état obtenu une fois, alors qu’un usage dérive et qu’un système évolue ; croire qu’un usage strictement interne échappe au dispositif, alors que les emplois qui touchent les salariés comptent parmi les plus encadrés ; croire enfin qu’un outil conforme rend conforme l’usage qu’on en fait. La dernière est la plus coûteuse, parce qu’elle donne le sentiment d’avoir traité la question.