Qui est responsable quand l'IA se trompe ? Ce que cela change pour l'organisation, le droit et le contrat de travail

Un tribunal allemand a récemment jugé Google responsable des erreurs factuelles produites par ses AI Overviews, qui avaient présenté à tort deux éditeurs comme des sites frauduleux. Le tribunal a estimé que l'IA ne se contentait pas d'afficher de l'information à la façon d'un moteur de recherche classique : elle en produisait de la nouvelle, en recombinant des sources.

Cette distinction transfère la responsabilité de la source vers celui qui a construit la recombinaison. Le même mois, la Chine a fait entrer en vigueur sa loi sur l'IA anthropomorphique, la plus stricte au monde sur le sujet, tandis que l'AI Act européen poursuit son déploiement par paliers. Trois juridictions, trois calendriers, trois philosophies. 

La question « qui est responsable ? » ne trouvera donc pas de réponse unique : elle se règlera organisation par organisation, contrat par contrat, avant de se régler devant un juge.

Ce que la responsabilité de l'IA change dans l'organisation

Tant qu'un système d'IA se contentait de répondre à une requête, la chaîne de responsabilité restait lisible : un développeur, un déployeur, un utilisateur qui valide. L'IA agentique brise cette lisibilité, parce qu'un agent planifie, décide et agit sur plusieurs étapes sans validation humaine à chacune d'elles. La conséquence organisationnelle est directe : il faut recréer, à l'intérieur de l'entreprise, une division du travail qui n'existait pas il y a trois ans.

Dans notre approche Meridian, cette division du travail se structure autour de trois rôles agentiques :

• L'Agent Owner porte la responsabilité opérationnelle d'un agent donné : il en définit le périmètre, en valide le déploiement, en répond devant sa hiérarchie. 

• L'AI Reviewer examine a posteriori les décisions prises par l'agent dans son domaine, à la manière d'un contrôle qualité. 

• L'AI Auditor vérifie que l'ensemble du dispositif reste conforme aux référentiels de gouvernance et aux exigences réglementaires. 

Ces trois rôles ne remplacent pas les métiers existants : ils les reconfigurent, en ajoutant à chaque poste concerné une responsabilité explicite de supervision qui, avant l'IA agentique, n'avait pas à être nommée.

Cette reconfiguration a un coût qu'il faut budgéter dès le cadrage d'un projet agentique : formation des Agent Owners, temps dédié à la revue, outillage pour l'audit trail. 

Un agent déployé sans que ces rôles soient assignés nommément produit une autonomie qui échappe à toute traçabilité, exactement le vide que le tribunal allemand a sanctionné chez Google.

Où va se loger la responsabilité humaine

La règle qui se dégage, aussi bien de la jurisprudence naissante que des référentiels de conformité (AI Act, ISO 42001), est simple à énoncer et exigeante à mettre en œuvre : toute décision d'agent à enjeu significatif doit être reliée à un humain nommé qui l'a validée, ou à un seuil d'escalade documenté qui explique pourquoi elle ne l'a pas été. C'est une responsabilité assignée, poste par poste, dans un registre des agents qui fait aujourd'hui figure de nouvel actif de gouvernance, au même titre qu'un organigramme ou qu'une matrice de délégation de pouvoirs.

Cela déplace la question que doit se poser un dirigeant. Ce n'est plus « notre IA est-elle performante ? » mais « sommes-nous prêts à assumer, nommément, chaque décision que cet agent prend en notre nom ? ». Quand la réponse n'est pas claire, il y a un trou dans la gouvernance.

Un cadre légal qui se construit à différentes échelles

Le cas Google illustre qu'il n'existe pas, et il n'existera sans doute pas avant longtemps, un cadre juridique mondial unique sur la responsabilité de l'IA. L'AI Act européen classe les systèmes par niveau de risque et impose une supervision humaine renforcée aux cas à haut risque. La loi chinoise sur l'IA anthropomorphique impose des garde-fous spécifiques à l'IA qui imite l'humain. Les États-Unis s'appuient sur le NIST AI RMF et sur l'application, agence par agence, d'autorités réglementaires préexistantes (protection du consommateur, marchés financiers, dispositifs médicaux), sans loi fédérale unique et transversale. Chaque juridiction avance à son rythme, avec sa propre philosophie de la responsabilité.

Cette fragmentation n'est pas un accident temporaire, elle reflète une réalité structurelle documentée par les chercheurs en gouvernance de l'IA : la légitimité d'un cadre réglementaire se construit nécessairement à l'échelle où existe une autorité capable de l'imposer, c'est-à-dire le plus souvent nationale ou régionale.

Une gouvernance mondiale unique serait plus rapide à construire sur le papier, mais elle serait aussi un point de défaillance unique : une gouvernance répartie sur plusieurs juridictions, même imparfaitement coordonnée, résiste mieux à la capture, au changement politique ou à l'échec d'un seul régulateur.

C'est pour cette raison que les initiatives les plus efficaces prennent la forme de coalitions de juridictions volontaires (partage de standards d'évaluation, reconnaissance mutuelle des certifications) plutôt que d'un traité universel improbable.

Quelle juridiction s'applique en cas de litige entre sociétés

Pour une entreprise qui déploie un agent fournit par un tiers, ou qui expose ses propres agents à des partenaires, la question de la juridiction applicable ne se résout pas par défaut : elle se négocie, en amont, dans le contrat.

En l'absence de traité international sur la responsabilité de l'IA, un litige entre deux sociétés relève des règles habituelles de droit international privé : la clause de droit applicable et de juridiction compétente prévue au contrat prime, à défaut la loi du lieu où le dommage s'est matériellement produit ou celle du siège du défendeur s'appliquent, selon les règles de conflit de lois du for saisi.

La leçon du cas Google est ici directement transposable au B2B : le critère décisif n'est pas la nationalité du modèle ni le lieu de son entraînement, mais le lieu où l'agent produit un effet et le for où l'action est engagée.

Cela justifie, dans tout contrat de fourniture ou d'intégration d'agents IA :

• une clause explicite de droit applicable, 

• une répartition contractuelle claire de la responsabilité entre fournisseur du modèle, intégrateur et déployeur final, 

• l'alignement du registre des agents sur cette répartition contractuelle, pour qu'elle reste opposable en cas de litige.

L'impact sur la relation employeur salarié et le droit du travail

Le dernier front, encore peu balisé, est celui du droit du travail. Quand un agent prend en charge une part croissante d'une tâche auparavant confiée à un salarié, deux questions juridiques se posent simultanément.

La première concerne la responsabilité individuelle du salarié devenu superviseur d'agent : dans quelle mesure sa fiche de poste, son contrat de travail et sa couverture professionnelle intègrent-ils cette nouvelle fonction de contrôle, et jusqu'où sa responsabilité personnelle peut-elle être engagée pour une décision qu'il a validée sans l'avoir lui-même prise ?

La seconde concerne le management algorithmique au sens large : dès lors qu'un agent influence l'attribution des tâches, l'évaluation de la performance ou une décision individuelle, le droit du travail européen impose déjà, via le RGPD et les textes sur les plateformes numériques, un droit à l'explication et une intervention humaine effective, non symbolique.

Pour les organisations, cela signifie que les rôles d'Agent Owner, d'AI Reviewer et d'AI Auditor ne peuvent pas rester des attributions informelles : ils doivent être intégrés aux fiches de poste, couverts par les politiques de responsabilité professionnelle, et négociés le cas échéant avec les représentants du personnel, en particulier quand ils redéfinissent substantiellement le contenu d'un métier existant. C'est une extension directe du principe de gouvernance déjà en vigueur pour les systèmes d'IA classiques, désormais élargie de la conformité algorithmique au droit social.

Chez Gabriel Greenfield, nous intégrons ce chantier organisationnel et contractuel dès la phase de cadrage de nos missions, aux côtés du volet technique et réglementaire, parce qu'une responsabilité mal assignée ne se corrige pas après l'incident. Si votre organisation déploie ou envisage de déployer des agents dans des processus à enjeu, la conversation est ouverte.