La surveillance par IA seule génère des faux positifs. Voici ce que cela coûte à votre programme.

Un étudiant termine un examen de certification crucial. Il a respecté toutes les règles. Pourtant, le système de surveillance automatisé l'a signalé : mouvement inhabituel des yeux, regard détourné de l'écran, pause jugée suspecte par l'algorithme. C'est un exemple courant de faux positif en surveillance par IA. Le résultat est invalidé.

Aucun humain n'a jamais visionné la session. Personne n'a évalué si quoi que ce soit constituait réellement une tricherie. La décision a été prise uniquement sur la base d'un logiciel de reconnaissance de formes effectuant une analyse pour laquelle il n'a jamais été conçu.

C'est là tout le problème des faux positifs de la surveillance par IA. Il ne s'agit pas d'un bug logiciel ou d'un cas isolé. C'est ce qui arrive lorsque des signalements automatisés sont traités comme des décisions.

Qu'est-ce qu'un faux positif dans la surveillance en ligne ?

Un faux positif survient lorsqu'un système de surveillance signale un candidat pour suspicion de fraude, alors que le comportement signalé ne constitue en réalité aucune infraction.

Cela arrive plus souvent qu'on ne le pense. Les comportements qui déclenchent des signalements automatisés sont souvent tout à fait ordinaires :

• Détourner le regard de l'écran pour réfléchir à une question
• Remuer les lèvres en lisant
• Un membre de la famille passant en arrière-plan
• Chutes de connexion dans des environnements à faible bande passante
• Comportements liés à un handicap couverts par des aménagements

Un examinateur humain disposant de quelques secondes de contexte peut généralement faire la différence. Un algorithme, lui, ne le peut pas. Il voit des modèles. Il ne voit pas les personnes.

Pourquoi la surveillance par IA seule continue de générer des faux positifs

Les systèmes de surveillance automatisés excellent dans une chose : détecter des anomalies à grande échelle. Ils sont rapides, cohérents et peu coûteux à exploiter. Ce qu'ils ne peuvent pas faire, c'est évaluer si une anomalie est significative.

Signaler n'est pas décider. Quelqu'un doit toujours examiner ce qui a été signalé et porter un jugement pour déterminer si cela constitue réellement une faute. Lorsque les plateformes utilisant uniquement l'IA sautent cette étape, lorsqu'un signalement devient un résultat sans qu'aucun humain n'intervienne, vous intégrez des faux positifs à votre processus.

C'est là le défaut de conception. La technologie fait ce pour quoi elle a été construite. Le problème réside dans le fait de traiter ses résultats comme s'ils étaient ce qu'ils n'ont jamais été censés être.

Un algorithme identifie des anomalies. Il ne les évalue pas.

Le signalement n'est pas la décision. Cette partie nécessite toujours une intervention humaine.

Quel est le coût réel des faux positifs pour un programme ?

Les conséquences indirectes d'un signalement injustifié ne sont pas abstraites. Elles se manifestent de manière très concrète.

Des résultats indéfendables: Lorsqu'un résultat est invalidé sur la seule base d'un signalement automatisé, vous ne disposez d'aucun jugement documenté à invoquer, seulement du résultat d'un algorithme. Si ce résultat est contesté lors d'un appel, d'une plainte ou d'une procédure judiciaire, répondre que « le système l'a signalé » ne suffit pas.

Exposition à la responsabilité juridique: Les organisations qui délivrent des certifications réglementées dans les domaines de la santé, de la sécurité alimentaire, des services financiers et autres secteurs similaires s'exposent à de réelles conséquences lorsqu'elles ne peuvent pas justifier une décision. Une seule invalidation indéfendable peut ruiner des années de crédibilité d'un programme.

Une érosion silencieuse de la confiance: Les candidats qui se sentent injustement signalés, ou qui voient un pair être sanctionné sans explication, perdent confiance dans le programme. Une étude de Stanford publiée dans Cell Press a révélé que plus de la moitié des échantillons d'écriture provenant de personnes dont l'anglais n'est pas la langue maternelle étaient classés à tort comme générés par une IA par des détecteurs automatisés, alors que les échantillons de locuteurs natifs étaient identifiés correctement. Ce même risque de biais existe dans les systèmes de surveillance qui agissent sur la base de signalements sans examen humain.

Risques liés à la conformité: Les réglementations sur la protection de la vie privée au Canada, dans l'UE et aux États-Unis restreignent les données comportementales et biométriques pouvant être collectées et la manière dont elles peuvent être utilisées. Les systèmes automatisés qui collectent des données à grande échelle et agissent sans examen humain créent un risque d'audit, en particulier lorsque la proportionnalité est une exigence légale.

Le problème de la triche par IA complique encore la situation

Si les faux positifs constituaient déjà un défi dans les conditions d'examen classiques, l'ajout de la triche assistée par IA aggrave les limites de la surveillance automatisée.

Les outils de triche par IA, tels que les générateurs de réponses, les moteurs de paraphrase et la recherche en temps réel, ne laissent aucune empreinte comportementale. Il n'y a aucun schéma de mouvement oculaire à détecter, aucune anomalie de périphérique, aucun signal audio. Un candidat utilisant un outil d'IA semble identique à celui qui maîtrise simplement son sujet.

Les systèmes automatisés n'ont aucun moyen de faire la distinction entre les deux. Certaines plateformes compensent en signalant de manière plus agressive, ce qui ne fait qu'augmenter les taux de faux positifs. Les recommandations de 2025 du JISC sur la détection de l'IA ont révélé que même un taux de faux positifs de 1 % au sein d'une grande institution pourrait générer des milliers d'accusations injustifiées chaque année, sans pour autant détecter un seul cas réel de triche assistée par IA.

La seule couche capable d'évaluer ce qu'un algorithme ne peut pas saisir est une personne examinant la session avec du contexte. Ce n'est pas une solution de contournement. C'est l'essence même du processus.

Quels fournisseurs de surveillance combinent surveillance par IA et examen humain ?

C'est devenue l'une des questions les plus fréquentes de la part des programmes évaluant les plateformes de surveillance, et la réponse dépend fortement de la manière dont vous la posez.

De nombreuses plateformes proposent l'examen humain. Certaines en font une option supplémentaire. D'autres l'incluent dans leurs offres supérieures. Quelques-unes l'intègrent par défaut. L'écart entre ces options est considérable : si l'examen humain est facultatif, la grande majorité des sessions signalées ne seront jamais examinées. Les signalements deviennent des décisions définitives. Le problème persiste.

La question à se poser n'est pas « cette plateforme propose-t-elle une vérification humaine ? », mais plutôt : « Chaque session signalée est-elle examinée par une personne avant qu'une décision ne soit prise, quel que soit le niveau de prix et sans frais supplémentaires ? »

Comment Integrity Advocate gère cette situation

La plateforme repose sur un principe qui s'attaque directement au problème des faux positifs de la surveillance par IA : un signalement n'est pas une décision.

Chaque session signalée est examinée par un expert humain formé avant toute prise de décision. Ce n'est ni une option premium, ni une mise à niveau. C'est la norme, quel que soit le tarif et pour tous nos clients.

Cet examen produit ce qu'un système automatisé ne pourra jamais offrir : un jugement documenté. Un compte-rendu de ce qui a été observé, évalué et conclu. Lorsqu'un résultat est contesté, ce qui arrive parfois, ce document sert de base à la défense du programme.

Quelques autres points importants à connaître :

• Aucun téléchargement ni extension requis : les candidats peuvent commencer sur n'importe quel appareil ou navigateur, ce qui élimine toute une catégorie d'anomalies liées aux problèmes techniques qui déclenchent de faux signalements.
• Collecte de données axée sur la confidentialité : seules les informations strictement nécessaires sont recueillies, en conformité avec le RGPD et la LPRPDE, et les données sensibles sont supprimées sous 24 heures.
• Couverture complète du cycle de vie : vérification de l'identité avant l'examen, surveillance pendant l'épreuve et validation des résultats après coup.
• Moins de 1 % des candidats ont besoin d'assistance : un indicateur fiable de l'efficacité réelle de l'expérience.

{{post-cta}}