La confiance par la preuve : un nouveau cadre pour des décisions d'IA défendables

L'intégrité des évaluations se résumait autrefois à une seule question : l'examen était-il surveillé ? Cette question ne suffit plus. L'IA joue désormais un rôle dans la vérification de l'identité, le signalement lors de la surveillance, l'examen de la paternité des travaux, la notation et la validation des titres de compétences, et chacun de ces points de contact peut être contesté.

La confiance dans un résultat ne dépend pas seulement de la précision de l'IA. Elle repose sur la capacité à expliquer, examiner, contester et vérifier a posteriori la décision à laquelle elle a contribué.

À mesure que l'IA s'intègre plus profondément dans les évaluations, les établissements sont confrontés à une question plus directe : Pouvez-vous justifier la décision que l'IA vous a aidé à prendre ?

Cette question exige bien plus qu'une technologie précise. Elle nécessite un système.

Dans notre dernier livre blanc,Trust by Evidence, le PDG Brandon A. Smith présente un cadre qui relie la procédure régulière liée à l'IA, les droits des apprenants et la sécurité des titres de compétences en un modèle unique pour des résultats défendables.

Télécharger le livre blanc

Pour obtenir de l'aide, veuillez visiter notre centre d'assistance

Passer de l'adoption de l'IA à des résultats défendables

Ces dernières années, le débat dans le domaine de l'éducation et de la certification s'est concentré sur l'adoption : quels outils d'IA utiliser, comment les déployer, quelle est leur précision. Ce débat est en grande partie clos. La plupart des programmes utilisent déjà l'IA à un stade ou à un autre du cycle d'évaluation.

Ce qui n'est pas encore réglé, c'est la défendabilité. Lorsqu'une décision influencée par l'IA est contestée, que ce soit par un apprenant, un employeur ou un organisme de réglementation, un établissement doit répondre à une série de questions précises : y a-t-il eu notification, examen humain significatif, preuves à l'appui et possibilité de recours ? Si l'une de ces réponses est floue, la décision n'est pas défendable et l'établissement s'expose, tout comme l'apprenant.

Le prochain défi majeur de l'éducation n'est pas l'adoption de l'IA. C'est la création de résultats capables de résister à l'examen.

Pourquoi traiter l'IA comme une protection unique crée des risques

De nombreux programmes comptent sur l'IA pour une seule tâche : signaler les anomalies. Ce modèle traite un signalement comme une conclusion plutôt que comme une alerte, et il s'effondre dans trois cas de figure :

1. Il n'existe aucun processus documenté pour la suite des événements après un signalement.
2. L'examen humain consiste à approuver le résultat de l'IA plutôt qu'à l'évaluer de manière indépendante.
3. Il n'y a pas de voie claire pour permettre à l'apprenant de répondre, ni de dossier sur lequel l'établissement puisse s'appuyer ultérieurement.

Chacune de ces lacunes rend un résultat difficile à défendre. Ensemble, elles créent une réelle exposition, non seulement pour les apprenants, mais aussi pour le statut d'accréditation de l'établissement, la confiance des employeurs et les risques juridiques.

Le cadre Trust by Evidence

Le livre blanc présente Trust by Evidence, un cadre qui relie trois idées généralement traitées de manière isolée :

Dû processus pour l'IA : Un processus équitable et documenté pour toute décision importante impliquant l'IA, afin qu'un apprenant signalé dispose d'une procédure réelle à suivre plutôt que d'une boîte noire à accepter.

La couche des droits de l'apprenant : Sept droits spécifiques — à l'information, à un examen humain significatif, à l'explication, à la preuve, au recours, à la proportionnalité et à la vérification — qui transforment « le système l'a signalé » en une décision qu'une institution peut expliquer et justifier.

Le trio de sécurité des titres de compétences : Une chaîne de confiance sécurisée reliant l'apprentissage, l'évaluation et la certification, où une faiblesse dans l'une des couches fragilise les autres.

Prises individuellement, ces idées sont familières. Ensemble, elles résistent à l'examen de toutes les parties prenantes : l'apprenant, l'institution, les employeurs, les régulateurs et le public.

À quoi ressemble une décision défendable assistée par l'IA

Un processus défendable ne repose pas sur la confiance en l'algorithme. Il fournit un enregistrement réel. Il permet à une institution de répondre avec certitude aux questions suivantes :

• L'individu a-t-il été informé de l'implication de l'IA ?
• Un examinateur qualifié a-t-il analysé les preuves, et pas seulement le score ?
• L'individu a-t-il pu répondre avant l'application d'une conséquence ?
• Existe-t-il une procédure de recours documentée et assortie de délais ?
• Le résultat peut-il être expliqué à une personne extérieure à l'institution ?

Il s'agit autant de questions de gouvernance que de questions techniques. Y répondre correctement protège simultanément le statut d'accréditation, la confiance des employeurs et celle des apprenants.

Ce que vous apprendrez dans ce livre blanc

Le livre blanc complet développe les points suivants :

• Pourquoi les recherches sur le dû processus algorithmique, la justice procédurale et le biais d'automatisation convergent vers la même conclusion pour l'éducation
• La matrice de responsabilité des résultats défendables, un outil de gouvernance pour définir clairement les rôles entre les fournisseurs, les institutions et les organismes de certification
• Le cadre d'appel en cinq étapes pour l'IA, illustré par un exemple concret de signalement de surveillance contesté
• Des conseils sectoriels pour l'enseignement primaire et secondaire, l'enseignement supérieur, la certification professionnelle et les employeurs
• Une discussion franche sur les limites du cadre, notamment en termes de coûts, d'échelle et de risques liés à la surveillance

Ce document s'adresse aux responsables de la conformité, aux organismes de certification, aux équipes d'évaluation et aux directeurs de programme qui doivent garantir les résultats de leur institution.

{{post-cta}}