Dans le cadre de mon mémoire de master au sein du MALTT (TECFA – Université de Genève), j’ai choisi d’aborder un sujet aussi passionnant que complexe : la transparence dans les systèmes d’intelligence artificielle appliqués à l’éducation.
Mais attention, ma vision de la transparence ne se limite pas à l’accès au code source ou à la documentation technique. Elle s’articule autour de piliers cruciaux :
- La traçabilité des systèmes algorithmiques
- L’explicabilité des processus de prise de décision des algorithmes
- La communication adéquate des capacités et limites du système d’IA.
Pourquoi concevoir un guide de bonnes pratiques ?
Parce que les belles idées ne suffisent pas. Je voulais offrir quelque chose de concret. Un outil utile, accessible, immédiatement mobilisable par celles et ceux (vous) qui conçoivent, déploient ou utilisent des systèmes d’IA dans l’éducation.
J’ai observé un déficit notable d’outils concrets pour accompagner les concepteurs dans l’intégration de la transparence comme une valeur éthique centrale. Les cadres réglementaires comme l’IA Act ou les outils comme ALTAI posent des bases solides, mais restent souvent trop génériques, peu opérationnels dans le secteur éducatif.
Transformer une intention en action
Dans ce contexte, proposer un outil prêt à l’emploi tel que ce guide de recommandations, avec un exemple d’application, permet de faciliter et encourager la responsabilisation des concepteurs, en leur fournissant des repères concrets pour agir dès maintenant.
Grâce à cet outil, vous pourrez vous interroger sur comment transformer une intention éthique en action réelle ?
Pour cela vous pourrez vous référencer aux points clés suivants :
- La prise en compte des critères de traçabilité des données et des algorithmes.
- La mise en place des mesures susceptibles de garantir l’explicabilité des processus de prise de décision des algorithmes.
- La mise en place des mesures susceptibles de garantir une bonne communication des capacités et limites du système d’IA.
Avant toute chose : Pour comprendre pleinement la portée de cet outil, vous pouvez découvrir la façon dont j’ai pensé le principe de transparence dans le lien suivant : Le principe de transparence.
Un guide structuré en 4 étapes
Pour répondre à ce besoin, j’ai référencé 30 recommandations de bonnes pratiques à intégrer dans le cycle de vie de vos projets d’IA. Pour faire mieux, j’ai tenté de les contextualiser dans une méthodologie de gestion de projet. Cette méthode m’a permis de proposer ce guide de recommandation de bonnes pratiques structurées autours de 4 phases essentielles :
- La définition des objectifs et le périmètre
- L’inventaire du cycle de vie
- L’évaluation des impacts
- L’interprétation des résultats.
Venez découvrir maintenant comment transformer une intention éthique en action responsable :
Je me suis appuyée sur les travaux de Prioux (2023) pour construire un exemple concret de mise en application de ces recommandations. Elle introduit la notion de la prise en compte des impacts dans le cycle en V (méthodologie de gestion de projet) via diverses phases de mise en conformité. Voici un visuel de ce cycle :
L’exemple qui va suivre permet d’assurer que la transparence est prise en compte de manière systémique, et permet aux concepteurs de répartir les bonnes pratiques tout au long de la vie du produit :
Une démarche engagée
Ma mission est de promouvoir une IA éducative à la fois responsable, respectueuse des droits fondamentaux et génératrice de confiance chez les usagers.
Je souhaite outiller les acteurs de l’éducation (concepteurs, enseignants, institutions) pour qu’ils puissent intégrer le principe de transparence tout au long du cycle de vie de leurs projets IA, depuis l’analyse du besoin jusqu’à la validation du projet.
Parmi les valeurs fondamentales défendues dans ce travail, figure celle de la responsabilité. Les concepteurs de systèmes d’IA ont, à mon sens, le devoir d’assurer à la fois la finalité éthique et la robustesse technique de leurs projets.
Et pourtant, selon le World Economic Forum, seulement 8 % des projets à impact social concernent le domaine de l’éducation. Un manque à gagner préoccupant, quand on sait combien l’éducation peut transformer notre société.
Petit mot de la fin
En tant qu’étudiante et professionnelle engagée dans le numérique éducatif, j’ai décider d’agir : créer des ressources concrètes, défendre une IA inclusive, promouvoir l’égalité des genres dans les métiers de la tech.
J’ai eu l’honneur de partager mon parcours lors du workshop « Mon parcours dans l’IA », organisé dans le cadre du Sommet citoyen pour une IA inclusive (Genève, 2025). Cet événement visait à inspirer et encourager davantage de femmes à rejoindre les carrières technologiques.
Merci du fond du cœur à toutes celles et ceux qui ont pris le temps de parcourir ce travail. Vos réflexions, ressentis et suggestions sont les bienvenus : un espace est prévu sur la première page pour déposer vos commentaires en toute simplicité. Que cette lecture vous inspire autant qu’elle m’a nourrie dans sa création.
Les capsules de MéiDo 