Contrôle de l’IA pour les applications éducatives
Dites oui à l’IA et gardez le dernier mot.
Tulga examine les échanges des élèves avec l’IA au regard de leur âge, des bonnes pratiques pédagogiques et des règles de votre établissement. Lorsqu’il repère un moment à risque, il le soumet à la personne que vous avez désignée, avec l’extrait concerné et sa justification.
Tulga
Tulga est une couche de contrôle qui lit ensemble le message de l’élève, la réponse de l’IA de l’application et le contexte pédagogique. En mode observation, la réponse de l’application passe sans modification, et Tulga conserve pour chaque analyse une trace motivée. L’intervention se limite aux situations critiques que votre établissement a définies à l’avance, et c’est la personne que vous avez désignée qui prend la décision finale.
- Format
- Une couche de contrôle reliée à l’application éducative, et un tableau de bord de suivi pour votre établissement
- Public
- Établissements et organismes qui utilisent des applications d’IA, et équipes qui développent ces applications
- Dans votre établissement
- Contrôler les applications d’IA utilisées par vos élèves et suivre les constats en interne
- Résultat
- Un dossier par constat, avec extrait, justification, responsable et statut, puis une réévaluation après correction
Fonctionnement
Chaque constat a un responsable.
- 1
Fixez les règles
Votre établissement définit dès le départ le contexte d’âge, les thèmes à examiner, le périmètre d’intervention et les personnes chargées d’examiner les constats. Tulga applique vos règles.
- 2
Reliez l’application
L’application est reliée de sorte que ses requêtes et réponses d’IA passent par Tulga. Les données traitées sont décidées ensemble lors de la mise en place.
- 3
Commencez par l’observation
En mode observation, la réponse de l’application parvient à l’élève sans modification. Tulga conserve pour chaque analyse une trace motivée.
- 4
Examinez les constats
Une interaction à risque est transmise, avec l’extrait et la justification, à l’équipe que vous avez chargée de l’analyse. Vous voyez au même endroit qui traite le dossier et où il en est.
- 5
Corrigez, puis vérifiez
La mesure prise est consignée. Après la correction, l’application est réévaluée selon les mêmes critères : vous voyez si la correction a fonctionné.
Ce qui est inclus
Tulga lit chaque échange dans son contexte.
Une analyse qui tient compte du contexte
La question de l’élève, la réponse de l’application et le contexte pédagogique sont jugés dans une même évaluation. Une réponse adaptée à un âge peut poser problème à un autre : Tulga tient compte de la tranche d’âge et du type de devoir.
La protection de l’enfance, et au-delà
Protection de l’enfance, vie privée, adéquation à l’âge et au programme, exactitude académique, respect des cultures et des croyances, besoin de soutien. Votre établissement choisit les thèmes à examiner.
Les risques pédagogiques discrets
Tous les risques ne sautent pas aux yeux. Tulga examine aussi les réponses qui rendent l’élève dépendant de l’IA, affirment une autorité sans preuve, réfléchissent à sa place ou retardent le moment où il demande de l’aide.
Observer d’abord, intervenir si nécessaire
En mode observation, l’application fonctionne normalement. L’intervention ne s’applique que dans les situations critiques définies par votre établissement, et se limite à la réponse à risque concernée.
Des constats motivés par écrit
Chaque constat est consigné avec l’extrait concerné, la justification, l’équipe responsable et son statut actuel. La correction et la réévaluation sont suivies dans le même dossier. La réponse à la question « Pourquoi ce signalement ? » s’y trouve déjà.
Tous les programmes sur un seul tableau de bord
Votre établissement voit sur un seul tableau de bord les programmes d’IA qu’il surveille, les constats ouverts et l’avancement de leur analyse.
Qui y gagne quoi
L’IA fait le travail. Le contrôle reste à votre établissement.
Établissement
Rédige ses propres règles : contexte d’âge, règles d’usage, périmètre d’intervention, qui examine quoi. Quand un parent demande « Comment est-ce contrôlé ? », il a une procédure à expliquer et des traces à montrer.
Tulga
Lit ensemble le message et la réponse, et signale une interaction à risque avec l’extrait et la justification. Il ne pose pas de diagnostic et ne sanctionne pas. Il prépare le dossier et le soumet à la personne que vous avez désignée.
La personne désignée
Ne lit pas chaque échange un par un. Elle examine le constat qui lui est soumis, son extrait et sa justification, et décide selon la procédure de l’établissement. La décision d’accompagnement revient à un spécialiste.
FAQ
Les questions avant de vous décider.
Tulga modifie-t-il les réponses de l’application ?
Pas en mode observation. La réponse appartient à l’application et passe sans modification. L’intervention n’a lieu que dans les situations critiques fixées à l’avance par votre établissement, et se limite à la réponse à risque concernée. Le périmètre, et la personne habilitée à annuler une intervention, sont eux aussi définis dès le départ.
Qui prend la décision finale ?
La personne désignée par votre établissement. Tulga signale l’interaction à risque et en consigne la justification. Il ne pose pas de diagnostic. Un constat automatique isolé ne vaut pas décision de sanction à l’égard de l’application. C’est un spécialiste qui décide si l’élève a besoin d’un accompagnement.
Quels risques examine-t-il ?
Protection de l’enfance, vie privée, adéquation à l’âge et au programme, exactitude académique, respect des cultures et des croyances, et besoin de soutien. Des risques pédagogiques plus discrets, comme la dépendance affective ou le fait de réfléchir à la place de l’élève, sont également couverts.
Comment se relie-t-il à l’application, et quelles données sont traitées ?
L’application est reliée de sorte que ses requêtes et réponses d’IA passent par Tulga. Lors de la mise en place, nous décidons avec votre établissement quelles données sont traitées, combien de temps elles sont conservées et qui peut les consulter.
Remplace-t-il les enseignants ou les conseillers d’orientation et de vie scolaire ?
Non. Tulga facilite le travail des enseignants et des conseillers ; il ne décide pas à leur place. L’urgence d’un risque et sa persistance sont traitées dans le cadre de la procédure prévue par votre établissement. Ce que l’élève a appris est évalué séparément, à partir de son propre travail personnel.
À découvrir aussi
Ces programmes peuvent aussi vous aider.
Parlons-en
Encadrez l’IA dans votre établissement selon vos propres règles.
Lors de l’entretien, précisons les applications que vous souhaitez relier, vos règles d’analyse et les personnes qui assureront le suivi des constats dans votre établissement.