面向教育应用的 AI 使用监管
放心引入 AI，最终决定权仍在您手中。
Tulga 会根据学生的年龄、教学规律和贵校的规定，审核学生与 AI 的对话。一旦发现有风险的内容，就会连同原文摘录和判断依据，一起提交给贵校指定的负责人。
Tulga
Tulga 是一个监管层，会把学生的消息、应用中 AI 的回复和教学情境放在一起解读。在观察模式下，应用的回复原样送达，Tulga 为每一次审核留下附有依据的记录。只有在贵校事先界定的严重情况下才会介入，最终决定由贵校指定的负责人作出。
- 使用形式
- 接入教育应用的监管层，以及供贵校使用的审核后台
- 适合对象
- 使用 AI 应用的学校和机构，以及开发这些应用的团队
- 在校安排
- 监管学生使用的 AI 应用，并在校内跟进审核发现
- 最终成果
- 每条发现都有一份档案，包含原文摘录、判断依据、负责人和处理状态；整改后还会重新评估
如何运作
每一条发现，都有专人负责。
- 1
制定规则
年龄情境、审核主题、介入范围以及由谁来审核发现，都由贵校事先确定。Tulga 按照贵校的规则运行。
- 2
接入应用
将应用接入后，其 AI 请求和回复都会经过 Tulga。处理哪些数据，我们会在部署时与贵校共同商定。
- 3
从观察开始
在观察模式下，应用的回复原样送达学生。Tulga 为每一次审核留下附有依据的记录。
- 4
审核发现
存在风险的互动会连同原文摘录和判断依据，提交给贵校指定的审核团队。谁在处理这份档案、处理到哪一步，都在同一处显示。
- 5
整改后再核查
采取的措施会记录在案。整改完成后，应用会按同样的标准重新评估，整改是否有效一看便知。
包含内容
Tulga 会结合情境来解读每一段对话。
结合情境的审核
学生的提问、应用的回答和教学情境放在同一次评估中综合判断。对某个年龄合适的回答，换一个年龄可能就有问题，因此 Tulga 会考虑年龄段和作业类型。
不止于儿童安全
儿童安全、隐私、是否符合年龄和课程要求、学术准确性、对文化和信仰的尊重，以及学生是否需要帮助。审核哪些主题，由贵校决定。
不易察觉的教学风险
并非所有风险都显而易见。让学生对 AI 产生依赖、在没有证据的情况下以权威自居、替学生思考，或者拖延学生寻求帮助的回答，Tulga 同样会审核。
先观察，必要时再介入
在观察模式下，应用照常运行。只有在贵校界定的严重情况下才会介入，而且仅限于有风险的那一条回复。
每条发现都写明依据
每条发现都会记录相关原文、判断依据、负责团队和当前状态，整改和重新评估也在同一份档案中跟踪。“为什么会被标记？”答案就在档案里。
所有项目集中在一个后台
贵校可以在一个后台上查看所监管的 AI 项目、未处理的发现和审核进度。
各方收获
AI 照常运行，掌控权留在贵校。
机构
自行制定规则：年龄情境、使用规定、介入范围、由谁审核什么。家长问起“这是怎么监管的？”时，有流程可以说明，也有记录可以出示。
Tulga
把消息和回复放在一起解读，为有风险的互动标注原文摘录和判断依据。它不做诊断，也不作处罚，只负责整理好档案，提交给贵校指定的负责人。
贵校指定的负责人
不必逐条阅读所有对话，只需查看提交上来的发现及其原文摘录和判断依据，并按照学校的流程作出决定。是否需要为学生提供帮助，由专业人员判断。
常见问题
决定之前，您可能想问的。
Tulga 会修改应用的回复吗？
在观察模式下不会。回复属于应用本身，会原样送达。只有在贵校事先设定的严重情况下才会介入，而且仅限于有风险的那一条回复。介入范围以及谁有权撤销介入，也都事先确定。
最终决定由谁作出？
由贵校授权的负责人作出。Tulga 标记有风险的互动并写明依据，但不做诊断。单条自动生成的发现，并不意味着要对应用采取处罚措施。学生是否需要帮助，由专业人员决定。
会审核哪些风险？
儿童安全、隐私、是否符合年龄和课程要求、学术准确性、对文化和信仰的尊重，以及学生是否需要帮助。情感依赖、替学生思考等较隐蔽的教学风险也在审核范围内。
如何接入应用？会处理哪些数据？
将应用接入后，其 AI 请求和回复都会经过 Tulga。处理哪些数据、保存多久、谁可以查看，我们会在部署时与贵校共同确定。
它会取代老师或心理辅导老师吗？
不会。Tulga 让老师和心理辅导老师的工作更轻松，但不会替他们作决定。风险有多紧急、是否仍在持续，由贵校的负责人按既定流程处理。学生学到了什么，则通过学生独立完成的作业另行评估。
相关推荐
这些也可能对您有用。
预约沟通
按照贵校自己的规则监管 AI 的使用。
沟通时，我们会一起确定贵校希望接入哪些应用、审核规则是什么，以及校内由谁跟进审核发现。