Giám sát AI cho các ứng dụng giáo dục
Dùng AI, nhưng quyền quyết định vẫn ở bạn.
Tulga xem xét các cuộc trò chuyện giữa học sinh và AI dựa trên độ tuổi, nguyên tắc sư phạm và quy định của trường. Khi thấy một chỗ có rủi ro, Tulga chuyển cho người bạn chỉ định, kèm đoạn trích và lý do.
Tulga
Tulga là một lớp giám sát, đọc cùng lúc tin nhắn của học sinh, câu trả lời AI của ứng dụng và bối cảnh giáo dục. Ở chế độ quan sát, câu trả lời của ứng dụng được giữ nguyên, còn Tulga ghi lại lý do cho mỗi lần xem xét. Tulga chỉ can thiệp trong những tình huống nghiêm trọng mà tổ chức của bạn đã xác định trước, và người bạn chỉ định là người quyết định cuối cùng.
- Hình thức
- Một lớp giám sát gắn vào ứng dụng giáo dục, cùng trang xem xét dành cho tổ chức của bạn
- Dành cho
- Trường học và tổ chức dùng ứng dụng AI, cùng những đội phát triển các ứng dụng đó
- Tại trường bạn
- Giám sát các ứng dụng AI học sinh đang dùng và theo dõi các phát hiện trong nội bộ trường
- Kết quả
- Mỗi phát hiện có một hồ sơ gồm đoạn trích, lý do, người phụ trách và tình trạng, cùng lần đánh giá lại sau khi khắc phục
Cách vận hành
Phát hiện nào cũng có người phụ trách.
- 1
Đặt quy định
Ngay từ đầu, tổ chức của bạn quyết định bối cảnh độ tuổi, những chủ đề cần xem xét, phạm vi can thiệp và ai sẽ xem các phát hiện. Tulga làm việc theo quy định của bạn.
- 2
Kết nối ứng dụng
Ứng dụng được kết nối sao cho các yêu cầu gửi tới AI và câu trả lời của AI đều đi qua Tulga. Dữ liệu nào được xử lý, hai bên sẽ cùng quyết định khi triển khai.
- 3
Bắt đầu bằng quan sát
Ở chế độ quan sát, câu trả lời của ứng dụng được giữ nguyên khi đến tay học sinh. Tulga ghi lại lý do cho mỗi lần xem xét.
- 4
Xem các phát hiện
Tương tác có rủi ro được chuyển đến bộ phận xem xét do bạn chỉ định, kèm đoạn trích và lý do. Ai đang xử lý hồ sơ và hồ sơ đang ở bước nào đều hiện ở cùng một chỗ.
- 5
Khắc phục rồi kiểm tra lại
Biện pháp đã thực hiện được ghi vào hồ sơ. Sau khi khắc phục, ứng dụng được đánh giá lại theo đúng các tiêu chí như lần trước, để bạn biết việc khắc phục có hiệu quả hay không.
Bao gồm những gì
Tulga đọc mỗi cuộc trò chuyện trong đúng bối cảnh.
Xem xét có tính đến bối cảnh
Câu hỏi của học sinh, câu trả lời của ứng dụng và bối cảnh giáo dục được đánh giá cùng nhau. Một câu trả lời ổn ở độ tuổi này có thể không ổn ở độ tuổi khác, nên Tulga tính đến nhóm tuổi và loại bài tập.
Không chỉ an toàn trẻ em
An toàn trẻ em, quyền riêng tư, sự phù hợp với độ tuổi và chương trình học, độ chính xác về kiến thức, sự tôn trọng văn hóa và tín ngưỡng, nhu cầu được hỗ trợ. Tổ chức của bạn quyết định xem xét những chủ đề nào.
Những rủi ro sư phạm khó thấy
Không phải rủi ro nào cũng lộ rõ. Tulga còn xem xét những câu trả lời khiến học sinh phụ thuộc vào AI, nói như người có thẩm quyền mà không có căn cứ, nghĩ thay cho học sinh hoặc làm các em chần chừ không đi tìm sự giúp đỡ.
Quan sát trước, can thiệp khi cần
Ở chế độ quan sát, ứng dụng vẫn chạy bình thường. Tulga chỉ can thiệp trong những tình huống nghiêm trọng do tổ chức của bạn xác định, và chỉ với đúng câu trả lời có rủi ro đó.
Phát hiện nào cũng có lý do ghi rõ
Mỗi phát hiện được ghi lại cùng đoạn trích liên quan, lý do, bộ phận phụ trách và tình trạng hiện tại. Việc khắc phục và lần đánh giá lại được theo dõi trong cùng hồ sơ. Câu hỏi “Vì sao chỗ này bị đánh dấu?” đã có lời đáp sẵn trong đó.
Mọi chương trình trên một trang
Tổ chức của bạn thấy các chương trình AI đang được giám sát, các phát hiện chưa xử lý xong và tình trạng xem xét trên cùng một trang.
Ai được gì
AI làm việc, quyền kiểm soát vẫn ở nhà trường.
Nhà trường
Tự đặt quy định: bối cảnh độ tuổi, quy tắc sử dụng, phạm vi can thiệp, ai xem xét việc gì. Khi phụ huynh hỏi “Việc này được giám sát thế nào?”, trường có quy trình để giải thích và hồ sơ để cho xem.
Tulga
Đọc tin nhắn và câu trả lời cùng lúc, rồi đánh dấu tương tác có rủi ro kèm đoạn trích và lý do. Tulga không chẩn đoán, cũng không xử phạt; Tulga chuẩn bị hồ sơ và chuyển đến người bạn chỉ định.
Người bạn chỉ định
Không phải đọc từng cuộc trò chuyện. Người này xem phát hiện được chuyển đến, cùng đoạn trích và lý do, rồi quyết định theo quy trình của tổ chức. Việc hỗ trợ học sinh do chuyên gia quyết định.
Hỏi đáp
Câu hỏi thường gặp trước khi quyết định.
Tulga có thay đổi câu trả lời của ứng dụng không?
Ở chế độ quan sát thì không. Câu trả lời là của ứng dụng và được giữ nguyên. Tulga chỉ can thiệp trong những tình huống nghiêm trọng do tổ chức của bạn đặt ra từ trước, và chỉ với đúng câu trả lời có rủi ro đó. Phạm vi can thiệp và ai được quyền hủy một lần can thiệp cũng được thống nhất từ đầu.
Ai là người quyết định cuối cùng?
Người do tổ chức của bạn chỉ định. Tulga đánh dấu tương tác có rủi ro và ghi lại lý do, chứ không chẩn đoán. Một phát hiện tự động đơn lẻ không có nghĩa là ứng dụng bị xử lý. Học sinh có cần hỗ trợ hay không do chuyên gia quyết định.
Tulga xem xét những rủi ro nào?
An toàn trẻ em, quyền riêng tư, sự phù hợp với độ tuổi và chương trình học, độ chính xác về kiến thức, sự tôn trọng văn hóa và tín ngưỡng, và nhu cầu được hỗ trợ. Những rủi ro sư phạm khó thấy hơn, như phụ thuộc về cảm xúc hay nghĩ thay cho học sinh, cũng được xem xét.
Tulga kết nối với ứng dụng thế nào, dữ liệu nào được xử lý?
Ứng dụng được kết nối sao cho các yêu cầu gửi tới AI và câu trả lời của AI đều đi qua Tulga. Khi triển khai, chúng tôi cùng tổ chức của bạn quyết định dữ liệu nào được xử lý, lưu trong bao lâu và ai được xem.
Tulga có thay thế giáo viên hay bộ phận tư vấn học đường không?
Không. Tulga giúp giáo viên và bộ phận tư vấn làm việc nhẹ nhàng hơn, chứ không quyết định thay họ. Rủi ro khẩn cấp đến đâu, còn tiếp diễn hay không, sẽ do người có thẩm quyền xử lý theo quy trình của bạn. Còn việc học sinh học được gì sẽ được đánh giá riêng, qua bài làm độc lập của chính các em.
Xem thêm
Những sản phẩm này cũng có thể giúp bạn.
Cùng trao đổi
Giám sát AI tại trường bạn theo quy định của chính bạn.
Trong buổi trao đổi, chúng ta sẽ chốt những ứng dụng bạn muốn kết nối, quy định xem xét và ai trong trường sẽ theo dõi các phát hiện.