교육용 앱을 위한 AI 감독
AI는 쓰되, 마지막 판단은 학교가.
학생과 AI가 나눈 대화를 학생의 나이와 교육적 기준, 학교 규칙에 비추어 검토합니다. 위험한 대목이 보이면 해당 문장과 판단 근거를 붙여 지정된 담당자에게 넘깁니다.
Tulga
Tulga는 학생의 메시지와 앱의 AI 응답, 교육적 맥락을 함께 읽는 감독 레이어입니다. 관찰 모드에서는 앱의 응답이 그대로 전달되고, Tulga는 검토할 때마다 근거를 담은 기록을 남깁니다. 기관이 미리 정한 심각한 상황에서만 개입하며, 최종 판단은 지정된 담당자가 내립니다.
- 형식
- 교육용 앱에 연결하는 감독 레이어와 기관용 검토 화면
- 대상
- AI 앱을 쓰는 학교와 기관, 그 앱을 만드는 개발팀
- 학교 내 활용
- 학생이 쓰는 AI 앱을 감독하고, 발견된 문제를 기관 안에서 관리
- 결과
- 문제마다 인용 문장, 판단 근거, 담당자, 처리 상태가 담긴 기록과 조치 후 재평가
진행 방식
발견된 문제마다 담당자가 있습니다.
- 1
규칙 정하기
연령 기준, 검토 항목, 개입 범위, 발견된 문제를 누가 검토할지 기관이 미리 정합니다. Tulga는 그 규칙대로 움직입니다.
- 2
앱 연결하기
앱의 AI 요청과 응답이 Tulga를 거치도록 연결합니다. 어떤 데이터를 처리할지는 도입 단계에서 함께 정합니다.
- 3
관찰부터 시작하기
관찰 모드에서는 앱의 응답이 그대로 학생에게 갑니다. Tulga는 검토할 때마다 근거와 함께 기록을 남깁니다.
- 4
발견된 문제 검토하기
위험한 대화는 해당 문장, 판단 근거와 함께 지정된 검토팀에 전달됩니다. 누가 맡고 있는지, 어느 단계에 있는지도 한곳에서 볼 수 있습니다.
- 5
고치고 다시 확인하기
취한 조치는 기록으로 남습니다. 조치 후에는 같은 기준으로 앱을 다시 평가하므로, 조치가 효과가 있었는지 확인할 수 있습니다.
구성
Tulga는 대화를 맥락과 함께 읽습니다.
맥락까지 보는 검토
학생의 질문과 앱의 답변, 교육적 맥락을 한데 놓고 판단합니다. 어떤 나이에는 괜찮은 답변이 다른 나이에는 문제가 될 수 있으므로, 연령대와 과제 종류까지 고려합니다.
아동 안전과 그 밖의 기준
아동 안전, 개인정보 보호, 연령·교육과정 적합성, 학문적 정확성, 문화와 신념 존중, 도움이 필요한 상황. 어떤 항목을 검토할지는 기관이 정합니다.
눈에 잘 띄지 않는 교육적 위험
모든 위험이 드러나 보이지는 않습니다. 학생이 AI에 기대게 만들거나, 근거 없이 단정하거나, 학생 대신 생각해 주거나, 도움을 청하는 일을 늦추게 하는 답변도 검토합니다.
관찰이 먼저, 개입은 필요할 때만
관찰 모드에서 앱은 평소대로 돌아갑니다. 기관이 정한 심각한 상황에서만 개입하며, 개입 범위도 문제가 된 응답으로 한정됩니다.
근거가 적힌 기록
발견된 문제마다 관련 문장, 판단 근거, 담당 부서, 현재 상태가 기록되고, 조치와 재평가도 같은 기록에서 이어집니다. “이건 왜 걸렸나요?”라는 질문의 답이 기록에 있습니다.
모든 프로그램을 한 화면에서
기관은 감독 중인 AI 프로그램과 처리 중인 문제, 검토 현황을 한 화면에서 봅니다.
누가 무엇을 얻나
일은 AI가 하고, 판단은 학교가 합니다.
기관
연령 기준, 사용 규칙, 개입 범위, 누가 무엇을 검토할지 등 규칙을 직접 정합니다. 학부모가 “이건 어떻게 관리하나요?” 하고 물으면 설명할 절차와 보여 줄 기록이 있습니다.
Tulga
메시지와 응답을 함께 읽고, 위험한 대화에는 해당 문장과 판단 근거를 붙여 표시합니다. 진단하거나 처벌을 정하지 않습니다. 기록을 정리해 담당자 앞에 올려 둘 뿐입니다.
지정된 담당자
모든 대화를 일일이 읽지 않습니다. 올라온 문제와 해당 문장, 근거를 보고 기관의 절차에 따라 판단합니다. 학생 지원이 필요한지는 전문가가 결정합니다.
자주 묻는 질문
도입 전에 자주 묻는 질문
Tulga가 앱의 응답을 바꾸나요?
관찰 모드에서는 바꾸지 않습니다. 응답은 앱의 것이고 그대로 전달됩니다. 기관이 미리 정한 심각한 상황에서만 개입하며, 그때도 문제가 된 응답에만 적용됩니다. 개입 범위와 개입을 되돌릴 권한도 미리 정해 둡니다.
최종 결정은 누가 내리나요?
기관이 지정한 담당자입니다. Tulga는 위험한 대화를 표시하고 판단 근거를 적을 뿐 진단하지 않습니다. 자동으로 발견된 문제 하나가 앱에 대한 제재를 뜻하지도 않습니다. 학생에게 도움이 필요한지는 전문가가 결정합니다.
어떤 위험을 검토하나요?
아동 안전, 개인정보 보호, 연령·교육과정 적합성, 학문적 정확성, 문화와 신념 존중, 도움이 필요한 상황을 봅니다. 정서적으로 AI에 기대게 만들거나 학생 대신 생각해 주는 것처럼 잘 드러나지 않는 교육적 위험도 포함됩니다.
앱과는 어떻게 연결하고, 어떤 데이터를 처리하나요?
앱의 AI 요청과 응답이 Tulga를 거치도록 연결합니다. 어떤 데이터를 처리하고, 얼마나 보관하며, 누가 볼 수 있는지는 도입할 때 기관과 함께 정합니다.
교사나 상담 선생님을 대신하나요?
아니요. Tulga는 교사와 상담 선생님의 일을 덜어 줄 뿐, 대신 결정하지 않습니다. 위험이 얼마나 급한지, 지금도 이어지는지는 기관이 정한 공식 절차에 따라 다룹니다. 학생이 무엇을 배웠는지는 학생이 혼자 해낸 과제로 따로 평가합니다.
함께 보면 좋은 서비스
이런 서비스도 도움이 됩니다.
상담
우리 학교의 AI 사용, 우리 규칙으로 관리하세요.
연결하려는 앱과 검토 규칙, 학교에서 발견된 문제를 맡을 담당자를 상담에서 함께 정리합니다.