Контроль за ИИ в образовательных приложениях
Скажите ИИ «да» и оставьте последнее слово за собой.
Tulga проверяет переписку учеников с ИИ с учётом возраста, педагогических принципов и правил вашей школы. Заметив рискованный фрагмент, Tulga передаёт его назначенному вами сотруднику вместе с цитатой и обоснованием.
Tulga
Tulga работает как слой контроля: читает сообщение ученика, ответ ИИ в приложении и учебный контекст вместе. В режиме наблюдения ответ приложения доходит без изменений, а Tulga записывает каждую проверку с обоснованием. Вмешательство возможно только в критических ситуациях, которые ваше учреждение определило заранее, и окончательное решение принимает назначенный вами сотрудник.
- Формат
- Слой контроля, который подключается к образовательному приложению, и панель проверки для вашего учреждения
- Для кого
- Школы и учреждения, где используют приложения с ИИ, и команды, которые их разрабатывают
- В вашей школе
- Контроль приложений с ИИ, которыми пользуются ученики, и работа с замечаниями внутри учреждения
- Результат
- Карточка по каждому замечанию: цитата, обоснование, ответственный и статус, а после исправления повторная проверка
Как это работает
Ни одно замечание не остаётся без ответственного.
- 1
Задайте правила
Ваше учреждение заранее определяет возрастные рамки, темы проверки, границы вмешательства и тех, кто будет разбирать замечания. Tulga работает по вашим правилам.
- 2
Подключите приложение
Приложение подключается так, чтобы его запросы к ИИ и ответы проходили через Tulga. Какие данные обрабатывать, решаем вместе при подключении.
- 3
Начните с наблюдения
В режиме наблюдения ответ приложения доходит до ученика без изменений, а Tulga записывает каждую проверку с обоснованием.
- 4
Разберите замечания
Рискованный диалог попадает к назначенной вами команде вместе с цитатой и обоснованием. Там же видно, кто занимается замечанием и на каком оно этапе.
- 5
Исправьте и проверьте снова
Принятые меры фиксируются. После исправления приложение заново оценивается по тем же критериям, и вы видите, сработало ли исправление.
Что входит
Tulga читает каждый разговор в контексте.
Проверка в контексте
Вопрос ученика, ответ приложения и учебный контекст оцениваются вместе. Ответ, уместный для одного возраста, может быть проблемой для другого, поэтому Tulga учитывает возрастную группу и тип задания.
Безопасность детей и многое другое
Безопасность детей, конфиденциальность, соответствие возрасту и программе, академическая точность, уважение к культуре и вере, потребность в поддержке. Какие темы проверять, решает ваше учреждение.
Незаметные педагогические риски
Не все риски бросаются в глаза. Tulga проверяет и ответы, которые делают ученика зависимым от ИИ, звучат безапелляционно, не приводя доказательств, думают за ученика или мешают ему вовремя попросить о помощи.
Сначала наблюдать, вмешиваться при необходимости
В режиме наблюдения приложение работает как обычно. Вмешательство включается только в критических ситуациях, которые определило ваше учреждение, и касается только конкретного рискованного ответа.
Каждое замечание с обоснованием
Каждое замечание записывается с цитатой, обоснованием, ответственной командой и текущим статусом. Исправление и повторная проверка видны в той же карточке. Ответ на вопрос «Почему это отмечено?» всегда под рукой.
Все программы на одной панели
На одной панели ваше учреждение видит все программы с ИИ, которые находятся под контролем, открытые замечания и статус проверки.
Что получает каждый
Работу делает ИИ. Контроль остаётся за школой.
Учреждение
Само пишет правила: возрастные рамки, правила использования, границы вмешательства, кто что проверяет. Когда родитель спрашивает «Как это контролируется?», учреждению есть что объяснить и что показать.
Tulga
Читает сообщение и ответ вместе и отмечает рискованный диалог цитатой и обоснованием. Диагнозов не ставит и наказаний не назначает: готовит карточку и передаёт её назначенному вами сотруднику.
Ответственный сотрудник
Не читает всю переписку подряд. Смотрит на конкретное замечание, цитату и обоснование и принимает решение по правилам учреждения. Решение о поддержке ученика принимает специалист.
Частые вопросы
О чём спрашивают перед решением.
Tulga меняет ответы приложения?
В режиме наблюдения нет: ответ принадлежит приложению и проходит без изменений. Вмешаться Tulga может только в критических ситуациях, которые ваше учреждение задало заранее, и только в конкретный рискованный ответ. Границы вмешательства и то, кто может его отменить, тоже определяются заранее.
Кто принимает окончательное решение?
Сотрудник, которого назначило ваше учреждение. Tulga отмечает рискованный диалог и записывает обоснование, но диагнозов не ставит. Одно автоматическое замечание не означает санкций против приложения. Нужна ли ученику поддержка, решает специалист.
Какие риски проверяет Tulga?
Безопасность детей, конфиденциальность, соответствие возрасту и программе, академическую точность, уважение к культуре и вере, потребность в поддержке. А также менее заметные педагогические риски, например эмоциональную зависимость или ответы, которые думают за ученика.
Как Tulga подключается к приложению и какие данные обрабатываются?
Приложение подключается так, чтобы его запросы к ИИ и ответы проходили через Tulga. Какие данные обрабатывать, сколько их хранить и кто может их видеть, мы решаем вместе с вашим учреждением при подключении.
Tulga заменит учителей или школьную психологическую службу?
Нет. Tulga облегчает работу учителей и психологической службы, но не решает за них. Насколько срочен риск и сохраняется ли он, решают по утверждённой у вас процедуре. Чему научился ученик, оценивают отдельно, по его самостоятельной работе.
Посмотрите также
Это тоже может пригодиться.
Обсудим
Контролируйте ИИ в своей школе по своим правилам.
На созвоне обсудим, какие приложения вы хотите подключить, по каким правилам их проверять и кто в школе будет разбирать замечания.