Какие этические моменты важно было учесть?
В процессе разработки команда столкнулась с двумя принципиальными этическими дилеммами.
1. Показывать ли числовые баллы?
ИИ выставляет оценки по критериям конкурса, поэтому и команда долго обсуждала, правильно ли показывать их пользователю. Баллы дают конкретный ориентир, но создают риск чрезмерного доверия: НКО может принять предварительную диагностику за решение жюри.
Решили, что баллы показываются, но только после того, как пользователь явно согласился их видеть. Перед показом встроен обязательный экран с дисклеймером, объясняющим природу и ограничения оценки. Пропустить этот экран невозможно. Пользователь сам выбирает: смотреть баллы или получить экспертизу без числовых оценок.
2. Хранить ли тексты заявок?
Заявки содержат описания ещё не поданных проектов и персональные данные авторов.
Текст заявки передаётся в API языковой модели для обработки; по условиям API-провайдеров такие данные не используются для обучения моделей. Команда решила не сохранять тексты заявок после обработки: они используются только для формирования экспертизы и не попадают в базу данных. Это решение реализовано на уровне архитектуры системы.
Информация о политике обработки данных доступна пользователю ещё до начала работы с ботом. При этом пользователю рекомендуется перед загрузкой заявки удалить из неё ФИО, паспортные данные, ИНН, СНИЛС, личные телефоны/email и банковские реквизиты. Это не влияет на качество предварительной экспертизы.