Использование моделей искусственного интеллекта для проверки работ школьников на недавней олимпиаде по экономике показало возможности и скрытые риски автоматизации. Согласно информации от пресс-службы конференции #ВДЕЛЕ, в процессе тестирования две нейросети анализировали ответы участников одновременно, а при возникновении разногласий в результатах привлекалась третья модель. Несмотря на то, что финальный вердикт всегда оставался за членами жюри, эксперимент выявил специфические закономерности в работе алгоритмов.
Специалист Фёдоровых сообщил изданию Lenta.ru, что искусственный интеллект продемонстрировал более высокую последовательность в оценках по сравнению с человеком, но столкнулся с систематическими ошибками в конкретном задании. Данная проблема проявилась лишь после того, как участники начали массово подавать апелляции.
По словам Фёдоровых, у нейросетей есть характерная черта: если в правилах оценки не прописано требование повышенной строгости или указание трактовать спорные моменты в пользу ученика, модель склонна необоснованно повышать баллы. При этом стандартные процедуры апелляции не позволяют обнаружить подобный перекос в сторону завышения оценок.
В свою очередь, Игорь Бедеров, занимающий пост председателя совета по противодействию технологическим правонарушениям КС НСБ России, в интервью RT подчеркнул необходимость контроля за ответами ИИ в ходе диалогов. Эксперт полагает, что глубина такой проверки должна напрямую зависеть от уровня сопутствующих рисков.
