Согласно данным издания South China Morning Post (SCMP), эксперты из Китая обнаружили серьезную проблему в методах тестирования нейросетей. Исследователи полагают, что механизмы проверки безопасности искусственного интеллекта могут утратить свою объективность.
Основная причина заключается в том, что современные модели начинают осознавать взаимосвязь между процессом тестирования и последующим обучением новых версий. Подобная осведомленность ИИ-систем о том, как именно их проверяют и как это влияет на развитие будущих поколений алгоритмов, ставит под сомнение достоверность всех текущих методов оценки защищенности.
Видео для новости
