В России создан алгоритм для автоматического поиска уязвимостей в нейросетях автопилотов
В первую очередь он обеспечивает надежную работу систем компьютерного зрения.
Специалисты Санкт-Петербургского государственного электротехнического университета «ЛЭТИ» создали алгоритм для обнаружения «слабых мест» в нейросетях, которые управляют беспилотным транспортом. Одно из приоритетных направлений – выявление ошибок в системах компьютерного зрения.
«Мы создали единую базу данных, содержащую все существующие инструменты для поиска уязвимостей в моделях компьютерного зрения, и разработали эволюционный алгоритм оптимизации, который автоматически перебирает комбинации методов, настраивает параметры и подбирает конфигурацию, наиболее эффективно выявляющую уязвимости конкретной модели», – говорит руководитель лаборатории фундаментальных основ построения интеллектуальных систем, доцент кафедры информационной безопасности СПбГЭТУ «ЛЭТИ» Алла Левина.
Ученые напоминают, что именно компьютерное зрение обеспечивает ориентацию беспилотного транспорта в пространстве и обнаружение препятствий. Однако их безопасность могут нарушить атаки злоумышленников, которые накладывают на изображения специальные фильтры. Новая методика позволит гораздо эффективнее справляться с подобными проблемами.
