Старший преподаватель кафедры инструментального и прикладного программного обеспечения РТУ МИРЭА Андрей Рыбников указал на актуальность проблемы безопасности в условиях быстрого развития генеративных моделей. Об этом сообщил RT. Эксперт предупредил о возможности атак на ИИ-модели с целью извлечения обучающих данных.
«При определенных условиях злоумышленники способны получить доступ к информации, которую пользователь вводил в систему. Особенно уязвимы модели, обученные на открытых источниках без строгой фильтрации», — пояснил специалист. По его словам, наименее рискованным вариантом считается использование локальных ИИ-решений, работающих автономно. Если развернуть собственную систему невозможно, рекомендуется использовать корпоративные версии ИИ-сервисов с возможностью управления политикой хранения информации.
Свежие комментарии