Ученый Галичин назвал низкую гибкость данных ключевой проблемой в системах ИИ

Современные системы искусственного интеллекта строятся на обработке больших объемов данных, и качество этих данных непосредственно влияет на точность и надежность работы алгоритмов. Научный сотрудник группы «Доверенные и безопасные интеллектуальные системы» Института AIRI и исследователь лаборатории Safe AI Lab AIRI-МТУСИ Андрей Галичин в беседе с Ferra.

ru описал проблемы, возникающие при использовании устаревших или фрагментарных данных. Одной из ключевых проблем, возникающих в системах ИИ, является низкая гибкость данных. Разрозненное хранилище информации препятствует быстрому доступу к актуальной и точной информации, необходимой для принятия обоснованных решений. В результате этого возникают ошибки в выдаче рекомендаций и принятии решений, что отражается на таких областях, как кредитование, страхование и медицинская диагностика. Неполные или устаревшие данные приводят к тому, что системы ИИ формируют ложные шаблоны, воспроизводя стереотипы и дискриминационные модели прошлых эпох. Это может проявляться в банковских продуктах, страховании и здравоохранении, делая решения предвзятыми и несправедливыми. Другая проблема заключается в децентрализованном хранении данных, что приводит к невозможности централизованно отслеживать и анализировать потоки информации. Недостаточность контроля над качеством данных создает риски в маркетинговых кампаниях, снижает качество обслуживания клиентов и приводит к возникновению неверных коммуникаций. Этические аспекты использования персональных данных также поднимаются в исследовании. Излишняя персонализация ИИ может создавать когнитивное искажение, поскольку пользователям предоставляется лишь та информация, которая соответствует их собственным убеждениям и взглядам. Необходимо найти компромисс между точностью и объективностью данных, давая пользователям возможность регулировать степень персонализации в критических ситуациях.