Для каждой из них, помимо возможных последствий, определены свойства информации, которые нарушаются (конфиденциальность, целостность и доступность), и объект, который может быть подвергнут воздействию нарушителя, к примеру датасеты для обучения или Open Source - модели.
В компании отмечают, что документ учитывает опыт команд «Сбера» при работе над повышением защищенности собственных ИИ-моделей, а также документы OWASP, MITRE, NIST. Его создание особенно актуально из-за растущего использования генеративных ИИ-моделей в критически важных бизнес-процессах, говорят там.
ПодробнееВ МГУ им. М.В. Ломоносова предложили ML-метод для изучения сложных органических молекул
политикой конфиденциальности
Что такое ICT.Moscow?ICT.Moscow - открытая площадка о цифровых технологиях в Москве. Мы создаем наиболее полную картину развития рынка технологий в городе и за его пределами, помогаем бизнесу следить за главными трендами, не упускать возможности и находить новых партнеров.