Понятие MLSecOps действительно существует и развивается, как я и предполагал в декабрьском посте. Есть целое сообщество mlsecops.com (домен зарегистрирован аж в 2019 году). Вышло внушительное количество подкастов.
На волне успеха больших языковых моделей каждый уважающий себя разработчик стремится добавить в свой продукт машинное обучение и технологии искусственного интеллекта. Это касается как прикладных программ, так и средств защиты. Вместе с ML и ИИ, в программный код добавляются и присущие им угрозы. Их описано уже достаточно, например в отдельной матрице MITRE ATLAS и БДУ ФСТЭК (УБИ с 218 по 222). Ранее я писал про пример искажения («отравления») обучающих данных на практике.
В связи с этими угрозами нужно расширить и практики безопасной разработки DevSecOps. MLSecOps фокусируется на обеспечении безопасности моделей, подготовки обучающих данных и процессов машинного обучения, в то время как DevSecOps фокусируется на обеспечении безопасности процессов разработки и доставки программного обеспечения. Обе практики направлены на интеграцию безопасности в процесс разработки и создание защищенного программного обеспечения. Различаются инструментами и методами для достижения этой цели, специфичными для систем ML.
Термин MLSecOps начал проникать и в русскоязычное пространство, появляются первые доклады (MlSecOps: Ml в SecOps или SecOps в ML? Светлана Газизова, Positive Technologies). На страничке AppSec comunity ORDA уже собрано большое количество ссылок по теме. Посмотрим, разовьется ли это в отдельную специальность или будет только обязательным доменом знаний для DevSecOps.
Добавлю и я в канал хештег #mlsecops для публикаций по теме.