Ну что же, начнем с Data mesh.
Для ознакомления с концепцией можно начать вот с этого видео.
В моем представлении про ДВХ с данным всегда была историей достаточно централизованной, была дата команда, которая все это ворочала, все эти пентабайты данных. И вынуждена была во все погружаться, решать вопросы всех подразделений, разбираться во всех бизнес процессах. И я задавался вопросом, как вообще такое возможно? И хотел в эти команды попасть.
Попал 😁
И понял, что разобраться во всем, к сожалению, невозможно. И дата команда рано или поздно (скорее рано), станет узким горлышком, которое тормозит развитие бизнес процессов, выявление новых инсайтов и закономерностей. И стула тут, как водится, два:
- 👥Набрать в команду еще людей и еще людей, и еще. Но, как известно, вертикальное маштабирование достаточно скоро упрется в предел ресурсов и их добавление не будет вести к росту производительности.
- 🤝Сделать инфраструктуру, задать нормы и правила, а дальше отдать все в бизнес и продуктовые команды, чтобы они сами управляли своими данными. Это сложно, в первую очередь с коммуникационной и организационной точки зрения.
В видео приводится аналогия с рестораном и кафетерием. Так вот - кафетерий - плохой пример. Мне больше нравится корпоратив на кухне: у вас есть продукты, оборудование, в принципе, вы даже можете принести какие то свои продукты. А дальше вы под руководством опытного повара готовите то блюдо, которое вам нужно! Так же в Data mesh - команды сами приносят данные, сами раскаладывают на сущности, факты, хабы (не принципиально какую методологию построения хранилища данных вы используете), сами из описывают и строят нужные витрины и агрегаты.
Наша задача, как централизованной команды работы с данными дать инструменты, правила, гайдлайны и ресурсы в команды, научить их правильно работать с данными в нашей философии и помогать агрегировать и сочетать данные из разных доменов.
И сейчас мы как раз и занимаемся описание основных сущностей предметной области, из пренадлежностью к доменам и сервисам. Дальше будем делать гайдланы по построению бронзового, серебрянного и золотого уровня хранилища.
Но это уже в следующих сериях!