Ну что же, начнем с Data mesh.

data meshдата командадомены

Ну что же, начнем с Data mesh.

Для ознакомления с концепцией можно начать вот с этого видео.

В моем представлении про ДВХ с данным всегда была историей достаточно централизованной, была дата команда, которая все это ворочала, все эти пентабайты данных. И вынуждена была во все погружаться, решать вопросы всех подразделений, разбираться во всех бизнес процессах. И я задавался вопросом, как вообще такое возможно? И хотел в эти команды попасть.

Попал 😁

И понял, что разобраться во всем, к сожалению, невозможно. И дата команда рано или поздно (скорее рано), станет узким горлышком, которое тормозит развитие бизнес процессов, выявление новых инсайтов и закономерностей. И стула тут, как водится, два:

  • 👥Набрать в команду еще людей и еще людей, и еще. Но, как известно, вертикальное маштабирование достаточно скоро упрется в предел ресурсов и их добавление не будет вести к росту производительности.
  • 🤝Сделать инфраструктуру, задать нормы и правила, а дальше отдать все в бизнес и продуктовые команды, чтобы они сами управляли своими данными. Это сложно, в первую очередь с коммуникационной и организационной точки зрения.

В видео приводится аналогия с рестораном и кафетерием. Так вот - кафетерий - плохой пример. Мне больше нравится корпоратив на кухне: у вас есть продукты, оборудование, в принципе, вы даже можете принести какие то свои продукты. А дальше вы под руководством опытного повара готовите то блюдо, которое вам нужно! Так же в Data mesh - команды сами приносят данные, сами раскаладывают на сущности, факты, хабы (не принципиально какую методологию построения хранилища данных вы используете), сами из описывают и строят нужные витрины и агрегаты.

Наша задача, как централизованной команды работы с данными дать инструменты, правила, гайдлайны и ресурсы в команды, научить их правильно работать с данными в нашей философии и помогать агрегировать и сочетать данные из разных доменов.

И сейчас мы как раз и занимаемся описание основных сущностей предметной области, из пренадлежностью к доменам и сервисам. Дальше будем делать гайдланы по построению бронзового, серебрянного и золотого уровня хранилища.

Но это уже в следующих сериях!