公证机构按照统筹规划、合理布局的原则，可以在县、不设区的市、设区的市、直辖市或者市辖区设立；在设区的市、直辖市可以设立一个或者若干个公证机构。所以公证机构应当按照行政区划层层设立。