我国规定，在直辖市、县(自治县)、市设立公证处。经省、自治区、直辖市司法行政机关批准，市辖区也可设立公证处。
公证处受司法行政机关(即司法厅、局)领导。不同级别的公证处之间，相互不存在隶属关系。如，南京市的公证处，与市辖区的公证处之间不是领导与被领导关系，它们都分别隶属于自己的司法行政管理机关。
在公证处内，设立公证员、助理公证员。根据需要，可以设主任、副主任。但主任、副主任必须由公证员担任。主任、副主任既要领导公证处的工作，同时也必须执行公证员的职务。为什么要这样呢?因为公证处是一个开展公证业务的机关，不是担负行政组织领导的，如果领导人不懂公证业务，便无法开展业务活动。
主任、副主任、公证员、助理公证员均分别由直辖市、县、市人民政府依照干部管理的有关规定，实行任免制。经一级政府机构任命才能从事某一职务的公证工作。工作不需要或不称职时，可予免去这一职务，并非终身制。