古代帝王死後，升祀太廟，始祖稱為「大廟」，高祖以下則稱為「小廟」。《周禮·夏官·祭僕》漢·鄭玄·注：「小廟，高祖以下也，始祖曰大廟。」
庶出的帝王為其生母所立的廟。《隋書·卷七·禮儀志二》：「又有小廟，太祖太夫人廟 也，非嫡，故別立廟。」
規模不大的廟。如：「到前面的小廟裡休息一下。」
比喻不很理想的環境。如：「咱們這個小廟裡容不下您這尊大菩薩，您還是另謀高就吧！」