在中國古代封建時期，社會整體是建立在宗族血親關係的社會基礎之上，宗族是社會的存在形式之一。早在西周時期，作為宗族制度典型的宗法制就已經產生。宗法制以血緣關係為紐帶，將家族成員按照嚴格的等級關係進行了細緻的劃分，也規定了不同的等級制度。宗法制的核心是嫡長子繼承製。而「大宗」「小宗」的出現，則是為瞭解決嫡長子及其庶弟在繼承關係上的相對地位的問題。究竟，「大宗」「小宗」是怎樣的關係，又是怎樣解決矛盾尖銳的繼承問題呢？
以父系血緣關係為準繩的周朝天下，周天子作為天下共主，也是天下大宗。周王朝的王位「傳嫡不傳庶，傳長不傳賢」，只有嫡長子才是繼承王位或爵位的唯一合法人。這種制度就是「宗法制」。在以父權為統治地位的封建社會的不斷發展過程中，如果不對眾多的兒子劃分規矩次序，不立章法，那就容易發生混亂。
宗法制起源父權家長制家庭，以孩子生母的身份地位及其出生先後順序的不同，把兒子劃分為「嫡」「庶」兩類。嫡子是正妻之子，包含著正宗正統的韻味，由正妻所生的第一個孩子，又稱之為「嫡長子」；而妾所生的兒子則是庶子。嫡長子為大宗，對遺產、統治權力、財富、封地具有最大的繼承權。周朝時期，相對於嫡長子的大宗，被分封的嫡長子的同母弟或庶母弟其他兄弟是小宗。弟統于兄，小宗統于大宗。但是在其封國內又重新為大宗，其權位再由其嫡長子繼承。庶子被逐代分封為卿、大夫、士，直至平民。雖然只有嫡長子繼承王位，但他其他子弟也可以得到次于王位的其他爵位和封地。為此，周王朝在宗法制的基礎上，其實就創設了「分封制」。在宗族中，每個家庭都是立長子為嫡子，實際上，由嫡長子繼承父業。
早在《儀禮·喪服》就有了「大宗」和「小宗」的記載，並確立了大宗的正統的尊貴地位。在《禮記·大傳》也指出「別子為祖，繼別為宗，繼禰者為小宗」。大宗和小宗不僅是家庭等級關係，也是政治隸屬關係。在周代的等級分封制下，長子承襲父親之位，其餘次子或庶子除留居父國擔任要職者或未成年者外，都封受不同的封地，並世代居住。在政治身份上，僅次于大宗。在父系血親社會中，他們這些小宗又將被其後裔尊奉為始遷於該地的「始祖」。因封地有別於繼承君位長子的國都，故還稱其為「別子」。其位在後代也是由嫡長子繼承，第二代的大宗就成了「繼別」者。又被其後裔尊奉為「宗」。如此代代相傳，永不中斷。對於一個宗族來說，不僅需要通過大宗的世系來表示宗族血脈的延續不斷，更需要小宗的世系來表示一個確定宗族的範圍，確切地劃分此族與他族的界線。
大宗是宗族的主幹核心。大宗一脈的長存至關重要，是宗族存在的標誌。宗族香火的延續歷來最受族人的關注，始終是宗族傳統最基本、也是最核心的要求。大宗的基本特徵是繼承的子嗣是不變的規律，無人可替，這也從實質上決定了大宗不能無後，萬不得已也要從旁系或近支宗親中選擇條件適當人充當過繼者。這種對於大宗繼承者的特殊處理甚至被廣泛地運用於普通的宗族繼承實踐中，並逐漸發展成為具有中國特色的繼嗣和繼統制度。繼嗣，是指繼承祖先的血統，宗族世系延續。大宗作為後世的祖宗，保證著子孫同脈的一系一體化，在倫理上也產生了傳承中的高高在上的地位，表現為後世的尊祖、敬宗、收族的行為和理念。「大宗」之所以為「大」，就在於其對全族的共同組織，產生了全族的男系後裔，是全族的共同祖宗。
小宗，不僅在地位上次于大宗，而且自身包容的世代範圍也有限。這也是兩者明顯的差別。大宗具有永久性，所有源於始祖的子孫都可以包容在大宗的範圍之內；而小宗的世代和範圍則有明確限制，限定在五個世代、四個小宗系列範圍之內。大宗與小宗的一個顯著區別，是大宗主要體現宗子的繼嗣系列，和與宗子有關的全部旁系及其子孫後裔；而小宗世系則以五個世代的直繫和四個並存的旁系。
在封建社會的宗法制和分封制下形成的「大宗」「小宗」關係，是歷史造就的產物，表現出一種以血緣為依憑的大家族思想，也體現與中國式家族文化不可分割的聯繫。