母系制度是以母系亲属为世系继承的亲属制度。
采取母系制度的社会通常有母系继承制、从妻居、重视舅甥关系、从母居以及舅舅担任家长的情况。在母系社会中，原生家庭的子嗣被严格归类为母系亲属成员，继承母系的姓氏、财产，并共同祭祀母系的祖先。
必须注意的是，母权制度与母系社会并不相同。母权制度（matriarchal society）指女性在家庭和公共权力中都占据主导地位的社会。母系制度（matrilineal society）系指涉子嗣对母方家族的严格继承，与父系制度相对。
在近现代部落民族中，仍有少数维持完全的母系社会，如北美的易洛魁部落和霍皮族、中国云南摩梭人、台湾阿美族等。而母系传承和父系传承可以并行、或互为相辅，如日本以父系传承为主，母系传承的情况时常出现，如祖业无子传承，就可以令女儿招赘或收纳婿养子，即让外孙过继母系，继续传承家产。
19世纪中叶，一些人类学家（例如巴霍芬、恩格斯）发表著作，认为人类社会经过了一段由女人统治家庭和社会的母权制时期。这种母权制理论曾一度被奉为真理（直到现在，某些国家依然认为这是真理）。但在19世纪末和20世纪初，以泰勒、韦斯特马克、达尔文为首的一批人类学家从理论上反驳了母权论；同时以马林诺夫斯基为首一批人类学家经过深入、仔细的田野考察，发现并不存在真正意义上的母权部落，在这些原始的狩猎-采集部落里，女人的权力并不比男人大，甚至要低于男人。在理论和实践的双重打击下，母权论至此在一蹶不振。20世纪70年代，在女性主义运动的浪潮中，母权论颇有死灰复燃之势，但终究没有得到学术界的认可。