日本のヤクザは通常、親分（組長）に対して弟分と子分が絶対的に服従する家父長制 を模した序列的・擬制的血縁関係を構築することを特徴とし、この関係によって暴力団の強固な結合を確実なものにする。一般に、代表者である組長（会長、総長、総裁などとも）と構成員である組員（組織名が、会、一家であっても組員と呼ばれる）とは、盃事と呼ばれる儀式を経ることによって強い絆で結ばれる。組員は、組長から見て弟分（舎弟 ）と子 分（若中、若衆など）の2つに大別される。組員がさらに自らを組長とするとする団体を組織した場合、この団体は2次団体と呼ばれる（この場合、最初の組長と組員のみの組織を1次団体と呼ぶ）。2次団体の組員もまた、自らを組長とする3次団体を組織する。これを繰り返すことによって暴力団はピラミッド 型の階層構造 を形成する。日本最大の勢力を誇る山口組 の場合には、5次団体までの存在が確認されている。 各階層の団体において、当該組長と盃を交わした組員を特に直参と言う。直参より下の下部団体組員について、暴力団側は“上部団体とは関係のない者”と主張しているが、外部社会からは“上部団体の統制下にあり、上部団体組長の指揮監督下にある者”と見られており、損害賠償請求訴訟でも上部団体組長の使用者責任 を認める判決 が出されてきた。
組長が引退したり死亡 した場合には、組員の中から新たな組長が決められる。個々の組織の状況にもよるが、長男 に当たる第一の子分（若頭 、若中頭、若者頭、理事長など）が選ばれる場合が多い。新たな組長が就任すると、他の組員との間で盃直しと呼ばれる儀式が行われ、新たな序列に基づく擬制的血縁関係が再構築される。先代組長が跡目を指名しなかった場合には、組員同士の話し合いや入れ札（投票 ）で決められる。跡目選定を巡る内部対立から組織分裂に到った例としては、山口組からの一和会 の分裂が挙げられる。ただ、近年は警察の監視が厳しく、武力による