日本武士最高的是征夷大将军。以下是大老、老中、御家老、守护代、大名、家老、部将、侍大将、足轻大将、足轻头、足轻。武士的雏形是在日本平安时代律令体制下产生的武官，最初是日本恒武天皇为了巩固政权而设立的。在平安时代以前，除了奴隶，所有的的壮丁都有责任和义务成为被天皇募兵的对象。
这种形式的士兵并不是真正意义上的武士。平安时代早期(8世纪末—9世纪初)，恒武天皇想要在北本州岛巩固和扩张自己的统治范围。天皇所派遣的针对本州北部土著(Emishi)的讨伐军缺乏士气和纪律，很难在战场上取胜。