После военных походов войска распускались, а их оружие складывалось в амбары. Дружинников-самураев, оформившихся затем в сословие воинов, в то время еще не было.
В период правления императоров Конин (770-781) и Камму (782-805) ввиду частых военных действий на северо-восточных границах с айнами (или эдзо – потомками древнейшего населения Японских островов), при дворе было принято решение о создании специальных отрядов, которые должны были набираться из числа зажиточных крестьян, «ловких в стрельбе из лука и верховой езде», для противодействия айнам. При дворе стали практиковать проведение грандиозных соревнований пеших и конных воинов по стрельбе из лука и борьбе сумо. Опыт этих состязаний использовался при подавлении волнений в провинциях.
В 802 г. в области Муцу был сооружен замок Идзава с помещавшимся в нем управлением обороны— тиндзюфу. В замке Тага-Тага-но дзё, построенном немного позднее, помещались «охранные воины» или «воины усмирения и обороны» – «тиндзю-но хэй«. Такие же замки с 802 года стали сооружать и в других местах, составляя гарнизоны из разного «неудобного внутри империи люда».
С X в. в раннефеодальной Японии с развитием центробежных тенденций и политической раздробленности, мелкие собственники земли вынуждены были отдавать себя под защиту и покровительство крупных феодалов. Подобные явления имели важное значения для развития и укрепления феодальных самурайских дружин, так как каждый мелкий землевладелец, пользовавшийся защитой своего сюзерена, обязан был ему воинской службой. Эти дружинники превращались постепенно из «дворовых самураев» в самураев нового типа – вооруженных слуг, получавших от своего хозяина за верную службу содержание – жилье и пищу, а иногда и участки земли с приписанными к ней крестьянскими дворами.
Таким образом, зарождавшаяся прослойка воинов оформлялась как специфичная группа феодального общества, на которую оказывали определенное влияние как военные, так и мирные контакты с воинственными племенами айнов.
Слово «самурай» на древнеяпонском языке означает «служить человеку высшего сословия«. Для графического обозначения этого слова были использованы китайские иероглифы «дзи» и «буси«, которые при разложении их на составные, обозначают «воин», «боец», «дружинник». Происходит оно от глагола «сабурахи» – служить великому человеку.
Благородные воины, настоящие джентльмены, они наносили противнику смертельные раны только в том случае, если он посягал на их жизнь или жизнь его хозяина. Их можно сравнить со средневековыми рыцарями Запада, и это военное сословие не было ни жестоким, ни кровожадным, как часто представляет их наша литература. Самурай никогда не нападал на слабого, презирал деньги, и прежде чем напасть на врага, кричал: «Защищайся!» или «Готовься умереть!». Главными принципами их морали были прямота и мужество, вежливость и доброта, искренность и честность, верность долгу и скромность. Считалось, что воин, обладающий лишь грубой силой, недостоин звания самурая.