В декабре 1924 года 29-летний Василевский принимает стрелковый полк. Четыре года командования – и полк становится лучшим в дивизии и одним из лучших в округе. Василевский по убедительной просьбе командующего округом принимает командование над другим отстающим полком дивизии и тоже выводит его в передовые. До весны 1931 года он последовательно выведет в передовые все полки дивизии.
В 1926 году Александр Михайлович окончил вскоре ставшие знаменитыми на весь мир «Стрелково-тактические курсы усовершенствования командного состава РККА “Выстрел”». Подготовку составляли четыре учебных комплекса: тактика, стрелковое дело, методика и обществоведение.
Это были годы напряженного труда. Старшие начальники отмечали у Василевского незаурядные творческие способности, большую работоспособность, твердость, сочетающуюся с корректностью и скромностью, глубокое знание всех элементов службы и быта войск, тактики и стрелкового дела. А еще исключительную честность и добропорядочность.
Как один из лучших командиров, Василевский в мае 1931 года был назначен помощником начальника 2-го отдела в Управление боевой подготовки Красной армии. Здесь он довольно близко сошелся с будущими прославленными военачальниками – П.А. Беловым, Г.К. Жуковым, В.Н. Гордовым и другими.
В ту же пору впервые проявились блестящие штабные способности Василевского. С 1931 по 1936 год Александр Михайлович прошел школу штабной службы в Наркомате обороны и Штабе Приволжского военного округа.
Обладая аналитическим умом, интересуясь военной историей и трудами специалистов по теории военного искусства, Василевский печатал свои статьи в журнале «Военный вестник».
В 1936 году А.М. Василевскому присвоили звание полковника, а осенью он в числе первых 137 слушателей был зачислен в только что созданную Академию Генерального штаба. Армии требовались новые командиры.
Отбор слушателей проводился под непосредственным руководством ЦК партии. Все зачисляемые в Академию обязаны были иметь боевой стаж, отличные аттестации по службе и, как правило, высшее военное образование. Особенное внимание было уделено подбору преподавательского состава.