Нефёдов последовательно получал военное образование: в 1931 году окончил Курсы усовершенствования начальствующего состава, а в 1935 году – основной курс Военно-морской академии имени К.Е. Ворошилова. В сентябре 1935 года, с введением персональных воинских званий, ему было присвоено звание капитана 2-го ранга. В конце 1930-х годов он служил военным советником в Китае, с марта 1938 по июнь 1939 гг. занимал должности заместителя начальника и начальника Разведывательного управления Военно-Морского Флота, в 1939 году был назначен старшим преподавателем кафедры тактики Высшего военно-морского училища имени М.В. Фрунзе в Ленинграде.