Родом з м. Тотьма. Благочестиві батьки виховали його в строгих християнських правилах і любові до Бога, Якому від юності він і присвятив себе. Влітку 1428 року разом з рибалками Герман прибув на поморський берег і оселився при каплиці на річці Виги. Там він зустрівся з преподобним Саватієм, ченцем Валаамського монастиря, і разом з ним переселився на пустельний Соловецький острів. Там вони побудували келію, де здійснювали рятівний подвиг пустинножительства. У суворому стриманні преподобні Герман і Саватій провели близько шести років, після чого преподобний Саватій відійшов до Господа (+ 1435, пам'ять 27 вересня / 10 жовтня). Однак незабаром Господь привів до Германа іншого пустельника – юного відлюдника Зосиму ((1478 р.; пам'ять 17/30 квітня).