Савватиевский скит был создан на месте, где в 1429 году поселились основатели Соловецкого монастыря преподобные Герман и Савватий. Как известно, они высадились не в Бухте Благополучия, где сейчас расположен Соловецкий Кремль, а на севере острова, где впоследствии, в 18 веке, и был построен самый северный Савватиевский скит.
Савватиевский скит расположен на северном берегу озера Долгого, из которого вытекала небольшая река. По ней можно было доплыть до бухты Губа Сосновая, выходившей в Белое море. Столетие спустя, на месте, где поселились Герман и Савватий, была воздвигнута небольшая часовня, и многие монахи Соловецкого монастыря, которые хотели отшельнической жизни, приходили именно сюда.
В 18 веке здесь уже было построено несколько келий, а также хозяйственные постройки. Савватиевский скит стал принимать активное участие в хозяйственной жизни монастыря. Летом здесь селились монахи, отвечающие за заготовку сена на зиму, а также за рыболовство, так как скит находился на озере, играющим важную роль с Канально-озерной системе Соловков, так как оно имело выход в Белое море.
Основной этап строительства в Савватиевском скиту состоялся в 19 веке. Была построена Церковь Смоленской Иконы Божьей Матери, а также просторный корпус для проживания монахов, паломников и трудников. Савватиевский скит был расположен рядом с двумя другими: Свято-Вознесенским скитом на Секирной горе и Исаакиевским скитом, и монахи из этих скитов часто выполняли работы вместе.
В период Соловецкого лагеря в Савватиевском скиту располагался изолятор для политзаключенных. А в военное время здесь проходили обучение курсанты из школы юнг, которые жили рядом в землянках, но учились в главном здании Савватиевского скита.