I slutningen af 1859 udnævntes Kaalund til overlærer ved det nyoprettede Vridsløse Cellefængsel, det senere Vridsløselille Statsfængsel, og nu havde han den faste stilling, der gjorde det muligt for ham at indgå ægteskab, hvilket skete 6.3.1860. Ægteparret boede i et lille hus uden for fængslets mure, der i mere end tyve år skulle blive digterens arbejdsfulde og lykkelige hjem. Kaalund engagerede sig i sit nye arbejde. I modsætning til tidligere fængsler blev fangerne i Vridsløselille anbragt i adskilte celler, og om dette arrangements gunstige indvirkning på de indsatte, der kunne forbedres yderligere gennem samtaler og læsning og anden moralsk påvirkning, handler hans afhandling fra 1862, "Om Cellestraffen", der blev offentligjort i Nordisk Tidsskrift for Fængselsvæsen (1885, s. 180-193); fra 1867 stammer den selvstændige publikation Om Cellesystemet og dets Gjennemførelse. I et digt fra 1876, "Til Fru ......" (dvs. Edvard Collins hustru, Henriette), trykt i En Eftervaar (SD 340) skildrer Kaalund sit liv som fængselslærer og fremhæver, at denne gerning ikke har stækket hans digteriske inspiration. Alligevel var de mange år i Vridsløselille præget af ensomhed og depressioner, hvilket fremgår af et brev fra november 1870: