Hostrup søgte og fik embedet i nybyggerbyen, fordi han, som han selv udtrykte det, gerne ville ud af sit skriveri og ind i præstegerningen. Han blev den første præst i byen, efter at Silkeborg var blevet hovedby i pastoratet med [[Linå]] som anneks.
Efter Hostrups død i 1892 udsendte hans kone 2. bind af hans erindringer (det første kom i 1891), som bl.a. omhandler tiden i Silkeborg. Man får her et autentisk tidsbillede af livet i Silkeborg. Men det Det er reelt kun de tre studenterkomedier: Gjenboerne, En Spurv i Tranedans og Eventyr på Fodreisen, der fortsat sikrer Hostrup en plads blandt den danske litteraturs klassikere. Her byder han til gengæld på elegant flydende dialoger og godt opbygget dramatik.
Hostrupsgade har haft dette navn på hele den nuværende strækning siden 1899. Oprindelig hed gaden “[[Winthersvej]]” mellem [[Drewsensvej]] og [[Skoletorvet]] efter den lokale dyrlæge [[C.P.F. Winther]], som boede der hvor [[Silkeborg Elværk]] senere blev opført. (Hostrupsgade 41C)