Når bøgen sprang ud blev han rastløs og drog fra sit såkaldte "huleatelier” eller "huleakademi" i København ud i det danske land. I flere år havde han følgeskab eller fik besøg af elever eller venner. Det var navne som [[Godfred Christensen]] og [[Harald Foss]].
Hvert år i perioden fra 1872 til 1901 fra sankthans til hen imod jul var Kyhn gæst på kroen - det nuværende Ry Park Hotel i den unge [http://da.wikipedia.org/wiki/Ry_Ry Ry_ Ry Stationsby]. Når han var ankommet spredte rygtet sig ”Kyhn er kommet” og en stor skare slog følge med den gamle maler fra stationen til kroen. Han blev også benævnt "Den gamle mester" og ofte tiltalt som "Mester". På sine ældre dage lignede han en mellemting mellem en vildmand og en sej hvidhåret olding, og han gik under navnet "Byens bedstefar". Han hilste til højre og venstre. Drengene råbte halløj og Kyhn delte bolcher ud.
Han havde et lille træhus, der hurtigt kunne tages ned og pakkes sammen og flyttes, når han havde fundet et nyt sted at male. I mange år efter hans død stod dette træhus ved en gård på bakken ved hans mindesmærke.