Был одним из руководителей революционной организации русских офицеров в Польше. В 1863 году во время восстания в Польше Крупский, будучи командиром роты, всячески помогал и проявлял сочувствие к повстанцам. В том же году женился на Елизавете Васильевне Тистровой (1843—1915).