Алексей Васильевич Цимсен начал карьеру со службы в Санкт-Петербургской казенной палате. В конце 1855 года был переведен в Канцелярию министра финансов, где служил сначала канцелярским чиновником, а затем старшим помощником секретаря Канцелярии.

В 1859 году он стал ученым секретарем Ученого комитета Министерства финансов. В 1860 году «по его собственному желанию» А.В. Цимсен был назначен секретарем Канцелярии министра финансов. В мае 1862 года А.В. Цимсен был переведен в Особенную канцелярию по кредитной части, где прослужил 19 лет и достиг поста директора Канцелярии.

Честный и трудолюбивый чиновник, он пользовался большим уважением как отечественных, так и иностранных предпринимателей. В 1868–1881 годах, когда А.В. Цимсен являлся вице-директором, а затем директором Особенной канцелярии по кредитной части, через него велись все важнейшие финансовые операции в стране.