张蒲少时有其父风范，略微涉猎文史，以端正谨慎受到赏识，初仕后燕，历任河间太守、尚书左丞等。归降北魏后，仍任尚书左丞。后历任东部大人、太中大夫、内都大官，封泰昌子。 泰常元年（416年），丁零人翟猛雀逼迫官民，图谋反叛。张蒲奉命与冀州刺史长孙道生等 前去讨伐。长孙道生等本想用军队攻打，但张蒲主张派使者晓谕他们，长孙道生于是报告明元帝。明元帝命张蒲前去抚慰晓谕，于是有几千家投降。随后张蒲等斩杀翟猛雀。 太武帝即位后，出任相州刺史，实行扶弱抑强、进用贤人黜退奸恶等政策，使政教风化普遍推行。始光三年（426年），张蒲去世，终年七十二岁，追赠平东将军、广平公，谥号文恭。