山西昔阳人。1938年参加八路军，1942年加入中国共产党。历任八路军司务长、管理员，地方武装干部、秘书等。1945年7月调温孟县工作，任县二区武委会主任。1945年9月温县全境解放后，他在大尚、晁肇、薛肇一带发动农民群众，除恶霸、斗地主，开展反奸反霸、减租减息和“耕者有其田”运动，深受农民群众的爱戴。1946年10月，国民党军队占领温县，县党政军机关和部分农村干部、民兵撤至太行山上。为打击敌人的气焰，他担任县二区武工队副政委，经常率部长途跋涉，奔袭县境敌人。1947年3月28日，二区武工队等温县人民武装在大屯一带遭敌三十八师一七七旅及温、沁、武等县保安团包围。经竟日激战，歼敌六七十人，于傍晚撤出战斗。转移途中，张不幸落入敌手。3月31日，敌招贤乡乡长吴振芝在西南王村召开大会“公审”张祥云。面对凶残的敌人，他大义凛然，视死如归，连声高呼：“共产党万岁！毛主席万岁！你们杀了我张祥云，自有人给我报仇！”敌人吓得慌忙往他脖子上、嘴上勒绳子，并用刺刀轮番向他身上乱刺，他壮烈牺牲。1947年4月16日，县委在县城召开大会，追认张祥云为县委委员、县武委会主任，并将西南王村改为祥云镇。1975年，祥云镇群众自筹资金建立了张祥云烈士纪念碑。

  （中共焦作市委党史研究室提供）