小说《三国演义》中，写祖茂字大荣，吴郡富春人，使用双刀。
三国演义第五回记叙孙坚突围逃走时，身旁只剩祖茂，而敌军却已经追上前，祖茂发觉孙坚的红头巾过于显眼，而要孙坚让自己戴上，并和孙坚并分二路进而引开追捕孙坚的华雄。祖茂后来被华雄穷追，将头巾缚在柱上后躲藏在林中，乘华雄察看时由林后杀出，挥着双刀欲劈华雄；华雄大喝一声，将祖茂一刀砍于马下。
另一种说法：孙坚部将。孙坚在汜水关被华雄击败，祖茂为保护主公而主动提出与孙坚交换头盔，孙坚因此得脱。祖茂将孙坚的赤帻挂在柱子上，准备以此引诱华雄，趁机偷袭，却反被华雄所杀。