北京梁中书为给岳父蔡京贺寿,搜刮十万贯金珠宝贝,命提辖杨志送往东京,号称生辰纲。公孙胜认为生辰纲是不义之财,便有意劫取。他久闻托塔天王晁盖之名,便到郓城县东溪村投奔晁盖,想请晁盖一同劫取生辰纲。当时晁盖已得赤发鬼刘唐报信,并通过智多星吴用结识阮氏三兄弟,正在家中谋划劫纲之事。晁盖得知公孙胜来意后,将他请进后堂,与吴用、刘唐以及阮氏三雄相见。七人一同定下劫纲的计策,是为“七星聚义”。
杨志押送生辰纲经过黄泥冈,晁盖七人扮作贩枣商人,也到冈上休息。七人在白日鼠白胜的配合下,用蒙汗药酒迷倒杨志等人,劫走了生辰纲。之后,阮氏三雄返回石碣村,公孙胜则与吴用、刘唐留在晁盖庄上。
宋江攻打高唐州,却败于太守高廉的妖法。吴用让戴宗去蓟州寻取公孙胜,李逵也随同前往。二人在蓟州机缘巧合遇到公孙胜的邻居,得知公孙胜居住在九宫县二仙山。戴宗赶赴二仙山,让李逵假意伤害公孙胜的母亲,将公孙胜激出相见。但公孙胜却不肯出山,称师傅罗真人不肯相放。戴宗苦苦哀告,又去拜见罗真人,请他放公孙胜下山。
罗真人传授公孙胜五雷天罡正法,让他下山辅助宋江“保国安民,替天行道”,又送八字真言,命他“逢幽而止,遇汴而还”。公孙胜到高唐州后,与高廉斗法,以五雷天罡正法破了高廉的妖术。高廉欲要驾云逃走,结果被公孙胜用法术从云中打落,最终被雷横砍死。梁山军得以攻破高唐州。
梁山受招安后,公孙胜随宋江南征北战,先后征讨辽国、河北田虎、淮西王庆。征讨辽国时,公孙胜在幽州青石峪破除统军贺重宝的妖法。后又以五雷天罡正法,协助宋军大破太乙混天象阵。 征辽期间,公孙胜曾带宋江去蓟州二仙山,参拜罗真人。罗真人让公孙胜随宋江“去干大功”,并请求宋江在“奏凯还京”时能放公孙胜归山。
征讨田虎时,公孙胜与关胜、呼延灼一同镇守卫州。 后在五龙山与乔道清斗法,先用法术操纵兵器在空中打斗,又召唤出神兽相斗。乔道清尽皆不敌,大败而逃,遁入百谷岭。公孙胜有意降服乔道清,只是围而不攻。乔道清最终被孙安劝降,并拜公孙胜为师。后来,公孙胜又赶赴汾阳卢俊义处助战,以神火破了马灵的金砖法,降服马灵。