杨林因与邓飞有旧交,被请上山寨盘桓。戴宗趁机招纳,裴宣三人便决定到梁山入伙。后来,戴宗与杨林在蓟州未曾找到公孙胜,便返回饮马川,与裴宣三人一同返回梁山泊。
一打祝家庄时,杨林与石秀一同进庄探路。他扮作解魇法师,摇着法环进入祝家庄,却因不识路径,被祝家庄识破行藏。虽然连伤四五人,但终因寡不敌众,被祝家庄庄丁擒获。
直到宋江攻破祝家庄方被救出。而后,杨林又配合萧让,将李家庄的李应、杜兴赚上梁山。
祝家庄之战后,宋江调整山寨将佐职司。杨林只被“分调大寨八面安歇”,并未安排具体事务。
攻打高唐州时,杨林故布疑兵,将前来劫寨的高廉吓走,并在乱军中用弩箭射伤高廉。后随征青州、曾头市。
宋江继任梁山寨主后,再次调整将佐职司。杨林与石勇、段景住负责到北地购买马匹。后随卢俊义攻打东昌府。
梁山排座次时,杨林排第五十一位,星号地暗星,职司为马军小彪将兼远探出哨头领。
两赢童贯时,杨林在九宫八卦阵中镇守西北乾位,与周通同为杨志的副将。
三败高俅时,杨林随水军作战,并在乱军中将八十万禁军都教头丘岳一刀砍死。
梁山受招安后,杨林南征北战,先后征讨辽国、河北田虎、淮西王庆、江南方腊。
杨林第一次出场是在戴宗寻找公孙胜的时候,当时,站在路旁的杨林看见一个人走得飞快,就喊了一声“神行太保”,果然那人正是戴宗,戴宗于是返了回来,了解情况。原来杨林一直想上梁山,但是没人引荐,前段时间遇上公孙胜,公孙胜就写了一封信,让他带着去梁山入伙。公孙胜顺便告诉杨林应该怎么入伙,找谁入伙,自然提到了朱贵和戴宗,杨林就暗暗记住了。杨林可能是胆子比较小,一直有些犹豫,怕这封信起不了作用,今天看见有个人这样走路,于是喊了一声,想不到还真是戴宗。两人于是结拜了,一起去寻找公孙胜。
杨林虽然武功不高,但是上梁山后也没有给公孙胜丢脸,立了很多功劳,在梁山排名第五十一位。后来,杨林跟着梁山大队人马征讨江南的方腊,走到杭州的时候,由于水土不服,当时的江南瘴疠地,很多人得了瘟疫,其中就包括杨林。由于有病不能赶路,所以宋江叫几个感染瘟疫的好汉留下了养病,其中也有朱贵,顺便把朱贵的兄弟朱富留下来照顾,结果,朱富也被感染了瘟疫,死在了杭州。但是杨林呢,他的病居然好了,成了梁山征方腊的时候七个人中唯一一个得了瘟疫还活下来的人,其余朱贵、朱富、穆弘等都因为瘟疫死了。