杨行密字化源，庐州合淝人。为人高大有力，能手举百斤。唐乾符874～879中，江淮造反群起，杨行密因参加造反被抓获，刺史郑蓕以其相貌奇特，解绑放走。

后来应募为州兵，戍守朔方，迁为队长。一年戍边期满而还，但军吏讨厌他，又让他去戍边。

杨行密准备起程，路过军吏的住处，军吏假装说好话，问杨行密要去干什么。

杨行密大声说

“只取你的头！”当即斩下军吏的首级，携带而出，趁此起兵为乱，自称八营都知兵马使。

刺史郎幼复弃城逃走，杨行密于是占据庐州。中和三年883，唐朝拜杨行密为庐州刺史。

淮南节度使高骈被毕师铎所攻，高骈上表杨行密为行军司马，杨行密率兵几千人赴援，走到天长时，毕师铎已囚禁高骈，并召宣州秦彦进入扬州，杨行密不能进入扬州，屯军于蜀冈。