大和二年十月，杜牧進士及第後八個月，杜牧就奔赴當時的洪州，即王勃寫《滕王閣序》那個地方，開始了杜牧長達十多年的幕府生涯。其時沈傳師為江西觀察使，辟召杜牧為江西團練巡官。沈家與杜家為世交，沈氏兄弟是文學愛好者，對當時的知名文人都很眷顧，與杜牧的關係也頗為密切。杜牧撰寫《李賀集序》，就是應沈傳師之弟沈述師所請。杜牧經常往沈述師家中跑，聽歌賞舞，蹭飯蹭酒，還對沈家中的一個歌女張好好很有好感，可惜主人對此女子分外珍惜，搶先一步，成全了自己，將她納為小妾，使小杜空有羨漁之情。
大和八年，小杜在洛陽與張好好不期而遇，此時的張好好已經淪落為他鄉之客，以當壚賣酒為生。杜牧感慨萬分，寫了一首五言長篇《張好好詩》。由於情緒飽滿，不僅文筆清秀，而且書法更為飄逸，為杜牧贏得了書法家的美名。《宣和書譜》評論道：“（杜）牧作行草，氣格雄健，與其文相表裏。”清人葉奕苞《金石錄補》也給於了極高的評價：“牧之書瀟灑流逸，深得六朝人風韻，宗伯（董其昌）雲：顏、柳以後，若溫飛卿、杜牧之，亦名家也。”今人所能見到的唐朝真跡少之又少，這幅《張好好詩卷》自然珍貴異常，紙本上有宋徽宗、賈似道、年羹堯、乾隆等一堆名人的鑒定印章。當年溥儀皇帝“北狩”之時，倉皇之中還不忘攜帶此卷，後為民國四大公子之一張伯駒個人所有，又捐贈政府，藏於故宮博物院。
到金陵出差的小杜，看見曾經光彩照人的杜秋娘如今又老又窮，便提筆寫下了《杜秋娘詩》。這首詩當時膾炙人口，傳唱大江南北，可能是因為大家對這個風雲一時的歌女太熟悉了。李商隱與小杜結識後