其诗描写细腻，音节和谐，清丽开宕，富有情韵，在初唐诗风的转变中有重要地位。但受六朝柔靡诗风影响，常露人生无常之感。诗作大部散佚，《全唐诗》仅存2首，其一为《春江花月夜》，乃千古绝唱，是一篇脍炙人口的名作，有“以孤篇压倒全唐”之誉；另一首诗是《代答闺梦还》。
张若虚的生卒年不详，有些典籍（如余冠英、王永照作序的《唐诗选》），将他的生卒年定在约公元660~720年，即唐高宗龙朔至玄宗开元初，大约活了六十岁。至于《全唐诗》所说他与贺知章（越州永兴人，今浙江萧山）、张旭（苏州人）、包融（润州延陵，今丹阳人，一说湖州人），号“吴中四士”，只能说明他们诗名相当而驰名京师，籍地相邻而并称四士。张若虚，不仅他的生平事迹少之又少，而且他的诗作也长期湮没无闻。在唐代，似乎没有他的诗集传世。从唐至元，他的《春江》诗几乎无人所重。据文史学家程千帆先生考证，今存唐人选唐诗十种、唐人杂记小说，宋代《文苑英华》、《唐文粹》、《唐百家诗选》、《唐诗记事》，元代《唐音》等唐诗选本，均未见他的诗作。不仅唐诗选本无载，而且在由唐至明的二十余种诗话中也无一字提及。