万葉歌人として有名な山上憶良は、多くの短歌をはじめ長歌や漢文等を『万葉集』に遺しているが、生涯については謎の部分が大きい。最初にその名が正史に見えるのが、大宝元年（701）遣唐使の一員である少録に任ぜられたとするもので、この時憶良は42歳にして無位の身分にあった。粟田真人を遣唐執節使とするこの一行は、翌年に筑紫より出帆し、いわゆる武周革命期の都・長安に赴き、武則天に謁見する。この時、始めて日本という国号を示し、また律令の制定を報告した。

　山上臣憶良、大唐に在る時に、本郷を憶（おも）ひて作る歌

　いざ子ども　早く日本（やまと）へ　大伴の　三津の浜松　待ち恋ひぬらむ（巻1・63）

　慶雲元年（704）に帰朝した後、和銅７年（714）正六位下から従五位下に昇叙され、霊亀２年（716）に伯耆守として任地に赴く。養老５年（721）には、元正天皇の詔により、退朝ののち皇太子・首（おびと）親王（のちの聖武天皇）に仕えるように命じられた。『万葉集』には、養老８年（神亀元年、724）から天平２年（730）までの七夕に作した憶良の歌12首が収められ、その中には、左大臣長屋王の宅で詠まれた歌も含まれている。

　ひさかたの　天の川瀬に　舟浮けて　今夜か君が　我（わ）がり来まさむ（巻８・1519）

　右、神亀元年七月七日の夜に、左大臣の宅にして。

　このころ、憶良は老齢に加えて病気に苦しみ、長寿を願う歌を詠む。

　倭文（しつ）たまき　数にもあらぬ　身にはあれど　千年にもがと　思ほゆるかも

　去（い）にし神亀二年に作る。（巻５・903）

　翌年、憶良は筑前守に補任されたが、同じ頃大宰帥として赴任した大伴旅人と現地で交流をもった。上記の七夕の歌に旅人の家で作った歌が含まれ、他にもここで詠んだ歌が伝わるが、旅人の妻の逝去に際して、漢文の序を付した挽歌一首と反歌五首を詠んでいる。

　はしきよし　かくのみからに　慕ひ来し　妹が心の　すべもすべなさ（巻５・796）

　神亀五年七月二十一日に、筑前国守山上憶良たてまつる。

　一方、教科書にも登場する著名な代表歌・貧窮問答歌は、筑前守在任時の経験を踏まえたもので、天平４年ごろ任を終えて平城京に戻ってのちの作品とも言われる。同５年に自宅で遣唐大使に任じられた多治比広成と対面し、壮行と無事の帰還を祈る内容を有する好去好来の歌及び二首の短歌を作した。こののち、やはり衰弱と病に苦しむ自身の生活の様子を書き記した「沈痾自哀（じんあいじあい）文」を著した憶良は、藤原房前の子・八束（真楯）がよこした見舞いの使者に応対したのち、涙を流し悲しみ嘆いて次の歌を詠んだ。

　士（をのこ）やも 　空しくあるべき 　万代（よろづよ）に　語り継ぐべき　名は立てずして（巻６・978）

　程なく逝去したと思われるが、詳しいことは定かでない。また、憶良の編著にかかる『類聚歌林』も、残念ながら現代に伝わらず、その名が知られるばかりである。