応神天皇の20年、倭漢直（やまとのあやのあたえ）の祖・阿知使主（あちのおみ）が、その子・都加使主（つかのおみ）と、十七県の党類を率いて渡来したと『日本書紀』は伝える。阿知王（阿知使主）は後漢の霊帝の曾孫にあたり、後漢の滅亡とともに朝鮮半島に置かれた帯方郡に移り、国邑を建てて人民を撫育したという。延暦４年（785）にこのことを訴え、忌寸（いみき）から宿祢への改姓を求めたのが、阿知王の子孫と称する坂上苅田麻呂であった。

　天武元年（672）の壬申の乱に際して、坂上国麻呂が吉野方の高市皇子に従い、また飛鳥故京を守護していた坂上熊毛が、吉野方に内応して近江朝廷軍と戦い、大和政権下の直（あたえ）という姓から連（むらじ）、さらに国造系氏族や渡来系氏族に与えられる忌寸（いみき）の姓を賜った。歴代の坂上氏は武官として朝廷に仕え、左衛士督であった坂上犬養は、天平勝宝８歳（756）の聖武太上天皇崩御に際し、その陵墓に奉じることを申し出て褒賞されたという。

　犬養の子・坂上苅田麻呂もまた優秀な武官として知られ、天平宝字８年（764）９月に生じた恵美押勝（藤原仲麻呂）の乱の発端となる鈴印（駅鈴と内印）の争奪戦で、仲麻呂の子・訓儒麻呂（くすまろ）を射殺している。この時苅田麻呂は、五衛府を補完し孝謙太上天皇の親衛隊的な性格を帯びた授刀衛の官人で、少尉（しょうじょう）の地位にあった。その功績により即日正六位上から一気に従四位下に昇叙され、大忌寸の姓を賜る。乱終結後は、今一つの天皇の親衛隊的組織である中衛府の少将で甲斐守を兼ね、さらに勲二等を授かった。

　宝亀元年（770）８月、称徳天皇が崩御すると、新たに立太子した白壁王（のちの光仁天皇）の令旨により、法王道鏡は処罰され、東国に送られる。その道鏡の姦計を密告したとされるのが苅田麻呂で、従四位上から正四位下に昇叙されることになる。道鏡は称徳天皇の崩御後も皇嗣の野望を懐いていたように記されているが、苅田麻呂がどのような密告をしたのかは定かでない。ただ、道鏡は称徳天皇の山陵に奉仕しており、苅田麻呂には道鏡を中央から排斥するための役割が与えられたと受け止める方が自然であるように思われる。

　中衛少将という官職から、苅田麻呂が称徳天皇に近侍していた可能性は高いが、彼の所属した中衛府の最高官である中衛大将を右大臣吉備真備が兼務しており、白壁王とは別の皇嗣を推挙した真備は光仁天皇即位後官職を辞する旨上表したが、天皇は中衛大将のみ解任して右大臣は留任という判断を下していることからすれば、中衛府の人事に関わる理由が存したことも想定される。　　

　苅田麻呂は光仁朝において、陸奥鎮守府将軍から中衛中将に昇任し、丹波国守を兼ね、天応元年（780）には右衛士督となる。この年、光仁天皇の譲位を受けて桓武天皇が即位するが、翌年には聖武天皇の孫に当たる氷上川継（ひがみのかわつぐ）の謀反が発覚し、苅田麻呂は大伴家持らとともに連座して一旦右衛士督を解かれる。ところが四ヶ月後には再び右衛士督に任ぜられ、家持も春宮大夫として復権する。あるいは、この頃陸奥国で動乱が生じており、彼らの武官としての力量に期待が寄せられたのかも知れない。

　宿祢への改姓後大宿祢の姓を名乗った苅田麻呂は、延暦５年右衛士督のまま薨去する。この時従三位の位を持し、公卿の地位を得ていた。やがてその武官としての役割は子息である田村麻呂が継承し、周知のように、征夷大将軍として華々しい活躍を示すところとなる。