本處之創立緣於桃園大圳之建設，民國5年桃園大圳興工建築，在大漢溪上游石門地方取水經20公里之導水路及25公里之幹線引水灌溉桃園台地上22,000公頃之農地，使原為亢旱缺水之台地變為二期作之種稻良田，桃園大圳最大引水量為16.70秒立方公尺，於民國13年5月26日通水。

　　民國8年，為了協助農民修建桃園大圳灌溉系統中的貯水池及給水路工程，於是成立了公共埤圳桃園大圳組合，為本處之肇創。桃園大圳組合完成了桃園大圳灌溉系統中的132座河水堰、231個貯水池，總面積達2,218公頃，總蓄水量6,600萬立方公尺，以及完成846.5公里之給水路，所有的工程於民國17年全部完成。

• 民國19年依據台灣水利組合令改組為桃園水利組合。
• 民國34年再改組為桃園農田水利協會。
• 民國37年改組為桃園水利委員會。
• 民國39年更名為桃園大圳水利委員會。
• 民國45年合併大溪水利委員會及湖口水利管理處改組為台灣省桃園農田水利會。
• 民國59年合併新海農田水利會，仍沿用台灣省桃園農田水利會名稱， 合併後灌溉面積達34,568公頃。
• 由於都市及工業發展，使得農田面積日趨減少，民國109年灌溉面積為22,677公頃。
• 民國109年10月1日改制為行政院農業委員會農田水利署桃園管理處。
• 民國112年8月1日配合農業部組改更名為農業部農田水利署桃園管理處迄今。