据史料记载，农业税始于春秋时期鲁国的“初税亩”，到汉初形成制度，汉代叫“租赋”，唐朝称“租庸调”，国民政府时期叫“田赋”；期间在历朝对税制多次进行改革。
新中国成立后，农业税制演变大体上可以分成三个时期。
（1）1949－1958年：新解放区建立统一的农业税制度、老区沿用原来税法的时期。1949年，广大新解放区虽然都征收了农业税（公粮），但征税办法不统一，许多地方还未来得及建立正规的农业税制度。1950年3月24日，中央人民政府政务院《关于统一国家公粮收支、保管、调度的决定》指出：“征收国家公粮的税则和税率，统由中央人民政府政务院规定”。1950年9月5日中央人民政府公布了《新解放区农业税暂行条例》，同时颁发了《关于新解放区征收农业税的指示》。这个条例是根据新解放区一般情况，特别是还没有经过土地改革的情况制定的。至于老解放区，由于已经完成了土地改革，1950年基本上仍沿用1949年的征收制度，即《东北区公粮征收暂行条例》、《华北地区农业税暂行税则》、《西北老解放区农业税暂行条例》。1951年，华北、东北、西北等大区人民政府对原条例作了若干修订后，重新颁发了老解放区的农业税暂行条例。1952年至1955年，根据中央人民政府政务院的指示，各大区军政委员会相继对新老解放区农业税征收条例进行了修改，增加了受灾农户的减免办法，重新调整了纳税单位。这次修订以后，一直到1958年，农业税制度基本上没有大的变动。在这个时期，尽管农业税负担的基本政策是全国一致的，但农业税的具体征收办法，不仅老解放区与新解放区不同，而且各个老解放区之间也不尽相同。建国初期，形成了新老解放区区域性相对统一的两类农业税制。
（2）1958－1999年：全国农业税制度统一的时期。这个时期可以分为三个阶段：
1958－1978年是农业税条例颁布实施的*9阶段。全国实现高级农业合作化后，国家对农业税制度相应进行了改革。1958年6月3日，全国人大常委会通过了*9个全国统一的农业税法《中华人民共和国农业税条例》，对原农业税制度进行了积极的改革，保留了从革命根据地时期到建国以来行之有效的合理规定，确定了正确把握农业税负担总体水平，公平合理负担，鼓励增产，统一税制与因地制宜相结合，简便征收、方便群众等农业税政策原则。1959年，西藏平息叛乱后，也按照《中华人民共和国农业税条例》的基本思想，开征了爱国公粮，并制定了本自治区的征收条例。自此，各省、自治区、直辖市都执行了统一的农业税条例。1958年，农业税条例的颁布实施，标志着新中国统一的农业税制度正式形成。
1979－1982年是实行农业税起征点、减轻贫困地区农民负担的第二阶段。针对“十年动乱”期间农村经济受到严重破坏的情况，国务院决定从1979年开始，人均口粮在起征点以下的生产队，免征农业税。从1980年起，对自然条件差、长期低产缺粮、维持简单再生产和最低生活有困难的生产队，实行免税1-3年的政策。这一政策对帮助农民休养生息，促进农业生产的恢复和发展起了积极作用。
1983－1999年是开征农业特产税和稳定农业税负担的第三阶段。1983年，为了调节不同农作物收益水平，缓解农业特产品生产挤占粮田的矛盾，稳定粮食、棉花、油料等重要农产品的生产，国家运用税收手段对农业生产实行宏观调控，出台了《国务院关于对农林特产收入征收农业税的规定》，对农林特产品收入按照较高税率和实际收入征收农林特产税。1994年，国家进行了税制改革和分税制财政管理体制改革，取消了产品税，将产品税的农林牧水产品部分应税品目改为征收农业特产税。国务院为此发布了《关于对农业特产收入征收农业税的规定》。
（3）2000－2006年：农村税费改革时期。主要分为两个阶段：
*9阶段从2000年到2003年，按照“减轻、规范、稳定”的原则，正税清费，逐步取消专门面向农民征收的各种税费，减轻农民负担。2000年中央决定在安徽以省为单位开始实施农村税费改革试点，其主要内容是：取消乡统筹费、农村教育集资等专门面向农民征收的行政事业性收费和政府性基金、集资；取消屠宰税；取消统一规定的劳动积累工和义务工；调整农业税和农业特产税政策，将原农业税附加并入新的农业税，新的农业税实行差别税率，*6不超过7％；改革村提留征收使用办法。2002年按照积极稳妥、量力而行、分步实施的原则，扩大农村税费改革试点范围，扩大试点的省份为：河北、内蒙古、黑龙江、吉林、江西、山东、河南、湖北、重庆、四川、贵州、陕西、甘肃、青海、宁夏16个省(自治区、直辖市)。2003年，在进一步总结经验、完善政策的基础上，全面推进农村税费改革试点工作。通过实施农村税费改革，进一步规范了农村税费制度，理顺了农村分配关系，基本实现了“减轻、规范、稳定”的预期目标。
第二阶段从2004年到2006年，主要是按照“多予、少取、放活”方针，逐步取消农业税。为了稳定粮食生产，增加农民收入，2004年国家开始大幅度降低农业税税率，并选择吉林、黑龙江两个粮食主产省进行全部免除农业税的试点；河北、内蒙古、辽宁、江苏、安徽、江西、山东、河南、湖北、湖南、四川等11个粮食主产省(自治区)的农业税税率降低3个百分点，其余省份农业税税率降低1个百分点。农业税附加随正税同步降低或取消。取消除烟叶外的农业特产税。一些地方可根据本地的财力状况，自主决定多降税率或进行免征农业税改革试点。征收牧业税的地区，要按照本省(自治区)减免农业税的步骤和要求同步减免牧业税。2005年对592个国家扶贫开发工作重点县实行免征农业税；进一步降低其他地区农业税税率，其中，2004年农业税税率降低1个百分点的省份再降低4个百分点，2004年农业税税率降低3个百分点的省份再降低2个百分点。农业税附加与正税同时减征或免征。全面取消牧业税。从实际实施情况来看，一些省在国家降低农业税税率的基础上，决定自主免征农业税，全国共有28个省份全部免征了农业税，山东、云南、河北三省也有210个县免征了农业税。2005年12月19日，十届全国人大常委会第十九次会议通过了关于废止《中华人民共和国农业税条例》的决定，2006年1月1日全国彻底取消农业税。