改革开放以来，伴随信息技术的快速发展和信息技术革命的兴起，引起了国家领导层的高度关注，并及时采取一系列重大举措，紧紧抓住这个历史机遇。其中，有效加强国家层面对信息化的强有力领导，就是诸多重大举措中最重要的环节。
上世纪80年代初，在邓小平、宋平等中央领导的关心和指导下，我国信息化管理体制机制开始建立。1982年10月4日，国务院成立了计算机与大规模集成电路领导小组，确定了我国发展大中型计算机、小型机系列机的选型依据。
1984年，为了加强对电子和信息事业的集中统一领导，国务院决定将国务院计算机与大规模集成电路领导小组改为国务院电子振兴领导小组。该小组在“七五”期间，重点抓了十二项应用系统工程，支持应用电子信息技术改造传统产业。
1986年2月，为了统一领导国家经济信息系统建设，加强经济信息管理，在组建国家经济信息中心的同时，成立了“国家经济信息管理领导小组”，国家计委主任宋平任组长。
1993年12月10日，国务院批准成立国家经济信息化联席会议，统一领导和组织协调政府经济领域信息化建设工作。国务院副总理邹家华担任联席会议主席。
1996年4月，中央决定在原国家经济信息化联席会议基础上，成立“国务院信息化工作领导小组”，统领全国信息化工作，国务院副总理邹家华任组长。
1999年12月，国务院决定成立“国家信息化工作领导小组”，国务院副总理吴邦国任领导小组组长。
领导小组不单设办事机构,具体工作由信息产业部承担。
2001年8月，中央决定重新组建“国家信息化领导小组”，国务院总理朱基担任领导小组组长。与1999年成立的国家信息化工作领导小组相比，新组建的领导小组规格更高，组长由国务院总理担任，副组长包括两位政治局常委和两位政治局委员。伴随着国家信息化领导小组的成立,国务院信息化办公室也相继宣告成立。
2001年8月，党中央、国务院批准成立国家信息化专家咨询委员会，负责就我国信息化发展中的重大问题向国家信息化领导小组提出建议。至此，国家信息化领导小组、国务院信息化工作办公室、国家信息化专家咨询委员会的格局已经形成。
2003年国务院换届后，成立了新一届国家信息化领导小组，中央政治局常委、国务院总理温家宝担任组长。为了应对日益严峻的网络与信息安全形势，同年在国家信息化领导小组之下成立了国家网络与信息安全协调小组，组长由中央政治局常委、国务院副总理担任。
2008年7月，根据国务院大部制改革的总体部署，国务院信息化工作办公室的工作职责划归新组建的工业和信息化部，具体工作由信息化推进司负责。
