1949年开始从事水利工作,任中南军政委员会水利部长兼长江水利委员会主任。后在周恩来领导下,负责长江流域规划和三峡工程设计,任长江流域规划办公室主任(国务院建制)。出任过水利部副部长、顾问等职。1958年组织建设汉江丹江口水利枢纽工程。1972年11月,担任葛洲坝工程技术委员会主任。先后完成了《林一山治水文选》、《葛洲坝工程的决策》、《中国西部南水北调工程》、《高峡出平湖》、《林一山论治水兴国》、《河流辩证法与冲积平原河流治理》等著作。
      20世纪50年代初,主持制定长江流域规划时,确立防洪为主,防洪、发电、灌溉、排涝、航运和向相邻流域调水资源环境保护等综合利用的规划方针。明确流域规划以三峡为主体。经论证比选,主张选定三斗坪为最优坝址;把三峡工程摆在治理和开发长江的主体地位,将各项水利技术研究工作纳入兴建三峡工程轨道;提出用修“母子坝”即修建三峡和葛洲坝两个工程的办法,解决三峡工程大坝以下河段航运问题并回收水头;写出无限延长三峡水库寿命的论文《水库长期使用问题》;研究“围堰发电”、“分期开发”方案,以缩短三峡工程;还总结用“移民工程”取代“移民安置”的方针。