林亨泰於大正13年（1924年）出生於台中州北斗郡，昭和6年（1931年）入北斗公學校，12年畢業。昭和14年（1939年）二年高等科畢業後，考入私立北台中學（今泰北高中），至18年放棄中學為止。林亨泰早在日治時期即有作品，昭和17年（1942年）即開始了日文詩集《靈魂的產聲》寫作。戰後，林亨泰考入省立台灣師範學院（今國立台灣師範大學），並在朱實介紹之下加入了「銀鈴會」。林亨泰加入的銀鈴會，在1942年成立，由台中一中學生張彥勳、朱實、許世清三人發起，出版油印刊物《邊緣草》，共出十幾期，戰後因為林亨泰的加入，於1948年發表詩刊《潮流》，《潮流》既登載中文詩，也登載日文詩。林亨泰當時即有不少作品出現，並且也跟台灣著名文豪楊逵認識，據林亨泰回憶他回台中時總是會去拜訪楊逵住所。然而1949年台灣師院捲入「四六事件」，銀鈴會也被迫中止。成員也有人被處死，在這種環境下，林亨泰回台中之時，親眼在台中火車站目睹了楊逵被捕。不久林亨泰本人也遭受居留審訊，而斷絕了他的寫作之路，直到1953年林亨泰與紀弦通訊。

1950年林亨泰畢業後，曾任教彰化北斗中學、彰化高工等校。再與紀弦等人接觸之後，又加上林亨泰早期曾受日本現代主義思潮影響，使得林亨泰成為現代派成員之一。1964年林亨泰參與籌組「笠詩社」，並成為笠詩社首任主編。之後林即致力於「時代性」與「本土化」。70年代時曾因慢性腎炎一度擱筆，至80年代復出。

2004年林亨泰獲第八屆國家文藝獎。2017年「支持調降文言文比例，強化台灣新文學教材」共同發起人。同年得到第四十屆吳三連獎。