威廉姆斯于1932年2月8日生于纽约长岛，父亲是哥伦比亚电台的一名打击乐器手，从小在音乐环境里长大。15岁那年，决心成为一名可以在音乐会上表演的钢琴家；1948年，搬迁到洛杉矶居住，成为一名年轻的钢琴家，自己组建了一个爵士乐队；19岁举办了自己原创曲子及钢琴奏鸣曲的音乐会。
青少年时代的威廉姆斯曾就读于加利福尼亚大学洛杉矶分校和洛杉矶城市大学，在米高梅电影公司音乐人罗伯特·万·艾普斯手下学谱曲和指挥，同时在课外向作曲家马里奥·卡斯特诺沃·特德斯科求教作曲真谛。大学毕业后，威廉姆斯在美国空军里呆了三年，负责军乐队指挥。后来又师从钢琴教师罗西娜·莱维妮，磨练表演技巧。这时候，他靠在爵士乐俱乐部打工挣学费，罗西娜鼓励他把主要精力放在作曲上面。于是，威廉姆斯重新返回洛杉矶，做好进军好莱坞的各种准备。到洛杉矶后，先是到制片公司当钢琴演奏员，为一系列电视剧配乐，并和伯纳德·赫尔曼结成了朋友。
24岁的威廉姆斯正式加盟哥伦比亚电影公司，后来到了20世纪福克斯公司，为阿尔弗雷德·纽曼、弗朗兹·瓦克斯曼等知名音乐人谱写乐曲。威廉姆斯同时也参加流行音乐的表演和筹划，这时候他向女演员兼歌手的芭芭拉·瑞克（Barbara Ruick）求婚，两人后来结了婚，直到1974年芭芭拉去世。两人生育有3个孩子：女儿现在是医生，两个儿子都是摇滚音乐人。
60年代，威廉姆斯为许多知名电视作品谱曲，他还在大剧院举办个人原创音乐会。70年代，威廉姆斯得到了一个“灾难唱片之王”的称号，相继为《海神号历险记》（The Poseidon Adventure）、《大地震》（Earthquake）和《火烧摩天楼》（The Towering Inferno）三部讲述灾难故事影片创作音乐唱片。1972年，威廉姆斯为影片《幻像》（Images）创作了一首心理乐曲，至今仍然是世界音乐史上最具创新精神的音乐作品。他为《流氓好汉》（The Reivers）（1969）谱写的主题曲，吸引了好莱坞名导史蒂芬·斯皮尔伯格的注意，此后两人开始合作，实现了强强联手。斯皮尔伯格还把威廉姆斯推荐给另外一位好莱坞大导演乔治·卢卡斯。虽然好莱坞影坛风雨变幻，但威廉姆斯依然保持着旺盛的创作激情，创作了大量电影音乐。
拍摄于80年代初的科幻片《E·T》为威廉姆斯赢得第三座奥斯卡奖杯。这一时期，他重返电视界，为NBC的“晚间新闻”等创作了很多音乐作品。这一时期，他和斯皮尔伯格的合作大大减少。威廉姆斯于1980年被任命为波士顿通俗交响乐团第19任指挥，自1993年退休至今任该团名誉指挥。同时他还担任波士顿交响乐团坦格尔伍德音乐节的驻会艺术家。
