帕赫贝尔出生于德国的纽伦堡。早年随施韦默尔学习音乐，1669年进入阿尔特多夫的一所学校接受音乐教育，但因支付不起学费，次年转入雷根斯堡的一所学校。
1673年至维也纳，成为圣斯蒂芬大教堂管风琴师克尔的学生和助手。
1677年至爱森纳赫，担任了一年的宫廷管风琴师。于1678年在爱尔福特担任管风琴师，在这里教授了J.C.巴赫。
离开了艾尔特，帕赫贝尔来到伍腾堡宫廷，这个地方给他很多专业上的自由度，可惜好景常，1692年秋，因为法国大军入侵，他被迫返回出生地纽伦堡，最后辗转到了戈塔。
碰巧出生地纽伦堡的圣塞巴德教堂的原任风琴师，也就是帕赫贝尔的老师魏克过世，让他得以顺利接任老师之职位。
他就在这里一直待到他过世。
在纽伦堡的五年间，帕赫贝尔写下了感恩赞歌等重要的宗教合唱曲和管风琴赋格，被视为他晚年的代表作。1706年，约翰帕赫贝尔去世，享年52岁。所以帕赫贝尔从未去过英国，芭芭拉盖布勒（Barbara Gabler）是德国人，死前不但已经嫁给了帕赫贝尔并且还生了孩子。《卡农》是现今为止最受全世界人们喜爱的古典音乐作品之一，被改编成现代乐曲后，曾称霸美国公告牌流行音乐排行榜长达百周以上。
据吉尼斯世界纪录统计，到目前为止世界上重新演绎并出版的《卡农》版本不下2000个版本，实际上，《卡农》仅仅是一首全长仅5分钟左右的音乐小品，但它却带来了328年的奇迹，而且还会经久弥新。
“卡农曲式”从它出现至今得到了无数音乐创造者的青睐，现代音乐多元化的音乐元素融入古典音乐“卡农”，令它们赋予了新的活力以及魅力。
