加尔文出生於法国巴黎北部不远的瓦兹省，父亲是一名律师。1523年，他进入巴黎大学学习法律，获得文科硕士，然後又赴奥尔良进修获法学博士学位。1532年改新新教，1534年赴瑞士巴塞尔，1536年定居日内瓦并发表《基督教要义》。

1538年由於过激改革宗教，和市政当局冲突，被迫出走斯特拉斯堡，1541年返回日内瓦，重获市政当局支持，建立日内瓦归正宗（reformed church），从1541年到1555年进行一系列的神学争论。

当时的日内瓦的宗教改革并非在喀尔文加入才开始，在喀尔文之前是由法惹勒等人发起的，并在1536年市民大会投票决定建立基督教城市。当喀尔文进入此城市时，因他对於教会的权柄及服事者的威权上的观念，而采取的行动造成了他对非本派的教徒镇压。他在日内瓦发起对当时被视为渎神者的神学家（科学家）塞尔维特的起诉，导致其被定罪，火刑烧死这场悲剧。尽管喀尔文本人并不支持采用火刑而主张以更人道的方式处决塞尔维。这个行动也导致喀尔文日後与神学家卡斯特利奥的激烈争论。

喀尔文向其他国家传播新教教义，他的教义在荷兰、苏格兰和英格兰影响很大，他还从事政治活动，拉拢一些法国王室成员和贵族加入法国的喀尔文教派胡格诺派，结果导致法国发生宗教战争。他延揽大批欧洲新教难民到日内瓦，导致日内瓦成为归正宗的国际中心，号称「新教的罗马」。喀尔文对新教的发展有相当重要的贡献，在理论上奠定了归正宗的基础。他的神学名着是《基督教要义》。