皮划艇分皮艇和划艇两种。皮艇起源于格陵兰岛上的爱斯基摩人所制作的一种小船，这种船用鲸鱼皮、水獭皮包在骨头架子上，用两端有桨叶的桨划动。划艇则起源于加拿大，因此又称加拿大划艇。实际上，这两种艇都是从独木舟演变而来的，因此东南亚的一些国家和地区，如日本、韩国、朝鲜、香港、澳门等地都把皮划艇称为独木舟。

现代的皮划艇是1865年开始的，苏格兰人麦克格雷戈以独木舟为蓝图，仿制了一条名为"诺布-诺依"号的小船，长4.57米，宽0.76米，重30公斤。1867年他创建的英国皇家皮划艇俱乐部举办了第一次皮划艇比赛。此后，皮划艇运动逐渐兴起，到19世纪末，皮划艇运动已成为欧美各国广泛开展的一项体育活动。

1924年1月，由丹麦、瑞典、法国和奥地利发起在丹麦首都哥本哈根成立了"国际划艇代表会"，缩写为IRK，拟订了代表大会的章程和第一个皮划艇竞赛规则，规定比赛的艇种有皮艇、划艇和风帆艇，比赛的距离为1500米和10000米，比赛的形式有普通比赛和接力比赛两种。第二次世界大战后，国际划艇代表会被国际皮划艇联合会(FIC)取代。

1924年在法国巴黎举行的第8届奥运会期间，加拿大和美国运动员曾在塞纳河上进行划艇表演赛，当时的比赛要求同一条划艇用双叶桨比赛一次，再用单叶桨比赛一次。直到1936年皮艇和划艇才一同进入正式比赛。