拥有一艘可以潜入水中并在敌人下方巡航的船的想法一直吸引着每一位军事领导人。还有一个传说说，亚历山大大帝把自己放入一艘原始形式的潜水船中进行水下侦察。在水下划艇的早期概念中，有一艘是由一位名叫威廉·伯恩的英国人在1578年提出的。但直到1620年，荷兰人科尼利厄斯·德雷贝尔意识到这一概念并开始着手研究，这些计划才付诸实施。
德雷贝尔的潜艇是用木头建造的，螺旋桨可以让船在水下漂浮几个小时。这艘船装有管子，为船员们从水面带来空气。当他第一次在泰晤士河上展示他的船时，他在水下呆了三个小时，有传言说这些人已经在泰晤士河上死亡并消失了。
荷兰诗人和作曲家康斯坦丁·惠更斯见证了第一次游行。他写道，这项“大胆的发明”可以在战争时期用于击沉敌人的船只。和惠更斯一样，许多人也了解潜艇在战争中的潜力和重要性。尽管如此，建造一艘军用潜艇又花了100年时间。
1718年，一位名叫耶菲姆·尼科诺夫的俄罗斯木匠写信给彼得大帝，说他可以建造一艘秘密船只，可以在水下航行，用大炮摧毁所有的敌舰。沙皇邀请尼科诺夫到圣彼得堡，请他着手建造。尼科诺夫在1721年完成了模型的建造，并在彼得面前进行了测试，彼得命令他建造一艘全尺寸的秘密战舰。
尼科诺夫的潜艇是用木头建造的，形状像一个木桶。它装有消防管。这艘潜艇应该到达一艘敌舰，取出它的消防管，用一些可燃混合物炸毁敌舰。与此同时，他还设计了一个气闸，让潜水员从潜艇里出来摧毁潜艇。潜艇的第一次测试是在1724年进行的。这次测试是一场灾难，因为潜艇沉没了，撞到了海底，舱底破裂了。尼科诺夫本人和其他四名船员都在里面。令人惊讶的是，他们都成功地活了下来。
彼得支持并鼓励尼科诺夫改进他的设计。然而，失败仍在继续，困扰着尼科诺夫，尤其是在他的主要庇护人沙皇彼得去世后。1725年，第二次试验失败，1727年第三次试验失败。在连续三次失败后，俄罗斯帝国海军以滥用公共资金的罪名起诉尼科诺夫，并将他贬为一名普通木匠，派他到伏尔加河上的另一家造船厂工作。
在1775年的美国独立战争中，首次成功使用军用潜艇。这艘潜艇是由美国发明家大卫·布什内尔设计的，被命名为“海龟”。这是一个鸡蛋形状的设备，只能容纳一个人，并且是手动的。这是第一艘能够在水下独立操作和移动的潜艇。乌龟潜入水中，让一些水进入舱底的舱底。它通过手动泵将水挤出来。手摇螺旋桨提供垂直和水平运动，速度为4.8公里/小时。这艘船所装的东西足够进行30分钟的作业。
在美国独立战争期间，海龟是由埃兹拉·李中士操作的。他试图攻击英国军舰“鹰”号，但还没来得及攻击，他就被发现了，被迫放弃了潜艇。然而，这次袭击的唯一记录是美国人，英国历史上没有这样的记录，这使得整个故事令人怀疑。“海龟”号的复制品目前在美国的几家博物馆以及英国戈斯波特的皇家海军潜艇博物馆展出。
