已知最早的望远镜出现在1608年的荷兰，当地的制造商汉斯·利普塞（Hans Lippershey）试图获得一项专利之际。或许是因为还有许多其他人，像是米德尔堡的眼镜制造商Zacharias Janssen（英语：Zacharias Janssen），和阿尔克马尔的Jacob Metius（英语：Jacob Metius），都自称是发明者，所以汉斯•李普希没有得到他的专利，但新发明的消息很传遍了欧洲。这些早期折射望远镜的设计包括一个凸透镜的物镜和一个凹透镜的目镜。伽利略在第二年改进了设计，并将其应用于天文学。开普勒在1611年描述了如何用凸透镜的物镜和目镜制作出更有用的望远镜；而克里斯蒂安·惠更斯配合复合目镜制造出倍数高但视野不广的开普勒望远镜。
艾萨克·牛顿在1668年结合斜置对角的小平面镜将光线反射至望远镜侧边的目镜，制造出第一架"实用"的反射镜。洛朗·卡塞格林在1672年描述使用一个小凸透镜作为第二反射镜，将光线反射穿过主镜中心洞孔的设计。
消色差透镜在1733年出现在贾斯特·摩尔·霍尔（英语：Chester Moore Hall）制做的望远镜，大大的降低了物镜的色差，使望远镜可以制做得更短并且有更多的功能，但是它没有公布。约翰·多隆德（英语：John Dollond）学到了霍尔的发明，并且在1758年制作出望远镜，开始商业的量产。
反射镜望远镜发展上的重要事件是约翰·哈德利（英语：John Hadley）在1721年制造出大的抛物面镜；莱昂·傅科在1857年引入了在玻璃镜面上镀银（英语：Silvering）的程序，和在1932年采用可以持久的渗铝涂层反射镜。大约在1910年，卡塞格林反射镜的变体里奇-克莱琴望远镜被发明，但直到1950年之后才被广泛地采用；许多现代的望远镜，包括哈伯太空望远镜，都使用这种比传统的卡塞格林反射镜有更关广视野的设计。
在1850–1900年间，反射镜遭受了金属镜面材料的问题，因而造就了许多"伟大的折射望远镜"，口径从60公分到1米的折射望远镜，例如叶凯士天文台在1897年建造的；然而从1900年代初期开始，一系列口径越来越大的，以玻璃做为镜面的反射镜陆续建造出来，包括威尔逊山的60英寸、100英寸（2.5米）的虎克望远镜（1917年），和200英寸的海尔望远镜（1948年）；基本上，从1900年以来所有主要的研究望远镜一直都是粉射望远镜。在1975–1985年代，一些4米级（160英寸）的望远镜在夏威夷的火山岛和智利沙漠中的高海拔地点被建造起来。在1970年代，发展出由电脑控制的经纬仪架台，和1980年代的主动光学，使新一代更巨大的望远镜诞生，从在1993年和1996年完成的两架10米的凯克望远镜，以及一些8米的望远镜，包括ESA的甚大望远镜、双子望远镜和昴星团望远镜。
在1931年，卡尔·央斯基偶然意外发现一个电波源，开启了电波望远镜（连同电波天文学）的纪元。许多类型的望远镜，从无线电到伽玛射线的广阔波长范围，都是在20世纪发展起来的。在1960年以后发展的太空望远镜，可以观测在地面上观测不到的几个波段，包括X射线和波长更长的红外线波段。
类似透镜的物体可以追溯到4,000年前，虽然未知它的功用，可能用在其它的光学用途，也可能只是装饰；来自岩石结晶的简单透镜在历史上也早就有记载。希腊对充满水的球体有许多光学上的解释（公元前5世纪），之后的许多世纪也有光学的著作，包括托勒密著作的光学 (托勒密)（英语：Optics (Ptolemy)）（公元2世纪）就写了包括反射、折射和颜色的光学性质；接续还有10世纪的依本萨尔（英语：Ibn Sahl (mathematician)）和11世纪的海什木 。
大约12世纪，对欧洲出现的阅读石（放在阅读材料前面的放大镜镜头），以及做为取火镜的透镜，都有着翔实的文献。人们普遍认为实际使用的透镜，可以追溯到13世纪。做为矫正远视的眼镜与凸透镜，在13世纪晚期和14世纪初期诞生于意大利的北部；而在意大利北部广泛制造和使用的眼镜，利用凹透镜矫正近视眼，被归因为库萨的尼古拉在1451年的发明。因此，这意味着从13世纪至16世纪，早期有关透镜的知识和应用，以及结合凹透镜和凸透镜的望远镜原理，可能是许多人个别的发现；在13世纪，罗伯特·格罗斯泰斯特在1230年和1235年的几篇科学著作，包括（），他说：
""
罗杰·培根是罗伯特·格罗斯泰斯特在牛津大学的学生，频繁的陈述了在13世纪具有放大功能的一种装置，然而还不能确定他是否建立了一个工作模型。
望远镜的第一个纪录于1608年来自荷兰。它是米德尔的眼镜制造商汉斯•利普塞于1608年10月2日向荷兰国会申请”可以将远方物体看成就在附近的仪器” 。几周后，另一家荷兰仪器制造商，Jacob Metius（英语：Jacob Metius）也申请类似的专利。因为这种仪器的知识似乎已经无所不在，因此国会没有给予专利；但是荷兰政府给予利普塞的一个合约，以复制他的设计。
最初的荷兰望远镜由一个凸透镜和一个凹透镜组成，以这种方式制造的望远镜影像不会反转。利普塞的原始只有放大3倍。这种望远镜发明之后不久，在荷兰旧有相当数量的望远镜被制造出来，并迅速的扩散到欧洲各处。
在1655年，荷兰外交官William de Boreel（英语：Willem Boreel）试图解开望远镜发明者的谜团。他在米德尔有一位童年的玩伴，后来成为地方上的长官（行政兼司法），在成人后的早期回忆有一位称为"汉斯"（Hans）的奇观制造者，是他记得的望远镜发明者。这位长官曾与当时的一位不明地宣称者联系，米德尔的眼镜制造商Johannes Zachariassen作证说，他的父亲Zacharias Janssen（英语：Zacharias Janssen）早在1590年就发明望远镜和显微镜。这个证词似乎令Boreel信服，他现在回忆说Zacharias 和他的父亲，Hans Martens，一定是他记忆中的人。Boreel的结论是Zacharias Janssen比另一位眼镜制造商汉斯·利普塞更早发明望远镜，并被Pierre Borel（英语：Pierre Borel）收录在他于1656年的书《》中 Boreel调查的差异和Zachariassen的证词不符合（包括Zachariassen谎报他的出生日期和在这项发明中的角色），导致一些历史学家认为此一说法可疑。"Janssen"的宣称持续了多年，并加入了Zacharias Snijder（英语：Zacharias Snijder）在1841年提出4根铁管与透镜，宣称是Janssen在1590年发明的望远镜复制品；同时历史学家Cornelius De Waard（英语：Cornelius De Waard）在1906年宣称在1608年在法兰克福书展试图将破望远镜卖给天文学家西门·马里乌斯的那个人一定就是Janssen。
