计算机网络是计算机与通信技术相融合的产物，计算机网络出现的历史不长，但发展很快，经历了从简单到复杂的演变过程。世界上第一台计算机1946年诞生时，计算机与通信之间没有什么关系。最初，一台计算机只能供一个用户使用。由于计算机价格昂贵，人们希望共享计算机资源，采用了一个主机接入若干终端的方式，用分时的办法让每个终端分享主机CPU。若计算机不与数据通信相结合，分时系统所连接的多个终端都必须紧挨着主计算机，用户必须到计算机中心的实验室去使用，显然很不方便。因而将计算机与通信技术相结合的尝试，即面向终端的计算机网络首先在20世纪50年代就诞生了。随后美国航空公司投入使用的一台中央处理计算机和全美2000多个终端组成的机票预定系统就是这种面向终端的计算机网络。

美国于1969年开始实施的Arpanet计划，使计算机网络的发展进入了一个新纪元。Arpanet是计算机与计算机互连的网络，以通信子网为中心，主机和终端都处在网络的边缘。这种结构的计算机网络常称为第二代计算机网络。与面向终端的计算机网络最显著的区别在于：这里的多台主机都具有自主处理能力，它们之间不存在主从关系。这种多台计算机互联的网络才是我们目前通称的计算机网络。Arpanet使用的计算机网络的概念、结构和网络设计技术为后来所引用，为计算机网络打下了坚实的基础。

第二代计算机网络可以说是解决了计算机与计算机的连接，但不同的网络产品与网络系统的互连问题没有解决。分层技术是解决网络技术问题的很好方法。为了产品和网络的互连互通，国际标准化组织ISO在1984年正式颁布了“开放系统互连基本参考模型”OSI国际标准，使计算机网络体系结构实现了标准化互通，从此以后，就开始了所谓的第三代计算机网络，称为开放式标准化网络。

第三代计算机网络最成功的应用是Internet，因为它使用的是分层的体系结构。20世纪80年代，美国国防部和美国科学基金会资助以TCP/IP为传播模式和互联协议的计算机网，Arpanet成为Internet最早的主干。事实上Arpanet体系结构（通常称为TCP/IP协议族，或简称为TCP/IP）一直被Internet沿用至今，而并没有使用上面提到的OSI体系结构。1984年，美国国家科学基金会NSF规划建立了13个国家超级计算中心及国家教育科研网（NSFNET），替代Arpanet的主干地位。随后，Internet网开始接受其它国家地区接入。当时的应用只限于学校和研究机构，是非赢利性的。但随着PC微机应用的推广和WWW的创建、普及，使Internet上的信息从仅有数据，转而包括语音、图像。同时工业界、商业界的介入，Internet成了企业家从事电子商务的场所。人们在Internet上创建了各式各样可以赚钱的服务和业务，无数淘金者都把目光转向了Internet。我国引入和发展Internet较迟，到90年代初才建立起Chinanet（中国公众信息网）、Cernet（中国教育科研网）和CSTNET（中国科技网），在Internet上各种业务随后逐步展开。

进入九十年代，计算机技术、通信技术以及建立在计算机和网络技术基础上的计算机网络技术得到了迅猛的发展。特别是1993年美国宣布建立国家信息基础设施NII后，全世界许多国家纷纷制定和建立本国的NII，从而极大地推动了计算机网络技术的发展，使计算机网络进入了一个崭新的阶段。目前，Internet已经成为人类最重要的、最大的知识宝库。现在人们又在开始研究发展更加快速可靠的下一代互联网。可以说，网络互联和高速计算机网络正成为最新一代的计算机网络的发展方向。