网络并不新鲜。在计算机时代早期，众所周知的巨型机时代，计算机世界被称为分时系统的大系统所统治。分时系统允许你通过只含显示器和键盘的哑终端来使用主机。哑终端很像PC，但没有它自己的CPU、内存和硬盘。靠哑终端，成百上千的用户可以同时访问主机。这是如何工作的？是由于分时系统的威力，它将主机时间分成片，给用户分配时间片。片很短，会使用户产生错觉，以为主机完全为他所用。
在七十年代，大的分时系统被更小的微机系统所取代。微机系统在小规模上采用了分时系统。所以说，并不是直到七十年代PC发明后，才想出了今天的网络。
远程终端计算机系统是在分时计算机系统基础上，通过Modem（调制解调器）和PSTN（公用电话网）向地理上分布的许多远程终端用户提供共享资源服务的。这虽然还不能算是真正的计算机网络系统，但它是计算机与通信系统结合的最初尝试。远程终端用户似乎已经感觉到使用“计算机网络”的味道了。
在远程终端计算机系统基础上，人们开始研究把计算机与计算机通过PSTN等已有的通信系统互联起来。为了使计算机之间的通信联接可靠，建立了分层通信体系和相应的网络通信协议，于是诞生了以资源共享为主要目的的计算机网络。由于网络中计算机之间具有数据交换的能力，提供了在更大范围内计算机之间协同工作、实现分布处理甚至并行处理的能力，联网用户之间直接通过计算机网络进行信息交换的通信能力也大大增强。
1969年12月， Internet的前身--美国的ARPA网投入运行，它标志着我们常称的计算机网络的兴起。这个计算机互联的网络系统是一种分组交换网。分组交换技术使计算机网络的概念、结构和网络设计方面都发生了根本性的变化，它为后来的计算机网络打下了基础。
八十年代初，随着PC个人微机应用的推广，PC联网的需求也随之增大，各种基于PC互联的微机局域网纷纷出台。这个时期微机局域网系统的典型结构是在共享介质通信网平台上的共享文件服务器结构，即为所有联网PC设置一台专用的可共享的网络文件服务器。PC是一台“麻雀虽小，五脏俱全”的小计算机，每个PC机用户的主要任务仍在自己的PC机上运行，仅在需要访问共享磁盘文件时才通过网络访问文件服务器，体现了计算机网络中各计算机之间的协同工作。由于使用了较PSTN速率高得多的同轴电缆、光纤等高速传输介质，使PC网*问共享资源的速率和效率大大提高。这种基于文件服务器的微机网络对网内计算机进行了分工：PC机面向用户，微机服务器专用于提供共享文件资源。所以它实际上就是一种客户机/服务器模式。
计算机网络系统是非常复杂的系统，计算机之间相互通信涉及到许多复杂的技术问题，为实现计算机网络通信，计算机网络采用的是分层解决网络技术问题的方法。但是，由于存在不同的分层网络系统体系结构，它们的产品之间很难实现互联。为此，国际标准化组织ISO在1984年正式颁布了“开放系统互连基本参考模型”OSI国际标准，使计算机网络体系结构实现了标准化。
进入九十年代，计算机技术、通信技术以及建立在计算机和网络技术基础上的计算机网络技术得到了迅猛的发展。特别是1993年美国宣布建立国家信息基础设施NII后，全世界许多国家纷纷制定和建立本国的NII，从而极大地推动了计算机网络技术的发展，使计算机网络进入了一个崭新的阶段。目前，全球以美国为核心的高速计算机互联网络即Internet已经形成，Internet已经成为人类最重要的、最大的知识宝库。而美国*又分别于1996年和1997年开始研究发展更加快速可靠的互联网2（Internet 2）和下一代互联网（Next Generation Internet）。可以说，网络互联和高速计算机网络正成为最新一代的计算机网络的发展方向。