自30年代末发明阴极射线管以来，工程师们就利用第一批频谱分析仪来观察信号功率和频率的关系，帮助他们实现雷达研制中的基本功能。40年代的频谱分析仪是以扫频的射频接收机为基础的实验室成果。50年代至60年代真正有了台式频谱分析仪。美国HP公司1964年推出了第一台市售半自动的频谱分析仪。

70年代，随着YIG调谐器、集成电路、高性能微波晶体管及固体微波器件的研制成功，采样技术、频率合成技术、微波混合集成技术及数字化技术的发展与应用，频谱分析仪如雨后春笋，得到了快速的发展。从80年代开始，随着计算机、微处理器的发展和广泛应用，频谱分析仪向智能化和自动化方向大步迈进，先后出现了一大批智能频谱分析仪和自动频谱分析仪。自上世纪以来，微处理器的普及和数字技术的应用，促进了频谱分析仪的快速发展。目前频谱分析仪都实现了高分辨率、大动态范围、高灵敏度、CRT数字显示、乃至数字储存和高可靠性的方向发展。现代计算机技术和数字信号处理技术（DSP）在频谱分析仪中使用，成为现代频谱分析仪的发展趋势。