针对传统机器学习方法在处理不平衡的海量高维数据时罕见攻击类检测率低的问题，提出了一种基于深度学习的随机森林算法的入侵检测模型，为了避免传统的随机森林面对高维数据和不平衡数据时分类精度低、稳定性差和对罕见攻击类检测率低的问题，引入生成式对抗网络（GAN）和栈式降噪自编码器（SDAE）对随机森林算法（RF）进行改进。首先，将罕见攻击类数据集输入GAN神经网络中，生成新的攻击类样本，改善网络入侵数据在样本集中不均衡分布的情况，然后，通过堆叠深层的SDAE逐层抽取网络数据的分布规则，并结合各个编码层的系数惩罚和重构误差，来确定高维数据中与入侵行为相关的特征，基于降维后的特征数据构建森林决策树。采用UNSW-NB15数据集的实验结果表明，与SVM、KNN、CNN、LSTM、DBN方法相比，GAN-SDAE-RF整体检测准确率平均提高了9.39%、误报率和漏报率平均降低了9%和15.24%以及在少数类Analysis、Shellcode、Backdoor、Worms上检测率分别提高了26.8%，27.98%，27.85%，39.97%。