近些年，云计算作为一种新型服务模式，成为信息技术领域最令人关注的话题之一。随着云计算的迅猛发展，服务器虚拟化等新技术带来的动态变化使网络可管理性面临严峻挑战，目前的网络体系结构无法满足新的需求。由于复杂的混合云网络逐渐成为云计算发展的瓶颈，软件定义网络(SDN)技术近年来成为学术界和工业界关注的热点。通过分离网络控制面和数据面，基于OpenFlow的SDN体系结构通过抽象底层基础设施，使网络实现集中管理和具备可编程性。在网络安全领域，由于虚拟化技术的引入，打破了传统网络边界的划分方式，网络边界变的模糊和动态。同时，云计算规模的不断扩大也使从内部发起网络攻击成为可能。面对这些新出现的问题，传统的安全技术手段无法做到有效的安全防护。SDN的出现为云计算安全带来新的视角，它的技术特点表明SDN能针对云计算环境中的动态变化及时作出反应。目前对于应用SDN来解决网络攻击的研究尚处于起步阶段，SDN是否能够高效检测来自内部的网络攻击尚无定论。针对该问题，本文首先对近些年云计算安全研究进行了分析，尤其详细总结了SDN为云计算安全带来的崭新成果。随后，在分析了SDN技术框架的基础上，针对云计算复杂的内部网络环境和新的安全需求，提出了基于SDN的异常检测方案，并从设计思想、模块构成等方面进行了详细介绍。最后，设计了基于OpenStack的云环境实验方案，模拟了DDoS攻击和端口扫描攻击，分析了SDN在检测攻击时的精确度和资源使用率。结果表明，在云环境下利用SDN检测内部威胁时比传统网络环境占用更少的物理内存而不影响精确度，但直接在SDN控制器上部署安全应用的方式也存在性能瓶颈。