再生冷却作为一种主动热防护形式，被广泛应用于高超声速飞行器的热防护系统。对于超燃冲压发动机，随着飞行马赫数的提升，传统的再生冷却结构面临着冷却裕度不足、结构超温等问题，亟需开展新型的热防护方案设计及优化方法研究。在众多优化方法中，以拓扑优化为代表的新兴方法，因其独特的设计思路、创新的设计构型而逐渐受到研究者的青睐。同时得益于增材制造技术的逐渐成熟，使拓扑优化成为最有发展前途的优化工具之一。

通过对国内外流体力学拓扑优化领域的研究进行总结，发现目前该方法主要应用于常物性、层流等具有简单流态的散热器优化设计，而以发动机再生冷却为背景的拓扑优化相关研究屈指可数。主要难点在于发动机再生冷却结构中的流动换热是具备高雷诺数湍流、燃料物性剧烈变化以及流动可压缩性等特征的强耦合问题，因此在优化难度和计算量方面都极具挑战。为此，本文针对超燃冲压发动机再生冷却结构，在经典的伪密度法拓扑优化模型基础上，提出了考虑变物性以及高雷诺数修正的拓扑优化模型，自主开发了与超临界流体流动换热计算耦合的拓扑优化求解器，实现了针对发动机再生冷却结构的拓扑优化设计。

首先建立了考虑超临界流体变物性的伪密度法流热耦合拓扑优化模型，基于连续伴随法推导得到了灵敏度及伴随方程，随后利用开源CFD平台OpenFOAM开发了多物理拓扑优化求解器MPFTOFoam，并对灵敏度计算的准确性进行了验证。利用该求解器，分别针对导热热沉结构、流动歧管结构以及微通道散热器结构等问题开展了拓扑优化设计，验证了所开发的求解器具备在不同边界条件、不同目标函数以及不同约束条件而自适应生成拓扑优化结构的能力。

在面向发动机再生冷却结构进行拓扑优化设计时，首先提出了考虑高雷诺数修正的拓扑优化模型，即在动量方程中添加了惯性力修正项，在湍流模型方程中添加了惩罚源项，从而在拟多孔介质湍流流动中形成了有效的人工阻力，弥补了经典的拓扑优化模型在高雷诺数湍流流动优化中的不足。随后利用该修正模型分别针对单通道和多通道冷却面板设计域开展了拓扑优化设计。研究发现，相比于传统的等截面直通道，拓扑优化通道中由于固体域的自动分裂，使得冷却剂在流动中发生了多重流动分离和再混合行为，在固体胞元前后缘以及弯曲截面等多个位置产生了二次涡结构，激发了湍动能，进而增强了局部的换热能力。在冷却面板的拓扑优化设计中，发现优化结构不仅降低了结构质量和流动压降损失，还改善了传统直通道中由热加速引起的传热恶化现象，使得局部换热增强，并在非均匀热流分布及不同流量工况下均展现出较好的综合性能。

为了降低拓扑优化的计算量和优化周期，本文进一步发展了再生冷却通道的复合优化方法。首先提出了由典型的形状胞元组合而成的新型再生冷却通道，对其流动换热性能和强化换热机理等进行了分析，随后利用形状优化和拓扑优化方法对胞元冷却通道进行了二次优化。在形状优化中，首先对胞元通道的形状进行参数化，利用回归拟合得到了各目标函数关于形状参数变量的响应面函数，建立了多目标参数优化模型，基于遗传算法计算得到了四种权重分配下的优化方案，经验证该模型具有较好的预测准确性。在拓扑优化中，基于共轭换热拓扑优化模型，分别以等截面直通道以及胞元冷却通道作为初始构型进行了拓扑优化设计，经过优化，在直通道内自动生成了哑铃形的微肋结构，而在胞元冷却通道中则生成了形状各异的新型胞元结构，两类新型通道均展现出较好的流动换热性能。