金属材料的强度、塑性和热稳定性是其关键的性能指标。多晶材料的强度会随着晶粒尺寸的减小而显著提升 (Hall-Petch关系) 。但是，当晶粒尺寸细化至纳米尺度后，会牺牲材料的应变硬化能力，引起应变局部化，严重降低材料的塑性。当晶粒尺寸细化至几纳米 (临界尺寸以下) 时，材料的强度反而开始降低，出现反Hall-Petch关系。这是由于大量晶界的存在，使纳米晶材料蕴含大量过剩自由能，处于热力学不平衡状态，基于位错的变形机制转变为晶界主导，材料易发生软化。因此在纳米晶结构材料中强度-塑性、强度-热稳定性之间的矛盾关系以及细晶强化手段失效等问题亟待解决。本文通过分子动力学模拟方法结合实验方法，针对纳米晶强度与塑性的矛盾问题，研究了两类含有纳米尺度结构金属合金的强韧化机理：一是包含纳米晶的非均匀晶粒中熵合金，二是含有极小尺寸结构(化学短程序，晶格畸变)的中熵合金，以及引入共格纳米析出相后的多相耦合强化机理。针对强度与热稳定性的矛盾问题，研究了影响受限晶体 (一种极小尺寸结构) 稳定性的控制因素及其力学性能与晶粒尺寸的关系，主要结果如下：

(1) 发现在变形初期晶粒逐步屈服和Masing hardening现象发生，从而引起线弹性后显著的应变硬化。在变形后期两种非均匀晶粒结构 (不同晶粒尺寸范围) 中均发现了HCP相变和多级纳米孪晶的形成。这两种变形机制能够显著提高材料的应变硬化能力。同时发现，HCP相变是由同一晶界相邻滑移面上的大量内禀层错同时形核和扩展形成的。

在两种非均匀晶粒结构中，单轴拉伸加载模式下大晶粒与小晶粒之间存在明显的拉伸应变分配，并且这种拉伸应变分配随着大晶粒与小晶粒之间晶粒尺寸比的增加而增大。正是由于这种拉伸应变分配导致的几何必需位错的积累，实现了非均匀变形诱导的额外应变硬化能力，从而实现高强度和大塑性。

(2) 通过分子动力学模拟方法研究并揭示了CoCrNi中熵合金中晶格畸变、局部化学有序和纳米析出相诱发的耦合强化效应和相应的变形机制。研究表明，晶格畸变和局部化学有序均存在强化效应，且晶格畸变的强化效应大于局部化学有序。此外，局部化学有序度越高，强化程度越高。两种结构均通过减缓位错滑移速度，使位错线呈现波浪形构型，实现强化效应。此外，晶格畸变与局部化学有序使位错滑移的平均速度降低，并且波浪形结构的弯曲程度随着局部化学有序度的增加而增加。变形过程中，激活的位错线微段更容易从有序的Co-Cr原子对区域中脱离，然后传播到周围区域。因此，位错线微段逐步脱钉机制诱导的粗糙位错路径是含有局部化学有序和晶格畸变的中熵合金最主要的强化机制。

与单一强化机制相比，晶格畸变、局部化学有序与纳米析出相共同作用可以产生额外的耦合强化效应。晶格畸变、局部化学有序和纳米析出相对阻碍刃位错的滑移具有耦合效应，并且这种耦合效应随着局部化学有序度的增加而增加。从纳米析出相中脱钉的过程中发现，位错通过一系列微段的向前滑动以间歇方式传播。因此刃位错从纳米析出相的脱钉过程被纳米微段逐个滑移的运动特性显著延迟，导致额外的耦合强化。

(3) 通过时效处理在(FeCoNi)₈₆Al₇Ti₇合金中引入了剧烈晶格畸变，化学短程序以及纳米共格析出相，研究其强韧化机理。力学性能方面，对比FeCoNi基体，(FeCoNi)₈₆Al₇Ti₇合金由于引入了更加显著的晶格畸变，获得了强度-塑性的同步提升。相比未时效(FeCoNi)₈₆Al₇Ti₇合金，时效处理获得了双异质结构合金 (共格纳米析出相和晶粒尺寸异构)，具有更好的拉伸性能。研究表明，共格纳米析出相引入后，变形后的平均几何必需位错密度提高，说明共格纳米析出相进一步增加了晶粒尺寸异构样品的非均匀性，产生了更显著的异质变形诱导硬化效应。其次在拉伸变形过程中L1₂共格纳米析出相是可变形的，既可阻碍位错运动，也可以通过变形避免产生应力集中。因此位错与L1₂纳米析出相之间的交互作用提供了额外的应变硬化，使时效态合金表现出更好的拉伸性能。

(4) 以纯金属Au作为研究对象，利用分子动力学模拟研究了控制受限晶体转变的关键因素，及热稳定性和力学性能的尺寸效应。通过对具有不同孪晶界密度的极小尺寸晶粒模型热弛豫发现，孪晶界密度是控制受限晶体转变的关键因素。当孪晶界密度达到一定阈值后，才会发生受限晶体转变。这与目前实验研究中只能在低层错能纯金属中获得受限晶体的结果吻合。对力学性能和热稳定性的研究发现，当受限晶体结构晶粒尺寸为4.9 nm时，在接近熔点的环境温度中依然保持稳定，且在传统临界晶粒尺寸以下仍能持续强化。这是因为受限晶体中晶界原子的平均能量低于传统晶粒中晶界原子的平均能量，且晶界原子数量低于传统晶粒。总的来说，受限晶体中的过剩自由能低于传统纳米晶，因此其热/机械稳定性更高。