具有特殊物理化学性质的功能有机分子由于其可以在基质表面形成结构多样的分子自组装膜而具有良好的应用前景。因此，研究基于功能有机分子的表界面分子自组装膜结构已成为成为分子传感器领域的研究热点之一。分子自组装膜中分子的排列结构是影响分子传感器性能的重要因素之一，因此研究功能有机分子在表面的自组装结构是很有必要的。 有机分子在表面的自组装结构的影响因素有温度、溶剂、基底、浓度、光照和电磁场等，通过选择合适的条件，将有可能得到目标的分子组装结构。本论文利用扫描隧道显微术（STM）研究了三种功能有机分子在非共价键相互作用驱动下的分子自组装，探讨了温度、溶剂等对分子在石墨表面的自组装结构和形态的影响，并分析了基于同源分子的不同的分子组装结构对组装膜性能的影响。本论文的研究内容和结果如下： 1．利用STM研究了CuPcOC8分子在HOPG表面的自组装结构并分析了温度对组装结构的影响。室温下CuPcOC8分子在HOPG表面可以同时形成分子密度较低的四次对称结构和分子密度较高的六次对称结构。通过提高分子自组装时的温度或对室温下组装好的分子层进行退火处理，观察到了四次对称结构向六次对称结构转化的现象。通过对在不同条件下获得的分子组装层的STM图像中四次对称和六次对称结构所占比例的统计分析，揭示了CuPcOC8分子在HOPG表面的两种组装结构的形成机制和大气环境下这种铜酞菁分子组装结构的可调性。四次对称结构和六次对称结构之间存在着一个能垒，六次对称结构是热力学稳定的结构，而四次对称结构是热力学不稳定但是在动力学上有利的结构。因此通过选择合适的温度或给予充足的组装时间就可以获得组装结构均为六次对称的大范围均匀一致的分子自组装膜。 2.利用STM研究了PTB分子和PTB-C18分子在HOPG表面的自组装结构。在乙醇、辛醇和辛酸三种溶剂条件下PTB-C18分子自组装结构不同。同时对比分析了由于组装结构的不同导致的PTB分子和PTB-C18分子在石墨表面形成的自组装层的荧光性能的不同。实验表明PTB分子组装层仍然具有荧光性能且可以实现对水中Hg2+的荧光响应；而PTB-C18分子组装层则没有荧光性能且对水中Hg2+没有荧光响应性。