它俩的组成都是碳，石墨是元素碳的一种
同素异形体，每个碳原子的周边连结著另外三个碳原子（排列方式呈蜂巢式的多个六边形）以共价键结合，构成共价分子。由于每个碳原子均会放出一个电子，那些电子能够自由移动，因此石墨属于导电体。而煤是混合物结构很复杂的，有H、O、C、S、P、N等等。一些学者提出了煤的复合结构模型，认为煤的有机质可以设想由以下四个部分复合而成。
第一部分，是以化学共价键结合为主的三维交联的大分子，形成不溶性的刚性网络结构，它的主要前身物来自维管植物中以芳族结构为基础的
木质素。
第二部分，包括
相对分子质量一千至数千，相当于沥青质和前沥青质的大型和中型分子，这些分子中包含较多的极性
官能团，它们以各种物理力为主，或相互缔合，或与第一部分大分子中的极性基团相缔合，成为三维网络结构的一部分。
第三部分，包括相对分子质量数百至一千左右，相对于非烃部分，具有较强极性的中小型分子，它们可以分子的形式处于大分子网络结构的空隙之中，也可以物理力与第一和第二部分相互缔合而存在。
第四部分，主要为相对分子质量小于数百的非极性分子，包括各种
饱和烃和芳烃，它们多呈
游离态而被包络、吸附或固溶于由以上三部分构成的网络之中。