岩心钻机由回转机构、给进机构、升降机构、传动机构、操纵装置及机座等基本部分组成。由于钻机类型有所不同，有些岩心钻机还可能配备有控制测量仪表或其他附属装置。

钻机的回转机构称为回转器，用于驱动钻具回转，实现钻头连续地破碎岩石。岩心钻机的回转器有立轴式、转盘式和移动式三种，岩心钻机的分类即来源于此。

升降机构用于提下钻具、套管或其他东西。多数钻机专门配有升降机构，一般称为“升降机”，而某些钻机是不配有升降机构的，例如在移动回转器式钻机中，是利用动力头和给进机构配合实现升降机的功能的。

给进机构用于调节和保持孔底钻头上的轴向载荷，并根据钻头的钻进速度给进钻具，保持钻头连续不断的钻孔。

传动机构用于驱动钻机的动力机到钻机各工作机构的动力传递。钻机动力的传动方式有机传动，半液压传动、全液压传动三种类型。

操纵装置用于分配动力、调节钻机各工作机构的运动速度，改变工作机构的运动方向和形式。机械传动式钻机的操纵机构一般与有关的部件设置在一起，而液压传动式钻机的操纵机构多集中设置在一起成为独立的部件，称为操纵台。