行星探测器轨道是指行星探测器在其运行过程中所遵循的质心运动轨迹。这种轨道通常被描述为一个限制性的多体问题。
轨道分类
行星探测器的轨道可分为多种类型，包括行星卫星轨道、人造行星轨道、在行星表面着陆轨道（也称进入轨道）、行星附近飞越轨道以及飞离太阳系的轨道。其中，除了在行星表面着陆的轨道之外，其他类型的轨道常被称为行星探测器轨道。
轨道阶段
行星探测器的轨道按照其受力情况可分为三个主要阶段：绕地心运动阶段、绕日心运动阶段和绕行星质心运动阶段。在不同的阶段中，行星探测器分别被视为相对于地球、太阳和行星运动的物体。
作用球
行星与太阳相比，质量较小。因此，只有在足够靠近行星的位置，也就是在行星周围的一个特定范围内，行星对探测器的引力才会成为探测器所受的主要力量。这个范围可以假想为一个球形区域，其球心位于行星的质心处，这个球形区域被称为作用球。作用球是区分这三个阶段的重要界限。作用球的半径取决于行星与太阳之间的质量和距离关系，具体可以通过以下公式来计算：
绕地心运动阶段
在这个阶段，探测器首先进入停泊轨道。为了摆脱地球引力的影响，需要通过点燃火箭发动机来提高探测器的速度，使其超越逃逸速度，从而进入过渡轨道。这个过渡轨道是以地球为中心的双曲线形状。有时还可以借助月球的引力来加速探测器，使其能够超越逃逸速度并实现脱离。
绕日心运动阶段
当探测器到达地球作用球的边缘时，它开始进入日心轨道。此时，需要考虑到地球相对于太阳的运动状态，将探测器相对于地球的逃逸速度转化为相对于太阳的速度。如果这个速度超过了相对于太阳的逃逸速度，那么探测器相对于太阳的运动轨道将是双曲线；而如果这个速度低于逃逸速度，探测器将会沿着椭圆形轨道绕太阳运动。
相对行星质心运动阶段
在这一阶段，探测器沿着日心轨道移动至行星作用球的边界。在此时，需要将探测器相对于太阳的速度转化为相对于行星的速度。由于探测器的速度始终高于在该位置上的行星逃逸速度，所以探测器相对于行星的运动轨道是双曲线。当这条双曲线与行星相交时，探测器可能会撞击行星或者沿着进入轨道降落到行星表面上。如果双曲线未与行星相交，那么探测器将在接近行星后再次离开行星，直到抵达作用球的边界。在这种情况下，探测器相对于太阳的速度可能有所增加或减少。速度增加时，探测器有可能飞往更遥远的行星，甚至是飞出太阳系；而速度降低时，探测器则可能与距离太阳较近的行星相遇。对于那些计划成为行星卫星或先成为卫星然后再登陆行星表面的飞行任务，可以在预定高度使用火箭发动机进行减速制动，从而使探测器进入围绕行星的椭圆轨道，成为行星的卫星。从行星卫星轨道向行星表面着陆还需要进行额外的减速操作。而对于需要返回地球的探测器，还需要进行轨道变换操作，以便将其引导进入返回轨道。
轨道计算
行星探测器轨道的计算可以分段进行。如果将每个阶段的轨道都假设为开普勒轨道，就可以获得大致的飞行路径。通过轨道摄动的方法可以获得各个阶段更为精确的轨道。然而，在实际应用中，这些轨道的精确计算都是通过数值方法进行连续计算的。