Во-первых, никакой не эпицикл. Орбитальная скорость Луны во много раз меньше скорости Земли вокруг солнца, поэтому луна никогда не движется назад. Орбита Луны выпуклая и очень мало отличается от орбиты Земли.
И она, конечно же, незамкнутая, потому что лунный месяц не кратен году.

Ну и приливное изменение орбиты, про которое вам в другом комменте сказали.