Geralmente usa-se um algorítmo de polygon clipping, como o de Sutherland e Hodgman.
É que em CG, a menos que vc use uma spline ou uma curva de bezier, dificilmente vc modela uma circunferência como um circulo e sim, como uma série de pequenas linhas.