Opengl Douglas algorithm