Sampleの三角形(青)のうち、Referenceの三角形(赤)に含まれる多角形(黒)を求める。
(Sampleの三角形がReferenceに内包される場合、多角形(黒)はSampleの三角形(青)と等しくなる。)
三角形OP0P1(青)の面積はベクトルr0とr1の外積のz成分の1/2になる。
このとき、ベクトルr0からr1への向きが時計方向なので値は負となる。
同様に、三角形OP2P3(赤)の面積はベクトルr2とr3の外積のz成分の1/2になる。
このとき、ベクトルr2からr3への向きが反時計方向なので値は正となる。
従って、多角形の面積は次式で表すことができる。
ただし、i=nのとき、n+1=0とする。