Присоединяюсь к andrestudio
sla8a, ошибка в округлении 1Е-6 великовата, расчёты ведутся в 15-ти десятичных цифрах, 1Е-13 самый раз!
Принятый метод по площади универсален для любых выпуклых фигур, можно и для массива вершин такой метод применить.
Молодец!