Интересное свёрлышко. Я так обычно пользуюсь спиральными свёрлами, заточеными "под пёрку". В тонком материале так вообще, только такими сверлить можно, так как свёрлами с "обычной" заточкой отверстия гранёные получаются.
A-Gugu
Если я правильно понял, то вы торцем фрезы по тоненькому слою снимали?

Так ведь не делают! Надо сначала просверлить отверстие под диаметр фрезы, затем ввести туда фрезу и фрезеровать по контуру отверстия (на подобии того, как лобзиком выпиливают). Естественно, что фреза должна быть хорошо заточена и режим подходящий подобрать надо. Если радиуса на углах не допускаются, то тут уж надфилем придется немного поработать.