Род, как я понял, женский. Maleficarum — от Malefica, не от Maleficus.

В первой главе текста монахи нас убеждают: «Vnde et conseqventer Hæresis dicenda est nõ Maleficorum, sed Maleficarum, vt à potiori fiat denominatio» — «Так как Ересь исходит не от Колдунов, а от Колдуний, исходя из этого, да будет так определено».