Den Prozessen im Hlg. Römischen Reich lag die peinliche Halsgerichtsordnung Karls V. zugrunde. Gegenüber der mittelalterlichen Rechtspraxis bedeutete dies einen Fortschritt, da die Anwendung der Folter streng reglementiert war und auf Gottesurteile verzichtet wurde. Der Beweis der Schuld galt nur bei einem Geständnis des Angeklagten als geführt, welches ohne Folter wiederholt werden musste. Allerdings wurde die Gerichtsordnung des katholischen Karl V. in evangelischen Ländern nicht vollständig angenommen. Die Gerichtsordnung sah vor, dass Hexerei mit einer Buße für den tatsächlichen Schaden zu bestrafen sei. In evangelischen Regionen wurde diese Vorschrift verschärft, weil Hexerei einen Bund mit dem Teufel darstelle und somit immer des Todes würdig sei.

In Regionen, in denen die katholische Kirche die Oberhand hatte, wie in Italien und Spanien, wirkte sich die Hexenverfolgung weniger stark aus. Anders sah die Situation in den evangelischen Regionen Deutschlands, Skandinaviens und der Schweiz aus.

Der 1486 erschienene Hexenhammer genannte Malleus maleficarum ersetzte niemals die weltliche Rechtsprechung. Der Verfasser Heinrich Kramer stellte seinem Werk zwar die päpstliche Bulle Summis desiderantes voran. Sein Dokument fasste die damaligen Vorstellungen von Hexen zusammen und belegte sie mit Dutzenden von Kirchenväter-Zitaten. Das Dokument erreichte aber nie kirchliche Anerkennung und war auch keine Grundlage zum kirchlichen Vorgehen. In dem dritten Teil seines Werkes gab er Empfehlungen zu dem Gerichtsverfahren. Dort definiert der Hexenhammer die Begriffe „Unterbrechung“ und „Fortführung“ der Folter, falls der Angeklagte das Geständnis widerrief. Damit war dieser relative Fortschritt in der Gerichtsbarkeit bereits ad absurdum geführt. Auch der Verzicht auf Gottesurteile wurde auf Seiten der Evangelischen durch die sogenannten Hexenproben aufgehoben, am bekanntesten die Wasserprobe und der Kesselfang, die es auch noch als Gottesurteile gab, sowie als neue Elemente die Wiegeprobe, das Stechen von Muttermalen („Hexenmalen“), das Vorlesen lassen von Jesu Leidensweg etc.

Ein weiteres wichtiges Vorgehen war ein Denunziantenprozess. Denunzianten mussten dem Beklagten nicht offen gelegt werden, was für den „Erfolg“ der Hexenprozesse von Bedeutung war. In der Praxis wurden Appelle an weitere Zeugen der "Verbrechen" gerichtet, so dass dem ersten Denunzianten weitere folgten. Im Falle einer Verurteilung erhielt der Denunziant ein Drittel des Vermögens des Angeklagten, jedoch mindestens 2 Gulden. Ein bekanntes Beispiel ist der Fall Katharina Kepler. Sie war die Mutter von Johannes Kepler und wurde 1615 auf Grund eines Streites von einer Nachbarin als Hexe bezeichnet. Katharina Kepler wurde über ein Jahr gefangen gesetzt und mit der Folter bedroht, schließlich aber auf Grund der Bemühungen ihres Sohnes freigesprochen.

Die Erzwingung des Geständnisses unter Folter war neben dem Denunziantenprozess eine wichtiges Vorgehen: Angeklagten sollten eingestehen und Reue zeigen sowie Mitverschwörer verraten. So zog ein Hexenprozess gegebenenfalls etliche andere nach sich. Es gibt Hinweise darauf, dass beispielsweise in deutschen Hexenprozessen des 17. Jahrhunderts gezielt Adlige in die Verfolgung einbezogen wurden in der vergeblichen Hoffnung, den Prozesswellen ein Ende zu machen.