Gert,
Ich hatte das gleiche Problem. Du hast wahrscheinlich ein 64bit Windows. Dafür brauchst Du die Datei libfftw3f-3.dll in der 64bit Version.
Ich habe sie hier gefunden (download, entpacken, datei in Maskulator Verzeichnis kopieren und alte Datei ersetzen). Dann erneut versuchen...