Facil..
-Haber, primero tienes que bajarte el AppServ (la version mas nueva que encuentres).
-Instalas el AppServ.
-Cuando acabe de instalarse, t dira si kieres abrir el mysql y el apache, dile que si.
-Del PHP que t has bajado, la carpeta html la metes en la carpeta www (C:/Appserv/www).
-Luego vas al Navegador y escribes http://localhost/phpmyadmin.
-T saldra el PHPMyAdmin, le das a crear base de datos, de nombre le pones phpnuke, una vez creada apreta en ella y en el menu de arriba veras una opcion llamada SQL, aprieta, luego dale a examinar, y busca la carpeta que t has bajado del PHP-Nuke, en principio el archivo contenia 2 carpetas, una llamada html, que es la que has metido en el appserv, y otra llamada sql.Pues tienes que abrir la de sql, y en ella encontraras un archivo llamado si no recuerdo mal nuke.sql. Aceptas y espera a que suba todo a la base de datos.
-Ahora si todo esta correctamente en principio ya tendras las web en tu propio servidor.
-Escribe en el navegador...http://localhost/html
-Si a la carpeta html le has canviado el nombre, como es logico tambien deberas canviarlo a la hora de ponerlo en el navegador.
Si no t funciona me avisas, que mirare si me he dejado algo.
Un saludo y suerte!