DaGeRuK yo he tenido el mismo problema en Win7 pero no exactamente con quakelive, sino al cambiar la resolucion de pantalla por el mismo panel de windows, me pasó eso que dices de verlo en un cuadradito pekeño centrado y tener rayas negras a los lados y arriba, la solución que yo encontré te la detallo a continuacion:
Entras al panel de control de nvidia
vas a la opcion de cambiar la resolucion de pantalla
pones la resolucion que quieres jugar en quakelive
a continuacion pulsas en "agregar resolucion personalizada"
asegurate de dejar todo como está y solo tocar los Hz, ponle 75 y dale a "Probar", luego prueba 85hz (si el modo del que hablas lo soporta, claro está).
Fin del problema, al darle "Probar" si veias la pantalla centrada, ahora ya deberia de estirarse "normal".
Aclaro que uso Win7 Ultimate x64 RC prueba 30 dias (compilacion 7100) y drivers nvidia actuales (191.07)
Tambien decir que no se te ocurra probar a meterle mas de 85hz a ningun modo ya que Win7 te capa a 85hz max y no hay manera de sobrepasar ese valor a no ser que hagas una chapuza en tu cable DVI->VGA pero vamos es una movida que tambien la acompaña usar unos software y es un tanto complicado, y no, no hay solucion del palo usa el programa refreshlock o similar, pq no funcionan está ya muy probado.
No se si te servirá mi solucion, en mi caso obtuve la pantalla "centrada" al irme a cambiar el refresco de 1152x864 a 85hz en vez de 75hz (default), le sentó mal a windows o al monitor y me dejó la imagen centrada, tb me jodió otras resoluciones y me salian rayas negras en el QL como si fueran de refresco pero muy feas y como comento lo arreglé por el panel de nvidia despues de probar a desinstalar drivers, reinstalar, dejar al sistema sin driver, etc etc, y la solución al final estaba en el panel de control. Si pruebas y te funciona ya dirás algo, saludos.