Espacios de Hilbert y analisis espectral

Primero: Cómo defines base de un espacio de Hilbert? Normalmente se definen como los conjuntos ortonormales maximales... Otra manera de definirla es como un conjunto ortonormal tal que la clausura de sus expansiones lineales es H.

Sea B una base (numerable) de H. Sabemos que Span( es denso en H (es decir que todo elemento de H se pone como combinación lineal "infinita" de elementos de . Es decir: B numerable tal que Clausura(Span() = H es la definición de base de un espacio de Hilbert.

Sea S un conjunto ortonormal maximal de H. Como H es separable, S tiene que ser numerable. Esta es la parte más difícil (creo): Si S = {x{alfa}}, entonces hagamos una bola de centro x{alfa} y radio sqrt(2)/2 < 1 para cada elemento de S. Estas bolas son disjuntas (la distancia entre dos elementos x_{alfa} es sqrt(2)). Cada bola tiene que contener al menos un elemento de Span( (que es contable), si no fuera así Span( no sería denso ya que su clausura estaría dentro del complementario de la bola. Como las bolas son disjuntas, contienen elementos distintos de Span(. Hemos hecho pues una inyección, para cada alfa un y solo un elemento de Span(, por tanto la cantidad de bolas tiene que ser numerable (ya que Span( es numerable, repito) y por tanto S tiene que ser numerable.

Ahora, sea pues S = {xn} un conjunto ortonormal maximal.
Idea: A = Clausura(Span(S)) es un subespacio cerrado de H: sea x1 x2 elementos de A, entonces x1-x2 también lo es. Demostración: x1 = lim x1n (con x1n en Span(S)), x2 = lim x2n (con x2n en Span(S)), entonces x1-x2 = lim (x1n - x2n) (con x1n-x2n en Span(S), recuerda que el límite de la suma es suma de límites y el límite del producto por escalar es el producto por el límite porque son uniformemente continua y continua respectivamente). Ahora, Ort(S) = {x en H tal que <x,s> = 0 para todo s en S} = 0 , ya que si no podríamos añadir más vectores a S.

Pero la gracia es que Ort(S) = Ort(Clausura(Span(S))): La inclusión hacia un lado es trivial: S está incluido en Clausura(Span(S)), por tanto si un elemento es ortogonal a todos los de la clausura, tiene que ser ortogonal a todos los de S también. Hacia el otro lado: Si un elemento es ortogonal a todos los de S, lo es a todos los de Span(S). Entonces si x = lim xn (xn en Span(S)), e y es ortogonal a todos los elementos de S, tenemos que <x,y> = < lim xn , y > = lim <xn,y> = lim 0 = 0 (< ,y> es un operador continuo!!!).

Para acabar, si tienes V un subespacio cerrado de H , entonces Ort(V) = 0 si y sólo si V = H:
Si V = H evidentemente Ort(H) = 0. Ahora, si Ort(V) = 0, supongamos que V != H. Sea x en H-V.
Por el Teorema de la Proyección Ortogonal (que no demostraré), existe un elemento v tal que d(x,v) = d(x,V) y además este v es tal que (x-v) está en Ort(V). Pero eso significa que x-v = 0 y por tanto x = v y por tanto x está en V: Contradicción!! Por tanto Ort(V) = 0 => V = H.

Recogiendo las piezas:

• Si S es un conjunto ortonormal maximal, entonces es numerable.

• Además, Clausura(Span(S))) es un subespacio cerrado de H.

• Además, Ort(S) = 0 => Ort(Clausura(Span(S))) = 0.

• Si V es subespacio cerrado de H y Ort(V) = 0, entonces V=H.

• Por consiguiente, Clausura(Span(S))) = H.

• Por tanto, S es una base de H.

No sé hasta qué punto puedes usarlo, pero http://www.math.ubc.ca/_{feldman/m511/spectralExamples.pdf} aquí tienes el ejercicio resuelto. Básicamente usa que la transformada de Fourier es un operador unitario y por tanto el espectro de Ta es el de FTaF^-1, pero FTaF^-1 (f) (k) es e^ikalfa*f(k) así que el espectro puntual es el conjunto vacío. No obstante si a = 0, entonces el espectro puntual es {1}.
Pero me parece muy mal por parte de tu profesor que no especifique dónde está el espacio exactamente

Me parece una sobrada, es el teorema espectral y para operadores autoadjuntos en general que yo sepa no es fácil. Si es un operador autoadjunto compacto entonces sí se puede hacer (en la wiki americana hay una guía en "compact operators" y en cualquier libro de análisis funcional lo encontrarás).