No soy ningún experto sobre el tema, ni he leído mucho sobre ello ni sobre psiquia en general, pero hasta donde yo sé, los antidepresivos se descubrieron con la explosión de los psicofármacos hace ya varias décadas, después de que aparecieran los primeros antipsicóticos y tal. Los primeros fueron los tricíclicos, los cuales se observó que mejoraban los síntomas de pacientes depresivos y posteriormente se describió su mecanismo como inhibidores de la recaptación de varios neurotransmisores, entre ellos la serotonina. De ahí fueron saliendo las diversas familias que actualmente existen, que los han ido sustituyendo ya que los tricíclicos tienen un porrón de efectos secundarios (como resultado de trastocar tantos sistemas), y algunos de ellos peligrosos, como los cardíacos.
Por eso tu pregunta acerca de cómo narices empezó todo es muy buena, ya que ahí está el meollo de la cuestión.
Primero se experimentó con drogas, se observó su efectividad en pacientes (los modelos animales no es que sirvan de mucho si estamos hablando de la mente humana) y posteriormente se buscó un efecto farmacológico. Es como empezar la casa por el tejado, aunque esto ya ha ocurrido en muchas otras ocasiones en la historia de la medicina. La diferencia está en que en esos otros casos se conocía de antemano un tratamiento de manera empírica y después se fue describiendo su mecanismo de acción y cómo intervenía en la fisiopatología de la enfermedad. Ése es el problema, que estamos hablando de psiquiatría, y aquí la fisiopatología simplemente no existe, es una entelequia. Como no podía ser de otra manera, estos fármacos se usan mucho y mal, y mueven una cantidad de pasta increíble.
Así que, ¿está demostrada la hipótesis de la serotonina? Yo diría que no, ya que de otra forma los psiquiatras no andarían tan a hostias siempre con lo mismo y tú probablemente ni siquiera habrías planteado esta duda. Tres cuartos de lo mismo ocurre con la dopamina en la esquizofrenia y demás. Eso sí, ojo, que no se sepa muy bien cómo funcionan no significa que no lo hagan, aunque se haga mal uso de ellos muchas veces. O que el aumento de los niveles de serotonina mejore la clínica de los pacientes depresivos no sinifica que el trastorno primario sea un déficit de la misma.
Como se ha comentado, hay muchos mecanismos propuestos pero ninguno realmente demostrado, y probablemente sean varios y no uno solo. Lo del cortisol concretamente me suena un poco meh, me creo que pueda estar implicado, pero también veo posible que sea un factor de confusión, aunque vete tú a saber. Por otra parte, los efectos de los antidepresivos sobre los niveles de serotonina son inmediatos, ¿por qué tardan dos semanas en mejorar los síntomas? Eso nunca me lo han explicado de manera convincente. También se ha propuesto que actúan a nivel de neurogénesis en el sistema límbico... En fin, creo que la respuesta correcta es que nadie tiene ni puta idea en realidad.
Por concluir, que vaya tochaco, creo recordar que estos temas en la facultad ni se mencionan. Al menos en la mía, que tenemos un catedrático muy talibán biologicista. Y por cierto, aquí otro viviendo la vida del opositor xD