#1 Mira. Si quieres tener open source hay un programa que es como Spine que tiene licencia libre y luego otra de 20 dolares con todo completo. Tiene incluso más cosas que Spine pero nunca me dió por probarlo. (Yo tengo la licencia básica de Spine).
Respecto a programas de dibujo con el estilo que pides te recomiendo licencias de programas. Te digo dos que cada licencia son unos 50 euros y te ofrecen mucho para poder hacer. Desde Cartoon hasta pasando por ilustraciones muy elaboradas:
- Manga Studio 5.
- PaintTool SAI.
Los dos son más o menos iguales la diferencia es que SAI parece que no lo actualizan ni a tiros pero es muy estable. El otro tiene funciones nuevas y más actualizado. SAI lo tira hasta un pentium 4, eso sí. Lo bueno que tienen es que a diferencia de photoshop las líneas que puedes hacer no son tan "blurry" como en photoshop.
Respecto a las partículas... Bueno, no es un tema que controle mucho pero depende. Puedes utilizar partículas directamente usando el motor de físicas o puedes basarte en hacer animaciones con programas como photoshop/Sony New Vegas, etc.
Eso sí. Si tiras de físicas del motor para las partículas tendrás que tener una imagen de referencia para las partículas lo cual volvemos a programas como Manga Studio, PainTool SAI.