Tengo una pregunta, cuando pongo el editor para la respuesta rápida el foro se deforma, intenté editando y usando plugin.. que podría ser?

solo basta con bajarle los rows al textarea de showthread_quickreply... quedara un poquito ajustado como aqui en MyBB-Es pero no se ve mal... (Si es a lo que creo que te refieres es la unica solución)

El editor se ve bien (creo) solo que el fondo se deforma y por ejemplo a la derecha queda el fondo muy grande como si hubiera más cosas, no sé si me entendes..

Por otro lado, el tuto esta acá?

No, pero por ejemplo busca la plantilla que te mencione y deja tu textarea y dejala mas o menos asi