Yo tengo la solución a eso, a mi gual me pasaba y es porque en editor.js cuando agregas nuevos botones no lo hagas en las toolbars containers que vienen sino crea una nueva así.
Después de eso cuando crees tu nueva Toolbar dile que la contenga tu nueva toolbar container así.
Cita: this.createToolbar('miToolbar', {
container: 'nuevaToolbarContainer',
alignment: 'left',
items: [
{type: 'button', name: 'tachar', image: 's.png', insert: 's', title: 'Tachar texto'},
{type: 'button', name: 'spoiler', image: 'spoiler.gif', insert: 'spoiler', title: 'Spoiler'}
]
});
de esta manera la toolbar container adapt a el tamaño de la caja de mensaje.
aprovechando que tengo el enlace en el portapapeles te muestro como a mi no se me desborda:
[Imagen: pantallazokd.png]
si aún se te sigue desbordando, hay dos lineas más que puedes modificar.
cambia los números por valores más altos, entre más altos menor será el tamaño del textarea.
substract es para el alto y substract2 para el ancho.