Yo tengo la solución a eso, a mi gual me pasaba y es porque en editor.js cuando agregas nuevos botones no lo hagas en las toolbars containers que vienen sino crea una nueva así.
Código:
this.createToolbarContainer('nuevaToolbarContainer');
Después de eso cuando crees tu nueva Toolbar dile que la contenga tu nueva toolbar container así.
Cita: this.createToolbar('miToolbar', {
container: 'nuevaToolbarContainer',
alignment: 'left',
items: [
{type: 'button', name: 'tachar', image: 's.png', insert: 's', title: 'Tachar texto'},
{type: 'button', name: 'spoiler', image: 'spoiler.gif', insert: 'spoiler', title: 'Spoiler'}
]
});
de esta manera la toolbar container adapt a el tamaño de la caja de mensaje.
aprovechando que tengo el enlace en el portapapeles te muestro como a mi no se me desborda:
si aún se te sigue desbordando, hay dos lineas más que puedes modificar.
Código:
subtract = 20;
subtract2 = 12;
cambia los números por valores más altos, entre más altos menor será el tamaño del textarea.
substract es para el alto y substract2 para el ancho.