Lo que preguntas es como agregar botones al editor, no recuerdo si hay un tutorial especifico para esto en mybb 1.8.x, hay varios para la 1.6.x, pero creo que podrías usar como base/ejemplo este tutorial y asociar tu código mycode en lugar del que usa el tutorial, o de paso ver los códigos de botones actuales y simplemente agregar uno nuevo usando lo actual como ejemplo, en si este es el
Tutorial cualquier cosa fijate y si no entendés alguna parte volvé a consultar de paso queda registrado para una futura guia