Existen dos tipos de protección para evitar el SPAM, uno para evitar que los BOTs se registren, y otro para evitar nos llenen de basura una vez pasen la primera fortaleza. CAPTCHA sirve para el primero y AKISMET para lo segundo y son las incluidas por defecto en MyBB.
Personalmente recomiendo utilizar herramientas mas avanzadas como
Registration Security Question y reCAPTCHA (incluida por defecto pero necesita configuracion) para el registro y
Spamalyser (podria ser complicado de configurar por el idioma y complejidad de las opciones) en lugar de Akismet.