При определении тестовые утверждения компилируются в двух режимах (дружественных к отладчикам и полнофункциональных), и версия выбирается во время выполнения, как описано здесь..
Статья BOOST_TEST_TOOLS_DEBUGGABLE раздела Boost.Test Reference API for writing tests может быть полезна для разработчиков на c++ и boost.