Virtualbox 5.0.2 では docker-machine 1.8.1b は動かない, Ruby 2.0.0-p647, Ruby 2.1.7, Ruby 2.2.3 リリース - HsbtDiary(2015-08-18)のエラーをもう少し追いかけてみると#14412 (Failed to load VMMR0.r0 (VERR_VMM_SMAP_BUT_AC_CLEAR) [FIXED IN SVN]) – Oracle VM VirtualBoxとあるように Early 2015 な Macbook で発生している症状ぽいということがわかった。
先のチケットにあるように https://www.virtualbox.org/wiki/Testbuilds のテストビルドを使うと docker-machine も難なく起動した。あとはこの状態で vagrant up で SEGV 起きないような全部解決。もう少し様子見。