https://github.com/flori/json/issues/303 でリリースされたよ、という通知を受けて気が付いた。
2.4 リリースされてから、延々と json-1.8.3 のビルドエラーで死んでいた問題は、Integer Unification に対応した 1.8.5 で解決されるはず。ただ Rails 4.2 については、ActiveSupport の修正も必要なんでこれだけで全てがうまくいくわけではないけど、Rails に関係ないところで発生している多くは解決するはず。
それはともかく、stdlib なライブラリを dependency に追加するのは多くの場合で意味がありません。json 2.x の変更をちゃんと理解した上で、受け入れられないというのが明らかになった時点でバージョンをロックする、それ以外は基本追加しないというようにするのが正解です。