HsbtDiary

■ Ruby office hour

Matz も参加しつつ、来週から始まる Euruko の話から各国への旅行情報や行きたいねえという話を延々としていた。

■ Ruby CI から Debian 11 を引退させて Amazon Linux 2027 preview を追加

Debian 11 が 8月末で EOL となったので shutdown した上で最近 preview として公開された Amazon Linux 2027 を追加しておいた、この AL 2027 はアップデートなどがあるわけではなく年末までの本当に preview というものらしい。

これ、Ruby CI や AWS, DNS をまたいだあれこれを全て claude で実行できるように準備しておいたので、claude に「debian 11 を退役させて」「Amazon Linux 2027 preview が使えるなら入れて」で全て完了してしまった。

ここ最近、こんな感じのことばかりか、こんな感じのことができるようになる基盤整備というのをやってるけど、その分日本語の読み書きばかりに時間を使っていてだいぶ疲れるんだよなあ。お疲れ。

■ llama.cpp を X1 AI Pro で試してみた

Windows の開発に使っている X1 AI Pro でもローカル LLM は動かせるかな、と思い AMD の GPU 管理ソフトウェアで GPU 割り当てメモリを 2GB から 32GB にした上で claude に何を使うのがいい?と聞いて出てきた llama.cpp + 18gb くらいの Qwen のモデルで簡単な翻訳処理でベンチマークを取ってみたら Haiku か Sonnet の 3.1-3.5 くらいの性能です、ということになった。

昨年の 5 月に買ったモデルのマシンでもそんなもかー...とはなったけど、内臓 GPU なのでこんなものなのだろう。あと、32GB もいらんな、ということだったので 16GB に減らしても性能は同じくらい、だった。これなら claude に全部投げた方がいいので、ローカル LLM で何かをしなくてはいけないというものは何もないけど、こんな感じなのだな、というのがわかったのはよかった。