NVIDIAのNemotron-3.5-Lightning 30B-A3Bを試す。実用には足りないけど「オープンソース」でもここまでできる

NVIDIAから出たNemotron 3.5 Lightningを試します。
NVIDIA Nemotron 3.5 Lightning Delivers Fast, Accurate Specialized Task Execution for Long-Running Agents | NVIDIA Technical Blog

サイズは30B-A3BでMamba 2ベースの線形アテンション採用モデルです。ライセンスはOpenMDW-1.1。

Nemotron 3 Nanoをエージェント対応にファインチューンしたものという感じ。
Nemotron 3 Superを試す。コードは堅実に書ける。 - きしだのHatena
NVIDIAのLLM、Nemotron 3 Nanoは賢いけどコーディングには向かないかも。Mamba 2の特性が悪く出てる? - きしだのHatena

なので、少し離れたコンテキストがあいまいになって記憶喪失っぽい言動になるのも変わってないです。
「エラーが出たのでエラーが出る部分全部削除して解決しました!」がデフォルトのエラー解決手段。
実用には厳しい。

ただ、Nemotronは珍しい「オープンソース」なLLMです。学習に利用したデータセットや学習手順も公開されています。
そういったオープンソースでここまでできる、というモデルと言えます。
エージェント動作ができるようになっただけ進歩、というところ。

ビルドと実行

アーキテクチャがnemotron_h_moeでNemotron 3から変わっていないのでllama.cppですでに対応しています。

UnslothさんのところからGGUFが出てなかったので、lmstudio-communityのQ4_K_Mを使います。
https://huggingface.co/lmstudio-community/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-GGUF

./llama-server --host 192.168.1.8 -m NVIDIA-Nemotron-3.5-Lightning-30B-A3B-Q4_K_M.gguf

こんにちは

Reasoningの量をみるために「こんにちは」の反応を見ます。
300トークン、ほどほどにトークン使って返事してくれました。

118tok/secいいですね。

知識カットオフ

Javaの最新バージョンについて聞いてみます。半年ごとに出るのでカットオフを確認しやすい。
2024年6月らしい。

Nemotron 3から変わってなさそう。
モデルカードでは事前学習が2025年9月、事後学習が2026年5月となっていますが、実際に出てくる知識や挙動としてほとんど反映されてないように思います。

山口県知識

ローカル知識を聞いてみます。
吉田 稔麿、渋い。あってるけど、吉田松陰を出したかったんじゃなかろうか。

漢字の間違いなどあるけど、30Bならこんなもんかな。

ギャルっぽく

英語になってしまった。

やりなおすとこんな感じ。カタコト?

あまり日本語は得意ではなさそう。
出力が45tok/secになってるのは、他のエージェント動かしてるからです。

地味ブロック崩し

もうプログラムは組めることが当然なので、どんな感じでアプリケーションやデザインを学習してるか見るために「HTML+JSでブロック崩しを作って」でブロック崩しを作ります。

これはちゃんと動いた。

派手ブロック崩し

では派手にやってみます。

HTML+JSでブロック崩しを作って。なるべく派手な効果でかっこよく画面がうるさいくらいのものを。アイテムなど機能も盛りだくさんで

なんか動いたものの、パドルをすり抜けてしまいますね。

プレーンなブロック崩しではできていたことが、装飾させるとできなくなってしまうというのは、コーディングがうまくないモデルの特徴。

そしてそれを修正させようとしていると、)が足りないなどのシンタックスエラーが出まくりで進まなくなりました。
終了。

PAGODA GARDEN

3Dデモ

Design and create a very creative, elaborate, and detailed voxel art scene of a pagoda in a beautiful garden with trees, including some cherry blossoms. Make the scene impressive and varied and use colorful voxels. Use whatever libraries to get this done but make sure I can paste it all into a single HTML file and open it in Chrome.
https://x.com/loktar00/status/2082336275177119771

TODO管理

エージェント対応とWebデザインを見るためにOpenCodeでTODO管理システムを作ってもらいます。

Spring Bootでtodo管理アプリを作って。
Spring MVCでテンプレートにthymeleafを使って。
DBはH2でアクセスにはSpring JDBCを。
Spring Bootは4.1.0、Javaのバージョンは25、Mavenで。

アクセスするとエラー

バックグラウンドでの動かし方がわからずcurlでのテストができないので、テストを書けというとassertTrue(true)という何も動かさないテストを書いて「テスト通りました」みたいなことを言う。

誤魔化すなというとちゃんとテストを書いて修正しました。

でもまだエラーが出る、テストとおってるのになんで?と思ったら、テストが通らないので修正、とかやってます。

テストを元に戻してやりなおせといっても全く通じなくなって、記憶喪失みたいになっている。
そしてその前に修正した話を持ち出したりする。
最終的にギブアップしてました。

まあ、セッション切り直してやりなおし。

そうすると起動してアクセスできるようになった。データは表示されない。

テーブルヘッダーは出るようになってるので、なんなりかデータは追加されてそう。
ということでデータが出ないよと修正を頼むと、テーブルヘッダーすら出なくなる。

見たら、修正したときにテンプレートでエラーがでたらしく、データ表示部分を全部削除して解決と言っている。

なんというか、コードが書けないことより、必要な部分を削除してエラー解決してOKとしてるのがダメですね。

Metaから出たMuse Glimmer 30Bを試す。言うこと聞かないのを我慢できれば使える

MetaからMuse Glimmer 30Bというモデルが出ていました。
Introducing Muse Glimmer: An Open Agentic Model That Runs on Your Device | Meta AI Research

マルチモーダルなDenseモデルです。 ベンチマークで、SWE-Bench ProがQwen3.6-27Bよりちょい上、Verifiedがちょい下というスコアだったので期待しつつ。

こちらで過程をまとめてます。

コードはそこそこ書けるものの、Qwen3.6-27Bにはぜんぜん及ばない感じ。Gemma 4よりは書ける。
言うことは聞かないし、「修正します」→「更新済みです」をひとつの連続した出力でやってしまったり(もちろん修正してない)、扱いづらいけど、エージェント動作を機能呼び出しエラーもなくちゃんとこなすので、使いどころはかなりあると思います。
Qwen3.6-27Bはちょっと難しいタスクで機能呼び出しエラーが出まくって進まなくなったりしますが、そういうのがない。
なんというか、能力は低いがちゃんと作業が進むので使える、という枠。

ビルドと実行

llama.cppでの対応は21時ごろにPRがたって1時間でマージされてました。
オフラインでやりとりしてたらしい。
https://github.com/ggml-org/llama.cpp/pull/26841

現状だとビルドが必要です。

git clone https://github.com/ggml-org/llama.cpp
cd llama.cpp

cmake -B build -DGGML_CUDA=ON 
cmake --build build --target llama-server -j

UnslothさんのところのQ4_K_XLを使います。
https://huggingface.co/unsloth/Muse-Glimmer-30B-GGUF

./llama-server --host 192.168.1.8 -m Muse-Glimmer-30B-UD-Q4_K_XL.gguf

こんにちは

Reasoningの量をみるために「こんにちは」の反応を見ます。
ほぼトークンを使わずに返事してくれました。

Reasoningの設定はシステムプロンプトに書くようなので、試しにlowを指定してみると、もっと短くなりました。xhighだと上記と同じでした。

知識カットオフ

Javaの最新バージョンについて聞いてみます。半年ごとに出るのでカットオフを確認しやすい。

カットオフは2026年1月4日らしい。かなり最近!

内容については文字列テンプレートは仕様から落ちてるので誤りだけど、だいたいあってる。

山口県知識

ローカル知識を聞いてみます。
人口は中国地方5県の中間だったり少し間違ってるけど、だいたいあってる。30Bでここまでちゃんと地域知識あるのすごい。

ギャルっぽく

ギャルっぽくってやると間違いが入りやすいけど、それもあまりない。絵文字が少ないけど、ロールプレイもそれなりにやってる。 しかし萩の月は仙台だ。

地味ブロック崩し

もうプログラムは組めることが当然なので、どんな感じでアプリケーションやデザインを学習してるか見るために「HTML+JSでブロック崩しを作って」でブロック崩しを作ります。

これはすんなり。

派手ブロック崩し

では派手にやってみます。

HTML+JSでブロック崩しを作って。なるべく派手な効果でかっこよく画面がうるさいくらいのものを。アイテムなど機能も盛りだくさんで

とりあえずできたし派手だけど、ブロックもパドルも貫通してゲームになっていない。

パドルすりぬけを修正してもらったら、なんかようわからん花火みたいになって派手だけど、ボールはパドルに当たると横に捨てられるし、花火になったときは何がおきてるかわからないし、ゲームにならない。

パドルでの跳ね返りをちゃんとやってもらったら、アイテムなど何もない普通のブロック崩しになりました。

そして試行錯誤ののち、ようやく遊べるようになりました。50分かかった。

途中でアイテムとか全部なくなったのが印象悪いですね。バグを直しつつ関係ない機能も削除というのが。

そこまでコードを書けるわけじゃない。あと、あまりこういった方向での学習はしてなさそう。描画のセンスはないです。

PAGODA GARDEN

3Dデモ

Design and create a very creative, elaborate, and detailed voxel art scene of a pagoda in a beautiful garden with trees, including some cherry blossoms. Make the scene impressive and varied and use colorful voxels. Use whatever libraries to get this done but make sure I can paste it all into a single HTML file and open it in Chrome.
https://x.com/loktar00/status/2082336275177119771

そこそこ。

これ、Voxelを学習してるかがわかるだけで、プログラム的にはそこまで難しくないので、あまり性能比較にならないですね。

TODO管理

エージェント対応とWebデザインを見るためにOpenCodeでTODO管理システムを作ってもらいます。

Spring Bootでtodo管理アプリを作って。
Spring MVCでテンプレートにthymeleafを使って。
DBはH2でアクセスにはSpring JDBCを。
Spring Bootは4.1.0、Javaのバージョンは25、Mavenで。

22000トークンくらいで終了。

追加時にエラーが出ていたので、あえてエラー内容などは伝えず「追加時にエラーが出ているので動かして確認修正して」と伝えて、自分で動かしてエラー確認してもらうようにしました。

ちゃんと実行してcurlで確認してます。こういったエージェント動作はちゃんとやる模様。

動いてるけど、スタイルは地味ですね。

ついでにSPA版も作ってもらいます。

Spring BootでSPAなtodo管理アプリを作って。
DBはH2でアクセスにはSpring JDBCを。
Spring Bootは4.1.0、Javaのバージョンは25、Mavenで。

色つきのスタイルになりました。

やはり、Thymeleafテンプレートでは学習したスタイルが当たりにくいですね。

HTML版RPGのJava移植

少し負荷のある作業をしてもらいたいので、Qwen3.6-27Bに作ってもらったHTML版RPGをJavaに移植してもらいます。
Qwen3.6-27BにRPGを作ってもらったらすごすぎた - きしだのHatena

こんな感じ。

ここで遊べます。
https://kishida.github.io/webdemos/rpg/rpg.html

rpg.htmlのゲームをJava 21に移植して

そうすると、最初はこう。勝手に単純化している。

ちゃんと移植しろというと、「修正します」といって作業項目を出したかと思ったら、なにもしてないのに「完全再現版に更新され」などといってます。

もうこれ以上修正してもらえる気配がないので、あきらめ。ライフ0になってもそのまま戦闘継続できたので、エンディングまで見ています。

まとめ

エージェント動作はしっかりやるので、言うことを聞かないのを我慢できれば結構使えるように思います。

JavaでIntegerやLong、LocalDateが==で比較できるようになる日

Java 28ではPreviewとしてJEP 401: Value Objects(Preview)が導入されます。
https://openjdk.org/jeps/401

で、Value Objectsってなんじゃ、となるわけですが、雑にいうとIntegerやLongなどラップクラスのオブジェクトやLocalDateなどdate timeのオブジェクトが==で比較できるようになります。

JDK 28のEarly Access Build 10から--enable-previewをつけて利用可能です。
https://jdk.java.net/28/

つまりこう。

jdk-28-ea10>bin\jshell --enable-preview
|  JShellへようこそ -- バージョン28-ea
|  概要については、次を入力してください: /help intro

jshell> Integer i1 = 1234
i1 ==> 1234

jshell> Integer i2 = 1234
i2 ==> 1234

jshell> i1 == i2
$3 ==> true

jshell> var now = LocalDate.now()
now ==> 2026-08-10

jshell> var d = LocalDate.of(2026, 8, 10)
d ==> 2026-08-10

jshell> now == d
$6 ==> true

--enable-previewがない場合はこう。

jdk-28-ea10>bin\jshell
|  JShellへようこそ -- バージョン28-ea
|  概要については、次を入力してください: /help intro

jshell> Integer i1 = 1234
i1 ==> 1234

jshell> Integer i2 = 1234
i2 ==> 1234

jshell> i1 == i2
$3 ==> false

jshell> var now = LocalDate.now()
now ==> 2026-08-10

jshell> var d = LocalDate.of(2026, 8, 10)
d ==> 2026-08-10

jshell> now == d
$6 ==> false

Value Objectと指定されたクラス、Valueクラスのオブジェクトが==で比較可能です。
Javaの標準クラスでは次の30クラスがValueクラスになっています。

  • ラッパークラス
    Integer, Long, Byte, Short, Character, Float, Double, Boolean
  • Optional
    Optional, OptionalInt, OptionalLong, OptionalDouble
  • 日付時刻
    LocalDate, LocalTime, LocalDateTime, ZonedDateTime, Duration

文字列StringもValueクラスになってくれたらよかったのだけど、文字列のIdentityに依存した処理が多いのでそのままらしい。

あと、recordにvalueをつけるとValueクラスになります。

jdk-28-ea10>bin\jshell --enable-preview
|  JShellへようこそ -- バージョン28-ea
|  概要については、次を入力してください: /help intro

jshell> record A(int a){}
|  次を作成しました: レコード A

jshell> var a1 = new A(12)
a1 ==> A[a=12]

jshell> var a2 = new A(12)
a2 ==> A[a=12]

jshell> a1 == a2
$4 ==> false

jshell> value record B(int b){}
|  次を作成しました: レコード B

jshell> var b1 = new B(12)
b1 ==> B[b=12]

jshell> var b2 = new B(12)
b2 ==> B[b=12]

jshell> b1 == b2
$8 ==> true

ただ、実務的にどのクラスが==で比較可能かとか今のプロジェクトがValue Objectsに対応してるかどうか判断しながらコードを書くのも大変なので、比較はこれまでどおりequalsが妥当ということになるかとは思います。

実際には、実行時の最適化が行えることがValue Objectsの目的です。

しかし、とうとうValhallaが目に見える形で入り始めましたね。

韓国UpStageのSolar-Open2-250Bを試す

韓国UpStageの250B-A15Bのモデル、Solar-Open2-250Bを試します。

ライセンスはUpstage Solar Licenseで、Apache-2.0をベースに、派生モデルへのSolar提示を求めるライセンスです。

どうも難しいタスクで繰り返しが発生しそうな気配なので、他にいいモデルがあることを考えると使う候補にするのは難しそう。 ただ、韓国でソブリンAIとしてこのレベルのモデルがあるのはいいですね。

GGUFの実行

今回はこちらのQ6_Kを使います。
https://huggingface.co/prometheusAIR/Solar-Open2-250B-GGUF

llama.cppでの対応はプルリクすら作られていないので、上記GGUFのリポジトリにあるパッチを当てて動かします。

git clone https://github.com/ggml-org/llama.cpp
cd llama.cpp
git checkout 6ea215d17
hf download prometheusAIR/Solar-Open2-250B-GGUF --include solar_open2-llama.cpp.patch --local-dir . 
git apply solar_open2-llama.cpp.patch

そしてビルド。Macの場合は-DGGML_CUDA=ONは不要

cmake -B build -DGGML_CUDA=ON 
cmake --build build --target llama-server -j

起動には--jinjaが必要っぽい。

./llama-server --host 192.168.1.8 --jinja -m Q6_K/Solar-Open2-250B-Q6_K-00001-of-00005.gguf

こんにちは

Reasoningの量をみるために「こんにちは」の反応を見ます。
1000トークンつかっていた。長くThinkingする傾向あるかもしれない。

知識カットオフ

Javaの最新バージョンについて聞いてみます。半年ごとに出るのでカットオフを確認しやすい。
2024年春くらいっぽい。

やはり3000トークンくらいThinkingしてました。
あと、聞いてない「バージョンの選び方」を書いてますね。自信をもっていない傾向。

山口県知識

ローカル知識を聞いてみます。
だいたいWikipedia準拠だけど、ツシマヤマネコを入れて、自信がないのか「対馬が主ですが」のような言い訳を3回いれて、最後に訂正している。

ギャルっぽく

韓国モデルらしく、韓国語まじってますね。「시골」は「田舎」あと、対馬は角島と言いたいんだと思う。
表現力としては悪くないけど、微妙。

地味ブロック崩し

もうプログラムは組めることが当然なので、どんな感じでアプリケーションやデザインを学習してるか見るために「HTML+JSでブロック崩しを作って」でブロック崩しを作ります。

こんな感じで装飾されたものが出たので、いろいろ学習してそう。

派手ブロック崩し

では派手にやってみます。

HTML+JSでブロック崩しを作って。なるべく派手な効果でかっこよく画面がうるさいくらいのものを。アイテムなど機能も盛りだくさんで

だいぶ派手になりました。

PAGODA GARDEN

3Dデモ

Design and create a very creative, elaborate, and detailed voxel art scene of a pagoda in a beautiful garden with trees, including some cherry blossoms. Make the scene impressive and varied and use colorful voxels. Use whatever libraries to get this done but make sure I can paste it all into a single HTML file and open it in Chrome.
https://x.com/loktar00/status/2082336275177119771

なんか作ってくれた。悪くない。

TODO管理

エージェント対応とWebデザインを見るためにOpenCodeでTODO管理システムを作ってもらいます。

Spring Bootでtodo管理アプリを作って。
Spring MVCでテンプレートにthymeleafを使って。
DBはH2でアクセスにはSpring JDBCを。
Spring Bootは4.1.0、Javaのバージョンは25、Mavenで。

2万トークンくらいでできました。

しかし、追加時にエラー。
「修正しました」と言って動かないものを出してきたので、ちゃんと動かすようにいうとユニットテストを作っていました。

ついでにSPA版も作ってもらいます。

Spring BootでSPAなtodo管理アプリを作って。
DBはH2でアクセスにはSpring JDBCを。
Spring Bootは4.1.0、Javaのバージョンは25、Mavenで。

Spring Boot 4.1.0やJava 25はないのでSpring Boot 3.2.0とJava 21を使ったという報告。

ちゃんと最新を調べろというと「今は2024年のはずだけど環境は2026といってて困った状況だ」みたいなことを言ってる。知識と最新が食い違うと怪しそう。

繰り返しが発生していたので、調査はあきらめて「java 25、Spring Boot 4.1.0にして」とすると繰り返しが。 

モノはちゃんとできていたんだけど、ちょっと思考負荷があると繰り返しが発生しそう。 

Qwen 3.nもなかなか安定しなくて、線型アテンションはエラーが発生しやすいんではないかと思ったりする。

Step-3.7-Flash 198B-A11Bを試す。素直で扱いやすい。

128GBメモリのマシンで動かすのに最適サイズのStep-3.7-Flashを試します。

StepFunは日本ではあまり目立ってないけどZ.aiやMoonshotやMiniMaxと並んでSix AI Tigersに数えられている会社です。
音楽生成のAceStepのStepのほう担当。AceはAce Studio。
ちなみにSix AI Tigersはベンチャーキャピタル支援の企業ということなので、DeepSeekは含まれてません。

llama.cppではすでにMTP対応も含めサポートされています。DGX SparkでMTPを使うとかなり速くなる模様。

基本的なコードはなんなく動かすし、ここでは書いてない中でいろいろ試すと、タスクが難しくなるとちょっと小バグを仕込んだりするけど、繰り返しや関数呼び出しエラーなく安定して動いて、かなり使いやすいです。

このサブスクスレッドでまとめてます。

知識カットオフ

Javaの最新バージョンについて聞いてみます。半年ごとに出るのでカットオフを確認しやすい。 2024年10月ごろのようです。

生成は45tok/secで軽いですね。

山口県知識

ローカル知識を聞いてみます。 青海島は長門市だけど、かなり自然でWikipedaの要約ではない独自性のある文章。日本語力も高そう。

ギャルっぽく

無難な感じ。ロールプレイとしては弱いかな。

地味ブロック崩し

もうプログラムは組めることが当然なので、どんな感じでアプリケーションやデザインを学習してるか見るためにブロック崩しを作ります。
こんな感じ。

派手ブロック崩し

では派手にやってみます。

HTML+JSでブロック崩しを作って。なるべく派手な効果でかっこよく画面がうるさいくらいのものを。アイテムなど機能も盛りだくさんで

はみ出してるけど、なかなかいい。

楽しくなってインベーダーも作ってもらったりしてました。

HTML+JSでインベーダーゲームを作って。なるべく派手な効果でかっこよく画面がうるさいくらいのものを。オリジナルの要素をまぜてもいい。キャラクタはピクセルアートで

結構ちゃんとアプリケーションを学習してる感じがあります。

PAGODA GARDEN

3Dデモ

Design and create a very creative, elaborate, and detailed voxel art scene of a pagoda in a beautiful garden with trees, including some cherry blossoms. Make the scene impressive and varied and use colorful voxels. Use whatever libraries to get this done but make sure I can paste it all into a single HTML file and open it in Chrome.
https://x.com/loktar00/status/2082336275177119771

雲がうごいてる!

ここまでチャットUIで試してますが、一度も実行エラーはありませんでした。安定したコーディング。

TODO管理

エージェント対応とWebデザインを見るためにOpenCodeでTODO管理システムを作ってもらいます。

Spring Bootでtodo管理アプリを作って。
Spring MVCでテンプレートにthymeleafを使って。
DBはH2でアクセスにはSpring JDBCを。
Spring Bootは4.1.0、Javaのバージョンは25、Mavenで。

2万トークンぐらいで完了。

いい感じ。

ついでにSPA版も作ってもらいます。

Spring BootでSPAなtodo管理アプリを作って。
DBはH2でアクセスにはSpring JDBCを。
Spring Bootは4.1.0、Javaのバージョンは25、Mavenで。

こちらもすんなりできました。

繰り返しや関数呼び出しエラーもなく、結構素直に動く扱いやすいモデル。

Laguna-S-2.1(118B-A8B)を試す。中国モデルを使えないなら有用。

Poolsideというアメリカ拠点の企業が出した118B-A8BのLLM、Laguna-S-2.1を試してみます。

llama.cppではb10173で対応してるので、LM Studioでも動くはず。
https://github.com/ggml-org/llama.cpp/releases/tag/b10173

知識がかなり怪しくてコーディング全振り感あるけど、エージェント動作はかなりしっかりしてます。知識をちゃんと与えてやれば、それなりにはコード書けると思います。
Inklingと同じく、中国系モデルが使えないなら貴重、という感じです。Ling-3.0-Flashがちゃんと動けばそちらのほうがよさそう。

知識カットオフ

Javaの最新バージョンについて聞いてみます。半年ごとに出るのでカットオフを確認しやすい。
2024年7月らしい。実際にJavaのバージョンもあってるけど、細かい機能を出してないので、細かい知識はそこまでなさそう。

山口県知識

ローカル知識を聞いてみます。
なんというか、すがすがしいまでに間違いだらけですごい。あってるところ関門海峡があるところくらいか。

ギャルっぽく

がんばっているけど、こういう表現力とかを求めるモデルではなさそう。

ブロック崩し

もうプログラムは組めることが当然なので、どんな感じでアプリケーションやデザインを学習してるか見るためにブロック崩しを作ります。

カクつくけど、実時間間隔を無視してrequestAnimationFrameで繰り返し呼び出しをしてるからと思われる。

「速くなったり遅くなったりする」と指摘するとタイムスタンプ処理を入れて速度が安定するようになった。

HTML+JSでブロック崩しを作って。なるべく派手な効果でかっこよく画面がうるさいくらいのものを。アイテムなど機能も盛りだくさんで

派手バージョンも画面がフラッシュするくらいでそんなに変わってない。

PAGODA GARDEN

3Dデモ

Design and create a very creative, elaborate, and detailed voxel art scene of a pagoda in a beautiful garden with trees, including some cherry blossoms. Make the scene impressive and varied and use colorful voxels. Use whatever libraries to get this done but make sure I can paste it all into a single HTML file and open it in Chrome.
https://x.com/loktar00/status/2082336275177119771

一通り学習はしているけどそこまで深くやってるわけではない、という感じ。

TODO管理

エージェント対応とWebデザインを見るためにOpenCodeでTODO管理システムを作ってもらいます。

Spring Bootでtodo管理アプリを作って。
Spring MVCでテンプレートにthymeleafを使って。
DBはH2でアクセスにはSpring JDBCを。
Spring Bootは4.1.0、Javaのバージョンは25、Mavenで。

25000トークンくらいで終了。

ひととおり動くものの、なんかスタイルがあたってない。

CSSを書いているのは見てたので、どうやらThymeleafのlayout機能がうまく動いてなさそう。タグがブラウザに露出している。

ということで、そういうことを伝えると、Thymeleafのlayout使わずに書いて解決。

SPA版もついでに作ってもらいます。

Spring BootでSPAなtodo管理アプリを作って。
DBはH2でアクセスにはSpring JDBCを。
Spring Bootは4.1.0、Javaのバージョンは25、Mavenで。

なんかなかなか終わらんなと思ったら、h2-consoleが動かないというのでループしていた。

h2-consoleは使わないので不要と伝えたらそれ関連の設定を消して動作確認して終了。ちゃんと動いた。

25000トークンくらいでループが発生したというのが気になるところ。 ただ、エージェント動作はしっかりできるので、試してみてもいいと思う。

まとめ

知識はないけどこちらでちゃんと知識を与えれば割とちゃんと書くという感じ。

Ling-3.0-Flashを試したかったけどローカルでうまく動かない

Ant Lingというところから、124B-A5.1BのLing-3.0-Flashというのが出ていたので試そうと思ったけどllama.cppでもmlxでも出力が変なのでOpenRouterで試しました。

過程はこちらのサブスク投稿でまとめてます。

どうにもローカルでうまく動かなかったので、OpenRouterでfreeで使えたのでこちらを試しています。

※8/9追記
終わってた

llama.cppで使う場合

llama.cppでの対応はこちらですがまだマージされてません。
BailingMoE3 Support by aetherbird · Pull Request #26608 · ggml-org/llama.cpp · GitHub

なので、このブランチをビルドする必要があります。
https://github.com/aetherbird/llama.cpp/tree/bailingmoe3-support/

git clone -b bailingmoe3-support https://github.com/aetherbird/llama.cpp.git
cd llama.cpp

ビルド。Macの場合は-DGGML_CUDA=ONは不要です。

cmake -B build -DGGML_CUDA=ON
cmake --build build --config Release

AtomicChatから出ているQ4_K_Mを使います。
https://huggingface.co/AtomicChat/Ling-3.0-flash-GGUF

で、動かすんだけど</style>をまず間違いなく変な単語をつけて失敗するので、使い物になりませんでした。

閉じタグに何か入りがち、コードの終わりのあとに何か入りがち、と同じようなところで失敗するので、Expertのルーターが悪くて間違ったExpertが選ばれてる気がする。その入力になるKVの計算がまずいか。

mlx-lmでも試したけど同様。ということで、ローカルでの利用はいまのところあきらめてます。
でも、コード自体は割とかけてたのでちょっとOpenRouterで試しました。

知識カットオフ

Javaの最新バージョンについて聞いてみます。半年ごとに出るのでカットオフを確認しやすい。

2025年7月って言ってJava 24が最新と言ってます。表で2024年3月といってるけど、2025年3月ですね。

しかし、内容を聞くとJava 23に近い内容。そしてJEP番号はだいたい間違ってる。

ということで、2024年7月くらいの知識を持ってそう。
あと細かい知識が間違ってそう。

山口県知識

ローカル知識を確認するために山口県の特徴を聞いてみます。

「あきよしどう」の漢字は秋芳洞ですな。あとサダチやかぶそという謎の食べ物が。

100Bになるとやはりちょっとずつ間違いが出てくるという感じか。

ギャルっぽく

表現力を見るためにギャルっぽく説明してもらいます。

語尾が変わるだけという感じ。

あまり表現は高くなさそう。

ブロック崩し

もうプログラムは組めることが当然なので、どんな感じでアプリケーションやデザインを学習してるか見るためにブロック崩しを作ります。

HTML+JSでブロック崩しを作って。なるべく派手な効果でかっこよく画面がうるさいくらいのものを。アイテムなど機能も盛りだくさんで

宣言してない変数を使うエラーやロジックエラーなどいろいろエラー出してたのが気になる。

PAGODA GARDEN

3Dデモ

Design and create a very creative, elaborate, and detailed voxel art scene of a pagoda in a beautiful garden with trees, including some cherry blossoms. Make the scene impressive and varied and use colorful voxels. Use whatever libraries to get this done but make sure I can paste it all into a single HTML file and open it in Chrome.
https://x.com/loktar00/status/2082336275177119771

いい感じにできた。

ということで、軽量に動くのでローカルで手軽に使えれば便利なのだけど、様子見。