NVIDIAから出たNemotron 3.5 Lightningを試します。
NVIDIA Nemotron 3.5 Lightning Delivers Fast, Accurate Specialized Task Execution for Long-Running Agents | NVIDIA Technical Blog
サイズは30B-A3BでMamba 2ベースの線形アテンション採用モデルです。ライセンスはOpenMDW-1.1。
Nemotron 3 Nanoをエージェント対応にファインチューンしたものという感じ。
Nemotron 3 Superを試す。コードは堅実に書ける。 - きしだのHatena
NVIDIAのLLM、Nemotron 3 Nanoは賢いけどコーディングには向かないかも。Mamba 2の特性が悪く出てる? - きしだのHatena
なので、少し離れたコンテキストがあいまいになって記憶喪失っぽい言動になるのも変わってないです。
「エラーが出たのでエラーが出る部分全部削除して解決しました!」がデフォルトのエラー解決手段。
実用には厳しい。
ただ、Nemotronは珍しい「オープンソース」なLLMです。学習に利用したデータセットや学習手順も公開されています。
そういったオープンソースでここまでできる、というモデルと言えます。
エージェント動作ができるようになっただけ進歩、というところ。
ビルドと実行
アーキテクチャがnemotron_h_moeでNemotron 3から変わっていないのでllama.cppですでに対応しています。
UnslothさんのところからGGUFが出てなかったので、lmstudio-communityのQ4_K_Mを使います。
https://huggingface.co/lmstudio-community/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-GGUF
./llama-server --host 192.168.1.8 -m NVIDIA-Nemotron-3.5-Lightning-30B-A3B-Q4_K_M.gguf
こんにちは
Reasoningの量をみるために「こんにちは」の反応を見ます。
300トークン、ほどほどにトークン使って返事してくれました。

118tok/secいいですね。
知識カットオフ
Javaの最新バージョンについて聞いてみます。半年ごとに出るのでカットオフを確認しやすい。
2024年6月らしい。

Nemotron 3から変わってなさそう。
モデルカードでは事前学習が2025年9月、事後学習が2026年5月となっていますが、実際に出てくる知識や挙動としてほとんど反映されてないように思います。
山口県知識
ローカル知識を聞いてみます。
吉田 稔麿、渋い。あってるけど、吉田松陰を出したかったんじゃなかろうか。

漢字の間違いなどあるけど、30Bならこんなもんかな。
ギャルっぽく
英語になってしまった。

やりなおすとこんな感じ。カタコト?

あまり日本語は得意ではなさそう。
出力が45tok/secになってるのは、他のエージェント動かしてるからです。
地味ブロック崩し
もうプログラムは組めることが当然なので、どんな感じでアプリケーションやデザインを学習してるか見るために「HTML+JSでブロック崩しを作って」でブロック崩しを作ります。

これはちゃんと動いた。
派手ブロック崩し
では派手にやってみます。
HTML+JSでブロック崩しを作って。なるべく派手な効果でかっこよく画面がうるさいくらいのものを。アイテムなど機能も盛りだくさんで
なんか動いたものの、パドルをすり抜けてしまいますね。

プレーンなブロック崩しではできていたことが、装飾させるとできなくなってしまうというのは、コーディングがうまくないモデルの特徴。
そしてそれを修正させようとしていると、)が足りないなどのシンタックスエラーが出まくりで進まなくなりました。
終了。
PAGODA GARDEN
3Dデモ
Design and create a very creative, elaborate, and detailed voxel art scene of a pagoda in a beautiful garden with trees, including some cherry blossoms. Make the scene impressive and varied and use colorful voxels. Use whatever libraries to get this done but make sure I can paste it all into a single HTML file and open it in Chrome.
https://x.com/loktar00/status/2082336275177119771

TODO管理
エージェント対応とWebデザインを見るためにOpenCodeでTODO管理システムを作ってもらいます。
Spring Bootでtodo管理アプリを作って。
Spring MVCでテンプレートにthymeleafを使って。
DBはH2でアクセスにはSpring JDBCを。
Spring Bootは4.1.0、Javaのバージョンは25、Mavenで。
アクセスするとエラー

バックグラウンドでの動かし方がわからずcurlでのテストができないので、テストを書けというとassertTrue(true)という何も動かさないテストを書いて「テスト通りました」みたいなことを言う。

誤魔化すなというとちゃんとテストを書いて修正しました。

でもまだエラーが出る、テストとおってるのになんで?と思ったら、テストが通らないので修正、とかやってます。

テストを元に戻してやりなおせといっても全く通じなくなって、記憶喪失みたいになっている。
そしてその前に修正した話を持ち出したりする。
最終的にギブアップしてました。

まあ、セッション切り直してやりなおし。

そうすると起動してアクセスできるようになった。データは表示されない。

テーブルヘッダーは出るようになってるので、なんなりかデータは追加されてそう。
ということでデータが出ないよと修正を頼むと、テーブルヘッダーすら出なくなる。

見たら、修正したときにテンプレートでエラーがでたらしく、データ表示部分を全部削除して解決と言っている。

なんというか、コードが書けないことより、必要な部分を削除してエラー解決してOKとしてるのがダメですね。





































































