NanoJev 这个项目有点意思：它把「状态 + 问题 → 直接输出完整概率分布」这条路，真的用一个 0.6B 小模型端到端跑通了。
最关键的是，它不需要像普通 LLM 一样一个 Token 一个 Token 往外吐答案。
底座就是 Qwen3-0.6B，一次前向就能同时处理多个状态、多个问题，然后直接拿到每个候选项的概率，输出 Token 解码直接变成 0。
目前支持三类决策：Choice、Boolean、Score。Choice 还能动态塞 2～255 个候选，不只是固定 ABCD。
实际 Demo 也挺直观：
🔹50×50 迷宫，244 步、36 次碰撞，最后成功找到出口。
🔹12×12 贪吃蛇，跑到 256 步，吃了 27 个食物还活着。
重点是它不是让聊天模型对着整个游戏硬想。
代码负责记忆、路径规划、碰撞过滤这些确定性的东西，模型只负责局部判断：这个方向安不安全、几个候选里哪个更值得走。
也就是「代码做规划 + 模型做判断」。
而且训练、评测、模型、数据、持久化推理服务、三栏对照 Demo 基本都放出来了，可以直接自己复现。
这才是我觉得 NanoJev 最有意思的地方。
闭源模型还在强调“推理能快多少倍”，开源这边已经拿一个 0.6B 模型，把这种类似 System One 的快速决策方式做成完整工程了。
不一定多强，但这条路已经有人跑通了。
接下来就看它能不能从迷宫和贪吃蛇，真正走进 Agent。

#jev #agent #ai #大模型 #推理 #开源