Hacker News · AI 与工程·· 3 小时前AI 评分58
Strot 开源决策编译器:LLM 只在编译期运行一次,之后在本地做决策
Show HN: Strot – Compile an LLM's intent once, run decisions locally
AI 导读
Strot 发布开源决策编译器,用 LLM 在编译期一次性把意图编译成冻结的 Python 决策产物,运行期由本地 144M 模型在 CPU 上对每条记录输出带概率和置信度的类型安全 JSON,低置信度记录弃权。
来源:Hacker News · AI 与工程 · github.com