打赏

相关文章

36.人工智能实战:大模型配置怎么管理?Prompt、模型参数、路由策略的版本化与热更新方案

人工智能实战:大模型配置怎么管理?Prompt、模型参数、路由策略的版本化与热更新方案 一、问题场景:线上回答突然变了,却没人知道改了什么 大模型系统里,很多关键逻辑不是写在代码里,而是写在配置里。 例如: 1. system prompt 2. temperature 3. max_tokens 4. top_k …

手机版浏览

扫一扫体验

微信公众账号

微信扫一扫加关注

返回
顶部