32 lines
2.6 KiB
Plaintext
32 lines
2.6 KiB
Plaintext
|
Ë
|
|||
|
|
ÑWßi± ã ó\ — d Z ddlmZ ddlZddlmZmZ ddlmZm Z ddl
|
|||
|
|
m Z d d
|
|||
|
|
d„Z d d d„Z
|
|||
|
|
y) u9
|
|||
|
|
LLM Client 路由器：在 DeepSeek / OpenAI 之间切�。
|
|||
|
|
|
|||
|
|
约定：
|
|||
|
|
- 调用方å�ªä¾�èµ– duck-typing：需è¦� ``chat`` / ``chat_with_json`` ç‰æ–¹æ³•ã€‚
|
|||
|
|
- 通过环境�� ``LLM_SERVICE_CODE``（openai|deepseek）决定默认路由；
|
|||
|
|
若未设置则按 Key å˜åœ¨æ€§è‡ªåŠ¨é€‰æ‹©ï¼ˆä¼˜å…ˆ deepseek）。
|
|||
|
|
é )Ú annotationsN)ÚAnyÚOptional)ÚDeepSeekClientÚDeepSeekConfig)Úcreate_openai_clientc ó" — | xs t j d« xs dj « j « }|dv r|S t j d« xs dj « ryt j d« xs dj « ryy)NÚLLM_SERVICE_CODEÚ )ÚopenaiÚdeepseekÚDEEPSEEK_API_KEYr
|
|||
|
|
ÚOPENAI_API_KEYr )ÚosÚgetenvÚstripÚlower)Ú service_codeÚscs úbackend/llm/router.pyÚresolve_llm_service_coder s| € Ø
|
|||
|
|
Ò
|
|||
|
|
=œ"Ÿ)™)Ð$6Ó7Ò
|
|||
|
|
=¸2× DÑ DÓ F× LÑ LÓ N€BØ Ð
|
|||
|
|
#Ñ#؈ ô � ‰ Ð$Ó%Ò+¨×2Ñ2Ô4ØÜ
|
|||
|
|
� ‰ Ð"Ó#Ò) r×0Ñ0Ô2ØØ ó c óè — t | « }|dk( r t di |¤ŽS |j dd« xs t j d« xs dj « }|s t
|
|||
|
|
d« ‚|j dd« xs t j d« xs d j « }|j d
|
|||
|
|
d« xs t j d « xs d j « }t d|||d
|
|||
|
|
œ|¤Ž}t |« S )ul
|
|||
|
|
创建 LLM Client。
|
|||
|
|
|
|||
|
|
Returns:
|
|||
|
|
DeepSeekClient 或 OpenAIClient（�形�接�）。
|
|||
|
|
r Úapi_keyNr r u9 未é…�ç½® DEEPSEEK_API_KEY（LLM_SERVICE_CODE=deepseek）Úbase_urlÚDEEPSEEK_BASE_URLzhttps://api.deepseek.comÚ
|
|||
|
|
model_nameÚ
|
|||
|
|
MODEL_PRIMARYz
|
|||
|
|
deepseek-chat)r r r © ) r r Úpopr r r Ú
|
|||
|
|
ValueErrorr r )r Úkwargsr r r ÚmodelÚcfgs r Úcreate_llm_clientr% sÝ € ô
|
|||
|
|
" ,Ó /€BØ ˆX‚~ä#Ñ- fÑ-Ð-ð �z‰z˜) TÓ*ÒQ¬b¯i©iÐ8JÓ.KÒQÈr×XÑXÓZ€GÙ ÜÐTÓUÐUØ—
|
|||
|
|
‘
|