目的:在一个垂直领域内,通过输入自然语言判断用户的意图。意图可以被枚举出来,自然语言在一个范围内。
要求:性能希望能在 100ms 以内,越快越好
目前调研 RASA 中,不知道各位大佬有别的建议吗
要求:性能希望能在 100ms 以内,越快越好
目前调研 RASA 中,不知道各位大佬有别的建议吗
|
1
用 grop 的大模型 API
|
|
2
哈哈哈哈,这题我会 但是 100ms 国内目前做不到
|
|
3
|
|
ggbond2233Jan 7, 2025
5
用小模型,分类可以做,自己服务器很吃力的
就用之前各家对话平台的模型 都可以实现 |