插件接入简介
更新时间:2023-12-27
1.1.插件是什么
如果说文心一言是一个智能中枢大脑,插件就是文心一言的耳、目、手。插件将“文心一言”AI能力与外部应用相结合,既能丰富大模型的能力和应用场景,也能利用大模型的生成能力完成此前无法实现的任务。举几个例子:
- 信息增强
这类插件可以帮助用户获取更具时效性和专业性的信息,例如文心一言接入的百度搜索插件,使一言能够搜索全网的实时信息;此外还有帮助用户检索专业领域信息的插件,找房、找车、找法条、找股票...
- 交互增强
帮助一言理解PDF、图片、语音等多模态的输入,帮助一言生成思维导图、视频等多模态的输出。例如,支持用户上传文档,并基于文档进行问答的插件等
- 服务增强
这类插件可以帮助用户自动化执行一些常见的任务,例如订机票、发邮件、管理日程、创建调查问卷等;也可以是利用模型能力,大大提升现有服务的体验,例如可以请模型基于用户的简历和JD信息,生成面试问题,结合TTS/ASR,为用户打造一场真实而独特的模拟面试
1.2.插件工作原理简介
- 插件注册:开发者将插件的 manifest 文件注册到一言插件库中,校验通过后一言即可使用插件处理用户 query 。
- 插件触发:解析调度模块将使用生成的API,来调用插件服务。插件服务完成处理后,返回 json 数据由一言汇总结果进行返回。
- 插件解析:一言插件系统的触发调度模块,将识别用户 query,并将根据 manifest 文件中的插件 API接口和参数的自然语言描述来选择使用哪个插件,以及生成调用插件的 API。
例如用户在平台上选择天气插件,输入:“今天北京的天气怎么样?”。 模型首先会根据用户意图调用天气插件,并且解析query中时间(今天)和地点(北京)信息,然后以 json 结构输入开发者提供的天气API接口中,获得接口返回的天气信息,经过大模型进行语言润色后,生成面向用户的回答。
1.3.如何成为文心一言插件开发者
如果您希望成为一言插件开发者,可以参考《申请插件开发者权限》。