# 《分布式IM系统》OpenAI接入服务-第07节-扩展实现对接多种OpenAI大模型
作者:冰河
星球:http://m6z.cn/6aeFbs (opens new window)
博客:https://binghe.gitcode.host (opens new window)
文章汇总:https://binghe.gitcode.host/md/all/all.html (opens new window)
源码获取地址:https://t.zsxq.com/0dhvFs5oR (opens new window)
课程视频:https://t.zsxq.com/pvNwp (opens new window)
沉淀,成长,突破,帮助他人,成就自我。
- 本节难度:★★☆☆☆
- 本节重点:扩展分布式IM即时通讯系统对接多种OpenAI大模型的接口设计和实现,掌握对接OpenAI大模型的流程与方案,理解对接OpenAI大模型的抽象接口设计,结合自身实际项目进行思考,将其灵活应用到自身实际项目中。
大家好,我是冰河~~
在分布式IM即时通讯系统中,我们完全实现了单聊消息和群聊消息的完整流程,并且已经实现了在单聊消息和群聊消息的流程中接入OpenAI大模型,至此,大家不仅可以在分布式IM即时通讯系统中与自己的好友单聊,在群内与其他群成员群聊,也能够与OpenAI大模型进行“畅聊”了。
# 一、前言
目前,我们已经实现了分布式IM即时通讯系统的所有常规功能,用户可以在分布式IM即时通讯系统中发送文字消息、表情消息、图片消息、文件消息和语音消息,也能够在分布式IM即时通讯系统中实现双向视频通话。不仅可以与好友进行一对一单聊,也能够在群组中进行群聊,并且还能够在群组中@指定的群成员发送消息。可以这么说,目前我们已经实现了IM即时通讯的所有常规功能。
同时,我们也已经在分布式IM即时通讯系统的单聊消息流程和群聊消息流程中接入了OpenAI大模型,大家可以在分布式IM即时通讯系统中与OpenAI大模型“畅聊”了。另外,还有一个重要的点就是在对接大模型的设计上,我们的目标是通过一个抽象的接口,来实现对接多种大模型,那这个又是怎么实现的呢?接下来,就对扩展对接多种OpenAI大模型进行设计。
# 二、本节诉求
扩展分布式IM即时通讯系统对接多种OpenAI大模型的接口设计和实现,掌握对接OpenAI大模型的流程与方案,理解对接OpenAI大模型的抽象接口设计,结合自身实际项目进行思考,将其灵活应用到自身实际项目中。
# 三、扩展设计
对于对接多种OpenAI大模型的扩展设计和实现来说,OpenAI大模型接入服务对外提供统一的HTTP/RPC接口,大后端平台的消息微服务调用OpenAI接入服务对外提供的接口即可,不必关心OpenAI接入服务的内部具体实现细节,并且在OpenAI大模型接入服务内部会扩展实现对接多种大模型,如图7-1所示。
整个扩展设计还是比较简单的,映射到代码层面,我们可以在领域层定义一个通用的领域接口,在基础设施层来扩展实现对接每种具体的大模型。
# 四、编码实现
# 查看完整文章
加入冰河技术 (opens new window)知识星球,解锁完整技术文章与完整代码