OPPO AndesGPT是什么？
11 月 16 日，在2023 OPPO开发者大会上，OPPO 正式推出了自主训练的大模型 AndesGPT。AndesGPT有三大类规格：AndesGPT-Tiny、AndesGPT-Turbo和AndesGPT-Titan，可涵盖十亿至千亿以上多种不同参数规模的模型规格，根据不同场景智能调度。
据介绍，AndesGPT 拥有对话增强、个性专属和端云协同三大技术特征，对于大模型带来的变革，OPPO 认为体现在四个方面：知识、 记忆、工具和创作。
- 在知识能力方面，AndesGPT 融合了知识图谱及通用搜索能力，为用户提供更专业的问答。通过知识增强技术，将外部知识与模型融合生成结果，降低幻觉。
- 在记忆能力方面，AndesGPT 实现长期记忆机制，以支持无限长度的上下文和有状态服务。而长期记忆带来首字推理延迟这个技术挑战。为了解决该难题，OPPO 研发了一种注意力算 法命名为 SwappedAttention。SwappedAttention 能够在多轮长上下文对话中，有效降低每个 query 的首字推理时长。其核心技术原理是，通过外部存储和 KV 压缩的方式实现会话级 KV 缓存。结合 PagedAttention 算法一起使用，能够带来 50%的首字延迟降低，以及 30%的推理吞吐提升。
- 工具使用也是 AndesGPT 一项核心能力，更好的理解设备控制与服务 API，端到端生成可执行指令。 目前 AndesGPT 已支持使用系统设置、一方应用、三方服务、代码解释器等各类工具。
- 在创作方面，AndesGPT 已全面支持文生图与图生图场景。
AndesGPT模型在SuperCLUE测评基准的排行榜上表现出色，特别是在“知识与百科”能力测试中，得分高达98.33，仅次于GPT4，排名国内第一。
OPPO AndesGPT可以做什么？
OPPO AndesGPT的主要功能是提升对话能力，尤其是在与智能助理核心应用场景的结合上。它通过引入高质量的知识图谱和问答数据，以及对预训练和指令精调技术的优化，显著提高了模型在知识和百科方面的覆盖面和准确性。AndesGPT将被用于加强OPPO智能助手小布的AI能力，并逐步应用于更多OPPO核心产品中。
OPPO AndesGPT适用人群
OPPO AndesGPT主要适用于使用OPPO智能设备的用户。这包括那些需要高效、准确的语音助手服务的用户，特别是那些依赖智能手机进行日常任务和信息查询的人。
随着技术的进一步整合和发展，AndesGPT可能会扩展到更广泛的用户群体，包括企业用户和开发者，他们可以利用这种高级AI技术来提升产品和服务的智能化水平。
温馨提示：