阿里·达莫学院（Ali Damo Academy

阿里·达莫学院（Ali Damo Academy

阿里巴巴·达莫研究所（湖畔实验室），新加坡南南技术大学等人共同提出了一个大型模型知识链（COK）框架。

编辑|

最近，新加坡南南技术大学的阿里巴巴·达莫研究所（湖畔实验室）以及其他共同提出了一个大型模型知识链（COK）框架。与传统的搜索增强生成（RAG）技术相比，该框架可以实时检索异质知识来源并逐渐纠正推理错误，从而进一步提高了大型模型Q＆A基于知识的问题的准确性并减少幻觉。选择了相关论文参加奥地利维也纳国际代表性研究会议（ICLR 2024）。

“何时执导“埃尔·蒂奥（El Tio）出生”的阿根廷演员？面对需要多个推理步骤的基于知识的问题，大型模型可能会“谈论胡说八道”，并给出看起来合乎逻辑但实际上是错误或不存在的答案。这个问题称为大型模型的“幻想”，这极大地限制了大型模型的应用程序场景。学术界还专注于研究大型模型的“插入式知识库”之类的技术路线。

在damo学院领导的联合研究团队的论文“ - 大：大货链”中提出了一个名为“知识链”（cok链）的新框架，其中包括三个步骤：推理准备，动态知识适应和答案集成。对于知识密集的问题，知识链首先确定知识领域，并准备几个中间推理步骤和相应的答案。如果在这些初步结论上没有达成共识，那么知识链将实时搜索相应的知识领域中的不同知识来源，逐渐生成和纠正推理步骤，并给出最终答案。

与传统的抹布相比，知识链框架是对推理分析过程进行创新设计的逐步纠正，以防止最大程度地逐层传输错误。与以前的大型模型知识增强方案不同，知识链框架还支持结构化的数据源，并引入了由指令微调的自适应查询生成器，以便更准确地生成查询语句并从知识源中提取有效信息。

实验结果在多个领域（例如通用知识，医学，物理和生物学）表明，与COT链方法相比，知识链框架可以使大型模型答案的准确性平均提高4.3％。与诸如React和-sedit之类的抹布方法相比，知识链还显示出稳定的优势。根据本文，知识链有望以不同格式连接各种大型模型和知识源，以帮助解决关键问题，例如隐私保护，知识源可靠性和快速信息更新。

据报道，ICLR由图灵奖得主，深度学习领袖和Yann Lecun领导，并且是国际AI学术界顶级的学术会议之一。达莫学院选择了三本大型模型研究论文，另外两个涵盖了诸如大型推理长度和多语言安全性的外推。

以前的热门文章

同城信息网