- 《中国医学物理学杂志》期刊指南 42
- sci论文被拒无数次怎么办?不要 40
- 毕业论文任务书使用的相关步骤 51
- 清华大学熊卓、张婷课题组实现肿瘤 106
- 北京大学深圳研究生院潘锋课题组基 33
- 清华大学深圳国际研究生院黄来强团 45
- 专利在哪里可以交易呢? 52
- 本科论文的第二次查重是什么时候进 62
- SCI刊物的出版周期到底需要多久 61
- 博士如何申请发明专利的指南 55
- 探讨投稿论文的具体流程有哪些? 45
- 引用16次的SCI论文是相对较高 47
- 论文查重检测的权威性有哪些方面 52
- 关于SCI两个通讯作者排序的典型 65
- 受欢迎的能发水泥材料类论文的SC 64
- 武汉赛思会务有限公司 23410
- 武汉尔湾文化 1370
- 工业催化杂志社 17409
- 四川现代医院 1396
- 西南医院关节外科中心 20397
- WILL 23390
- 上海市同济大学 22396
- 武汉市cse主办 17384
- 中国科学院生态环境研究中心+召开 1370
- 中国微米纳米技术学会 20411
- 上海同巨文化传播有限公司 7376
- 清华大学医院管理研究院 23398
- 上海首美展览有限公司 7380
- 2016年社会科学与环境科学环境 22371
- 北京艾尚国际展览有限公司 1360
- 中国环境科学学会 23399
- 重庆风雅会议服务有限公司 22369
- 酒店人旅行网 22400
- 北京康源瑞廷酒店 1392
- 中国疾病预防控制中心性病控制中心 22377
交叉信息研究院赵行课题组等提出新型符号性记忆框架ChatDB
2024/04/09
近期,清华大学交叉信息研究院赵行助理教授研究组及其合作单位的研究者们提出一种新型符号性记忆框架ChatDB,突破了此前常用的记忆框架中对储存信息操作不精确、历史信息储存形式缺乏结构性等局限。
图1.ChatDB工作流程示意图
ChatDB由一个大语言模型(如ChatGPT)和一个数据库组成,可利用符号性操作(即SQL指令),实现对历史信息长期、精确的记录、处理和分析,并帮助回应用户的需求。其框架包含三个主要阶段:输入处理(input processing),记忆链(chain-of-memory),总结回复(response summary)。第一阶段,LLMs处理用户输入需求,对不涉及使用数据库记忆模块的指令,直接生成回复;而对涉及记忆模块的指令,则生成能与数据库记忆模块交互的一系列SQL语句。第二阶段,记忆链执行一系列中间记忆操作与符号性记忆模块交互。ChatDB按照先前生成的SQL语句依次执行插入、更新、选择、删除等操作。外部数据库执行相应的SQL语句,更新数据库并返回结果。在执行每一步记忆操作之前,ChatDB会根据先前SQL语句的结果决定是否更新当前记忆操作。第三阶段,语言模型综合与数据库交互得到的结果,并对用户的输入做出总结回复。
图2.ChatDB框架概览
为验证ChatDB中将数据库作为符号性记忆模块来增强大语言模型的有效性,并与其他的模型进行定量比较,研究者们构造了一家水果店运营管理的合成数据集,并命名为“水果商店数据集”,其中包含了70条按时间顺序生成的商店记录,约有3300个tokens(小于ChatGPT最大上下文窗口长度4096个)。这些记录包含水果店的四种常见操作:采购、销售、价格调整和退货。ChatDB模型中的LLM模块使用了ChatGPT(GPT-3.5 Turbo),温度参数设置为0,并使用MySQL数据库作为其外部符号性记忆模块。对比的基线模型为ChatGPT(GPT-3.5 Turbo),最大的上下文长度为4096,温度参数也设置为0。研究者们在水果商店问答数据集上进行了实验,发现相对于ChatGPT,ChatDB在这些问题的解答上展现出了显著的优势。
近日,该成果以论文“ChatDB:用数据库作为符号性记忆模块来增强大语言模型”(ChatDB: Augmenting LLMs with Databases as Their Symbolic Memory)发布于康奈尔大学ArXiv。
该论文共同第一作者为清华大学交叉信息研究院博士生胡晨旭和智源研究院研究员付杰,通讯作者为付杰和交叉信息院助理教授赵行,其他作者包括清华大学博士生杜晨壮、骆思勉,以及浙江大学助理教授赵俊博。
文章来源清华大学新闻,分享只为学术交流,如涉及侵权问题请联系我们,我们将及时修改或删除。
北京大学高歌课题组在人类调控相关非编码变异整合解析方面取得进展
南方医科大学刘克玄教授团队在小肠类器官治疗肠缺血再灌注损伤研究方面取得进展
江颖课题组完成qPlus型光耦合扫描探针显微镜自主研发和专利转让
第四届计算机图形学、图像与虚拟化研究国际会议(ICCGIV 2024)(2024-05-17)
第九届机电控制技术与交通运输国际学术会议(ICECTT 2024)(2024-05-24)
2024年教育政策与实践研讨会(ICEPP 2024)(2024-05-24)
第三届机电一体化与机械工程国际会议(ICMME2024)(2024-05-24)
2024年电子器件、传感控制技术与光学机械工程国际学术会议(EDSCTOE 2024)(2024-05-25)
第十四届地质和地球物理学国际会议(ICGG 2024)(2024-05-31)
2024年食品工程与农业科学国际会议(ICFEAS 2024)(2024-06-02)
2024年第三届网络、通信与信息技术国际会议(CNCIT 2024)(2024-06-07)
第十届机械工程、材料和自动化技术国际会议(MMEAT 2024)(2024-06-21)
2024年先进机器人,自动化工程与机器学习国际会议(ARAEML 2024)(2024-06-28)
第六届物联网、自动化与人工智能国际学术会议(IoTAAI 2024)(2024-7-26)
2024年物联网、人工智能与风险管理国际会议(ITAIRM 2024)(2024-7-27)
2024公共管理、人文发展与智能社会国际会议(IPAHDS 2024)(2024-6-24)
2024年机械工程、材料科学和自动化国际会议(ICMEMSA 2024)(2024-5-23)
2024年多媒体、艺术设计与数字化技术国际会议(ICMADDT 2024)(2024-6-30)
2024年第七届电气工程与绿色能源国际会议 (CEEGE 2024)(2024-6-28)
2024年土木工程与先进制造技术国际学术会议(CEAMT 2024)(2024-5-26)
2024年文化产业与城市发展国际研讨会(ISCIUD 2024)(2024-5-24)
2024机械工程、材料科学与力学国际会议(IMES 2024)(2024-5-28)
第五届机械工程与智能制造国际学术会议(MEIM 2024)(2024-7-26)