栏目分类
偷偷撸图片 好意思国哥伦比亚大学盘考:大言语模子正在变得越来越像东谈主类大脑
发布日期:2024-12-22 21:09 点击次数:149
IT之家 12 月 20 日音讯,以 ChatGPT 等为代表的大型言语模子(LLMs)在畴前几年中越来越擅长惩处和生成东谈主类言语偷偷撸图片,但这些模子在多猛进度上模拟了东谈主类大脑相沿言语惩处的神经流程,还有待进一步进展。
大伊香蕉精品视频在线据 Tech Xplore 18 日报谈,哥伦比亚大学和费因斯坦医学盘考所的盘考团队近期进行了一项盘考,探索了 LLM 与大脑神经反应的相似性。盘考标明,跟着 LLM 时间的跳跃,这些模子不仅在性能上有所进步,并且结构上也越来越接近东谈主类大脑。
论文的第一作家加文・米施勒(Gavin Mischler)在接管 Tech Xplore 采访时暗意:“咱们撰写这篇论文的灵感开头于连年来 LLM 和神经 AI 盘考的迅速发展。”
“几年前,有几篇著述炫耀,GPT-2 的词镶嵌与东谈主脑对言语的神经反应有一定相似性,但在东谈主工智能这一迅速发展的领域中,GPT-2 如今也曾落伍,算不上最普遍。”
“自从 ChatGPT 发布后,表示了好多更普遍的模子,但对于这些新模子是否仍然发挥出疏通的大脑相似性,相关盘考却并未几。”
米施勒过甚团队的主要相关,是研讨最新一代的 LLM 是否依然发挥出与东谈主类大脑相似的特征。盘考东谈主员对 12 个不同的开源 LLM 进行了分析,这些模子在架构和参数数目上险些一致。同期,他们也通过在神经外科患者的脑部植入电极记载其听到言语时的大脑反应。
米施勒贯通谈:“咱们还将一样的演讲文本输入 LLM,并索要其词镶嵌,这些镶嵌是模子里面用来惩处和编码文本的暗意。为了臆想这些 LLM 与大脑的相似性,咱们尝试通过臆想大脑对词语反应的神经活动来评估它们的对应性。通过这种方式,咱们不错了解两者的相似度。”
在数据收罗后,盘考东谈主员哄骗打算器用分析 LLM 与大脑的对王人进度。他们格外情绪哪些头绪的 LLM 与大脑中与言语惩处相关的区域最为匹配。大脑对言语的反应已知会慢慢通过对语音的声学、语音学等身分的分析,树立言语的详细表征。
米施勒暗意:“咱们发现,跟着 LLM 能力的进步,这些模子的词镶嵌与大脑对言语的反应越来越接近。更出乎预念念的是,跟着模子性能的进步,它们与大脑头绪结构的对王人进度也有所提高。这意味着,言语惩处流程中大脑不同区域索要的信息,与性能较强的 LLM 的不同头绪索要的信息对比,愈加一致。”
这些盘考着力标明,发挥最佳的 LLM 更能准确反应大脑的言语惩处反应。并且,这些模子的优秀发挥可能与其早期头绪的高效性相关。
相关盘考着力也曾在《当然・机器智能》期刊上发表,IT之家附集结:点此赶赴
告白声明:文内含有的对外跳转集结(包括不限于超集结、二维码、口令等步地),用于传递更多信息,检朴甄选时分,着力仅供参考偷偷撸图片,IT之家通盘著述均包含本声明。