彩娱乐官网 用大模子吃瓜更智能了!阿里通义实验室建议新时辰线归来框架,全面普及新闻归来效力

发布日期:2025-01-07 19:26    点击次数:131


绽开域和顽固域TLS都更高效了

当今,大模子不错帮你梳理新闻时辰线了彩娱乐官网,以后吃瓜就更陋劣了!

AI Agent的风,我们赛博乐子东说念主也得吹吹。

这等于来自阿里巴巴通义实验室与上海交通大学的新征询,他们建议了一种基于Agent的新闻时辰线纲要新框架——CHRONOS。

它不仅不错帮你从海量新闻中归来出进犯事件,更进犯的是,它还不错梳理出了了的时辰线,以后上网冲浪时各式复杂事件都一目了然。

其中的CHRONOS一词取自希腊传说中的时辰之神柯罗诺斯。

该框架通过迭代多轮的自我发问时势,结合检索增强生成技巧,从互联网上检索联系事件信息,并生成时辰律例的新闻纲要,为新闻时辰线纲要生成提供了一种全新的处置有蓄意。

先来一说念瞅瞅几个例子。

比如对于新闻“国足1-0巴林”,CHRONOS简略归来海量新闻,呈现事件的有始有终。

对于遮蔽时辰更长的新闻“中国探月工程”,CHRONOS也能聚焦要点事件,呈刻下辰线发展,使得用户简略一目了然。

补都绽开域TLS短板

时辰线归来(Timeline Summarization, TLS)任务是一种当然讲话处理规模的经典技巧挑战,它旨在从大批文本数据中提真金不怕火重要事件,并如时期律例罗列,以提供对某一主题或规模历史发展的结构化视图。

举例,在新闻规模,时辰线归来不错匡助用户快速了解一个新闻事件的有始有终。该任务不仅条件识别出进犯的事件,还需要意会事件之间的时辰关系和因果接洽,以便生成一个连贯、简陋且信息丰富的时辰线纲要。

字据可检索事件的开头,不错将TLS任务细分为顽固域(closed-domain)和绽开域(open-domain)两个设定:在顽固域TLS任务中,时辰线是从一组预界说的、与特定主题或规模联系的新闻著述中创建的,而绽开域TLS指的是从互联网上径直搜索和检索新闻著述来生成时辰线的经过。

往时的责任东要阿谀于处置顽固域上时辰线生成问题,而绽开域TLS则需要广泛的信息检索和筛选才能,以及在莫得全局视图的情况下识别和拓荒事件之间接洽的才能,为这项任务建议了新的要乞降挑战。

迭代检索的CHRONOS框架

为了交代上述挑战,团队建议CHRONOS框架,通过迭代发问进行联系事件检索,生成准确、全面的时辰线纲要,简略灵验地处置绽开域和顽固域两种设定下的TLS任务。

1. 动机

时辰线生成的中枢在于拓荒事件之间的时辰和因果关系。

每个新闻事件都不错被暗示为一个不同的节点,任务的方向是拓荒这些节点之间的边,以展示它们的联系性,并最终酿成一个异构图,从主题新闻的节点入手。

因此,通过一个检索机制来检索联系的新闻著述,不错灵验拓荒这些边,酿成事件之间的接洽。

2. 空洞

CHRONOS专揽大模子的才能,通过模拟东说念主类信息检索的经过,即通过建议问题、基于检索限度进一步建议新的问题,最终齐集对于联系事件的全面信息并归来为时辰线。

CHRONOS包括以下几个模块:

自我发问 (Self-Questioning):最初搜索粗粒度的新闻配景信息,然后迭代地建议问题彩娱乐官网,以检索更多联系新闻。

问题改写 (Question Rewriting):将复杂或弘扬欠安的问题认识为更具体、更易检索的查询。

时辰线生成 (Timeline Generation):通过统一每一轮检索生成的时辰线来归来一个隆起进犯事件的时辰线。

3. 自我发问3.1 粗粒度配景调研

在自我发问的启动阶段,CHRONOS使用方向新闻的标题行动重要词进行搜索,以齐集与方向新闻最径直联系的信息。

这些信息组成了新闻配景(News Context),为自我发问打下初步基础。

3.2 发问示例接管

在粗粒度配景调研之后,CHRONOS专揽大模子的高下体裁习才能,通过极少样本提醒来携带模子生成对于方向新闻的问题。

为了评估问题样骨子量,引入了时序信息量(Chrono-Informativeness, CI)的主见,用来揣度模子建议的问题检索与参考时辰线对都事件的才能,即高CI值的问题更有可能指引检索到与方向新闻事件联系的著述,用检索生成的时辰线和参考时辰线中包含日历的F1分数进行揣度。

基于最大化问题集时序信息量的方向,构建一个“新闻-问题”的示例池,彩娱乐合作加盟飞机号@yy12395用于携带新方向新闻的问题生成。

对于每个新的方向新闻,通过余弦相似性动态检索与方向新闻最相似的样本,确保了样本的高下文联系性和时辰信息的准确性。

3.3 迭代发问

CHRONOS通过连气儿迭代发问,逐渐真切探索事件的细节。

每一轮迭代都基于前一轮的检索限度,以发现新的问题和信息,直到恬逸时辰线中事件数目或达到最大迭代次数。

3.4 问题改写

查询改写(Query Rewriting)是检索增强生成中常用的优化圭臬。

在CHRONOS框架中,团队通过对启动发问阶段产生的平方或复杂问题改写为2-3个更易于检索的子问题,简略生成更具体、更有针对性的查询,从而提高搜索引擎的检索效力。

他们不异在提醒中加入极少样本,携带大模子进行灵验改写,将复杂问题转动为更具体的查询,同期保合手问题的原始意图。

3.5 时辰线生成

CHRONOS通过两阶段生成完满的时辰线归来:生成(Generation)和统一(Merging)。

生成:通过分析每一轮检索到的新闻著述来识别重要事件和珍贵信息。专揽大模子的意会和生成才能,提真金不怕火每个事件的发诞辰期和联系细节,并为每个事件撰写简陋的态状。这些事件和态状被组织成初步的时辰线,按照时辰律例罗列,为后续的统一阶段提供基础。

统一:将多轮检索生成的初步时辰线整合成一个连贯的最终纲要。这依然过触及对都不同时期线中的事件、处置任何日历或态状上的破损,并接管最具代表性和进犯性的事件。

全新数据集OPEN-TLS

为了评估TLS系统,征询团队还齐集了由专科记者撰写的对于近期新闻事件的时辰线,构建了一个名为Open-TLS的新数据集。

与以往顽固域的数据集比拟,Open-TLS不仅在数据集限制和内容上愈加各类化,遮蔽政事、经济、社会、体育和科学技巧等多个规模,而况在时效性上更具上风,为绽开域TLS任务提供了一个更全面和更具挑战性的基准。

实验限度

1. 实验设定

实验基于GPT-3.5-Turbo、GPT-4和Qwen2.5-72B分裂构建CHRONOS系统,评测绽开域和顽固域两个设定下TLS的性能弘扬。使用的评估主义主要有:

ROUGE-N: 揣度生成时辰线和参考时辰线之间的N-gram叠加。具体包括:(1)Concat F1:通过将所有日历纲要连气儿起来狡计ROUGE,以评估全体的一致性;(2)Agree F1:仅使用匹配日历的纲要狡计ROUGE,以评估特定日历的准确性;(3)Align F1:在狡计ROUGE之前,先字据相似性和日历接近性对瞻望纲要和参考纲要进行对都,评估对都后的一致性。

Date F1:揣度生成时辰线中日历与参考时辰线中果然日历匹配进程。

2. 绽开域TLS

在绽开域TLS的实验中,CHRONOS与几个基线圭臬进行了比较,包括径直搜索方向新闻(DIRECT)和重写方向新闻以创建查询用于检索(REWRITE)。

对比之下,CHRONOS通过迭代自我发问和检索联系新闻著述的圭臬,显贵提高了事件归来的质料和日历对都的准确性,在所有主义上都跳动于基线圭臬。

事发时,王雨丈夫开车,她坐在主驾驶位后排,抱着2岁半的女儿,婆婆坐在右后排。

3. 顽固域TLS

在顽固域TLS的实验中,CHRONOS与之前的代表性责任进行了比较,包括:(1)基于事件团员圭臬的CLUST (Gholipour Ghalandari and. Ifrim, 2020);(2)基于事件图模子EGC(Li et al., 2021)和(3)专揽大模子进行事件聚类的LLM-TLS(Hu et al., 2024)。

在Crisis和T17这两个经典数据集上的比较限度裸露,CHRONOS达到了与这些责任访佛的弘扬,在两个数据集的AR-2主义上赢得了SOTA效力,讲明了其在不同类型事件和时辰跨度上的广泛性能和合适性。

4. 运行时辰分析

CHRONOS的另一个上风体当今效力方面。

与不异基于大模子、但需要处理新闻库中所有著述的LLM-TLS圭臬比拟,它通过检索增强机制专注于最联系的新闻著述,显贵减少了处理时辰。

这种效力的普及使其在试验应用中更为实用,尤其是在需要快速反映的场景中。

案例征询:苹果居品发布时辰线

团队真切分析了模子在处理具体新闻事件时的弘扬,通过接管具有代表性的新闻事件,如苹果公司的紧要居品发布,简略不雅察到CHRONOS何如通过轮回渐进的自我发问和信息检索来生成时辰线。

在案例征询中,CHRONOS展示了其简略准确提真金不怕火重要事件和日历的才能,同期也揭示了在某些情况下可能需要修订的方位,举例对某些事件的遗漏或日历幻觉。

结语

CHRONOS框架通过结合大型讲话模子的迭代自我发问和检索增强生成技巧,为时辰线归来任务提供了一种新颖且灵验的处置有蓄意。

这种圭臬的中枢在于模拟东说念主类的信息检索经过,通过胁制地建议和复兴新问题来逐渐真切意会事件,最毕生成一个全面且连贯的时辰线纲要。

实验限度已经充分讲明了CHRONOS在复杂事件检索和构建时辰线方面的才能,展示了该框架在试验新闻时辰线生成应用中的应用后劲和准确性。

同期,这种迭代发问的检索生成圭臬是否具有泛化到通用任务上的才能也值得改日进一步征询。

Reference:

[1] Demian Gholipour Ghalandari and Georgiana Ifrim. 2020. Examining the state-of-the-art in news timeline summarization. In Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics, pages 1322–1334, Online. Association for Computational Linguistics.

[2] Manling Li, Tengfei Ma, Mo Yu, Lingfei Wu, Tian Gao, Heng Ji, and Kathleen McKeown. 2021. Timeline summarization based on event graph compression via time-aware optimal transport. In Proceedings of the 2021 Conference on Empirical Methods in Natural Language Processing, pages 6443–6456, Online and Punta Cana, Dominican Republic. Association for Computational Linguistics.

[3] Qisheng Hu, Geonsik Moon, and Hwee Tou Ng. 2024. From moments to milestones: Incremental timeline summarization leveraging large language models. In Proceedings of the 62nd Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers), pages 7232–7246, Bangkok, Thailand. Association for Computational Linguistics.

— 完 —彩娱乐官网




Powered by 彩娱乐官网 @2013-2022 RSS地图 HTML地图