语音大模型优先阅读
最近的全双工语音对话模型在类人交互方面取得了令人瞩目的进展,使代理能够以低延迟响应、产生反向通道并处理用户闯入。然而,对话动态的这些改进往往伴随着较弱的推理和指令跟踪能力,揭示了交互动态和智力能力之间潜在的紧张关系。在本文中,我们认为这种智能与动态的权衡并不是根本性的:对话动态可以作为独立于人类的实时决策策略来学习
对于音频条件LLM来说,长录音中的时间接地仍然具有挑战性。我们提出了一种时间感知音频LLM,可以在长达 120 分钟的输入中回答具有明确时间戳的问题。我们的方法使用级联管道的大规模合成监督,将周期性时间标记与连续音频令牌交织在一起。我们的模型在短期和长期基准上实现了强大的时间基础准确性,并支持时间锚定的片段描述和摘要。广泛的消融检查时间表示、标记频率、标记化和持续时间混合设计的方式
Best-of-N (BoN) 推理通过使用自动语音识别(ASR) 验证器从 $N$ 候选中进行选择,提高了零样本文本到语音的内容一致性。我们发现了一个未经充分探索的评估混淆:验证者的表面质量在很大程度上取决于哪个 ASR 系列对其进行评判。在 LibriSpeech-PC test-clean~\citep{librispeechpc} 和 F5-TTS~\citep{f5tts} 上,验证者在 Whisper、wav2vec~2.0 和 HuBERT 评估器之间的排名相反,并且同系列验证器-评估器对比跨系列对恢复了 2-3$\times$ 的预言机空间,尽管表示几乎相同
基于大语言模型(LLM) 的视听语音识别 (LLM-AVSR) 最近通过利用互补的音频和视觉信息,在不利的声学环境中表现出了强大的鲁棒性。现有方法通常采用独立预训练的声学和视觉编码器,其输出被投影并融合为软提示,以调节 LLM 的语音识别能力。然而,大多数方法执行多模态融合,而没有明确解决音频、视觉和文本模态之间的表征差异,这可能限制了 cro 的有效性。
第二语言 (L2) 口语能力的自动评估依赖于大规模带注释的语音数据,与广泛使用的书面学习者语料库相比,这些数据仍然稀缺。解决这种不平衡的一个有前景的方向是使用文本到语音(TTS) (TTS) 和语音克隆将书面 L2 生成转换为合成语音。然而,书面语言和口语语言有根本的不同:自发的言语包括不流利和话语标记,而写作则更有计划性和复杂性。这就提出了一个问题:生成适合评估的合成 L2 语音需要什么?
合成多说话者对话被广泛用于训练对话式自动语音识别(ASR) 系统,但目前尚不清楚哪些时序属性使模拟数据最有用。本文将对话时间作为一个可控的训练变量来研究,而不仅仅是作为一个要复制的语料库统计数据。我们使用从多个会话语料库估计的指数倾斜族来参数化暂停和重叠时间分布,然后使用拉丁超立方采样和多目标贝叶斯 o 探索所得的四维参数空间。
后训练对于完善大语言模型(LLM) 的特定领域功能至关重要,但现有的奖励优化和分布匹配方法将策略探索与分布对齐紧密结合在一起。这种耦合迫使直接在策略模型上进行昂贵的探索,并严重阻碍了优化信号的异步生成、重用和跨模型传输。在本文中,我们提出了代理引导更新信号传输(PUST),这是一种新颖的训练后框架,从根本上将更新信号探索与分布对齐解耦。
最近的基础图像和视频生成模型提供了很强的泛化性和可控性,但它们在具体场景中的直接应用受到多视图一致性、几何相干性和机器人具体约束的要求的限制。现有方法通常使用有限的机器人数据来调整基础模型,通常会牺牲在大规模预训练期间获得的视觉知识。我们推出了Xiaomi-Robotics-U0,这是一个用于统一具体综合的 380 亿参数多模态自回归模型。它将具身生成视为基础意象的延伸
现有的自动音乐转录方法通常仅限于单乐器录音,或者无法处理复杂的真实音乐混音。尽管之前的工作利用了合成训练数据,但生成的模型泛化能力很差,导致在现实的多仪器设置中很大程度上无法使用转录输出。在这项工作中,我们分析了预训练合成数据的有效性,同时将其与使用强化学习对真实音乐音频和后期训练进行微调相结合。我们进一步引入对仪器存在的条件来定制转录。最后
我们报告了 Gemini 模型作为音频裁判的经验可靠性,直接从原始立体声波形对全双工代理对话进行评分,并在 Gemini 系列的三个模型上进行了测试:2.5 Flash、3.5 Flash 和 3.1 Pro。我们的主要证据基础使用 Gemini 2.5 Flash 作为地面实况模型,在 209 个立体声会话中针对三位经过校准的人类评估者进行了验证,在 8 个制作维度上进行评分:跨 13 个口音和条件层的 152 个全双工对话,以及 57 个对抗性缺陷注入剪辑。 Gemini 2.5 Flash 的证据在三个方面是一致的
大型基础模型的快速进展主要是由大规模文本语料库的预训练推动的。然而,许多形式的知识是通过视觉表示来传达的,其中图形、排版方程和页面布局携带着丰富的信息,这些信息无法仅通过文本忠实或完整地捕获。然而,当前的预训练方法通过将文档和网页等视觉丰富的资源转换为纯文本来学习语言智能,从而抛弃了这些视觉线索。本文挑战了语言模型必须经过训练的默认假设
语言模型越来越多地用于跨不同语言和文化背景的道德决策,但现有的工作在三个方面忽视了多语言性:1)多语言评估基准使用直接翻译,未能适应特定文化的项目; 2)道德推理的推理时间方法依赖于静态的、以英语为中心的支架,缺乏道德理论的基础; 3)道德决策的训练方法通常需要来自更强大的模型或人类注释者的昂贵监督。我们通过三项贡献来解决这些差距。首先我们介绍一下MC
音乐创作从根本上来说是一个修改的过程。然而,象征性音乐的生成仍然以从头开始生成完整序列的范式为主导,对选择性修改的支持有限。基于编辑的方法已被证明对于文本转换任务是有效的,但对于符号音乐来说仍然很大程度上尚未探索。我们将这种缺失追溯到表征层面:传统的基于事件的音乐编码缺乏显式音乐编辑所需的结构属性。相比之下,BEAT 编码是一种最初为自回归设计的节拍网格锚定表示形式
检索增强生成(RAG)已被越来越多地采用来减少幻觉并加强大语言模型(LLM)的事实基础。虽然人们已经探讨了检索过程中对错误的鲁棒性,但意识形态偏见对LLM输出的影响却被忽视了。例如,如果检索到的材料包含意识形态立场,RAG 可能会在其输出中传播、放大或压制此类意识形态话语。在这项研究中,我们通过研究 RAG 框架(包括意识形态话语)在LLM生成的答案中的影响来解决这个问题
对 Transformer 的理论理解对于更好地理解大语言模型(LLM) 的能力和局限性至关重要。有很多工作分析基于注意力的模型的表达能力。通过提出手工权重或使用计算复杂性参数,过去的大量理论工作都试图描述哪些任务属于 Transformer 模型的假设类,哪些不属于 Transformer 模型的假设类。然而,很少有人研究此类解决方案的可学习性。在这项工作中,我们朝着这一目标取得了进展。受到最近损失状况分析的启发
语言产生和感知之间的不对称性已在心理语言学中得到充分证明。大语言模型(LLM) 是否表现出功能上类似的区别仍然是一个悬而未决的问题,特别是考虑到 LLM 依赖于相同的底层机制(下一个标记预测)来进行输入和输出处理。在这项探索性研究中,我们通过直接的令牌概率测量而不是元语言提示来操作生产感知区别。使用基本 Llama-3.1-8B 模型,我们在生产提示下生成诗歌并重新评分
自我完善通常无法加强大型语言模型中的小样本归纳推理。提示模型明确地陈述其推断规则本身几乎没有什么作用。真正重要的是推理阶段之间在结构上强制隔离,以便信息只能以压缩的符号状态在它们之间传递。我们引入了 \textbf{Hourglass Reasoning},它在推理阶段之间强制执行严格的上下文隔离。冻结的 LLM 充当元构造器,为每个任务构建符号编码器 - 解码器:归纳模块压缩支持示例 int
在测试时花费更多计算有两种标准方法:让模型推理更长时间,或者对更多尝试进行采样并保留一次。两者都有一个隐藏的限制:它们是内部的。每个额外的标记都来自相同的冻结权重和相同的提示,因此两者都无法告诉模型任何它还不知道的信息。我们研究第三种方式,交互:模型提出一个工件,外部仪器观察它的实际行为,然后模型进行修改。每个周期都会导入一个真实的观察结果,因此互动突破了其他两个周期所遇到的天花板。我们认为单一变量控制
移动和可穿戴设备上的个人人工智能助理通过视觉和音频流不断感知用户的日常生活。然而,回答有关过去经历的查询需要轻量级多模态记忆,它可以不断积累、组织和检索长期经验,这仍然具有挑战性。为了应对这一挑战,我们推出了 LightMem-Ego,这是一种用于日常生活辅助的轻量级流式多模式存储系统。该系统不断捕获以自我为中心的视觉和音频流,将它们排列在共享时间线上,并将它们组织成分层结构。
生成和编辑人脸需要高精度,因为即使很小的修改也会显着改变对象的感知身份。然而,当前基于通用文本到图像模型构建的个性化和编辑方法通常缺乏细粒度面部编辑所需的精度。我们提出了一种在文本到图像个性化模型中进行细粒度身份调整的方法。与对给定图像进行操作的标准图像编辑不同,身份调整修改特定身份的潜在表示,从而能够生成包含以下内容的多样化图像:
音素分割和识别本质上是相关的任务,但现代方法通常对它们进行单独建模。我们认为,语音结构已经隐藏在自监督语音模型(S3M)的表示中,人们只需要引导它们来解决这两项任务。我们利用基于 S3M 的语音激活映射 (SPAM),它将每个 S3M 表示帧映射到语音特征激活向量,例如发声和鼻音。在SPAM之上,我们引入了两个简单但有效的轻量级、无梯度下降的预测头:识别头和
当前的视频大语言模型(视频LLM)在问答(QA)方面表现出色,但很大程度上作为黑匣子运行,提供文本答案,而无需可验证的视觉基础。现有的可解释性工作依赖于文本原理或稀疏边界框,它们很难捕获复杂的视频动态,例如遮挡和非刚性变形。我们提出了证据支持的视频问答(E-VQA),这是一项新颖的任务,要求模型联合输出语义答案和精确的时空证据:时间片段和密集的跟踪对象分割掩码。来吃
沉浸式 360 度教育环境通常缺乏可访问的空间结构,限制了视障学习者定向、探索和构建心理表征的能力。本文提出了 EscFOA,一种几何感知的空间音频生成框架,设计为支持空间认知的 \emph{声学支架}。通过将 3D 高斯泼溅 (3DGS) 与条件扩散模型集成,EscFOA 从 360 度视频中重建场景几何形状,以合成与环境结构一致的高保真空间音频。明确目标学习
车牌字符检测是智能交通系统的重要组成部分,实时部署需要高精度和计算效率。尽管最近基于深度学习的方法大大提高了检测性能,但许多高精度模型依赖于大规模架构,这会产生大量计算开销,限制了它们对资源受限设备的适用性。在本文中,我们提出了 MicroCharNet,这是一种专为车牌字符检测而设计的超轻量级模型。拟议的架构
企业有大量强大的模型可供选择。真正的考验是企业构建的人工智能是否能够独特地满足业务需求:改进工作流程、利用领域知识以及超越准确性和信任标准。
了解企业如何通过衡量每美元的有用工作、提高效率和扩展高价值工作流程来管理代理时代的人工智能投资。
了解数据科学团队如何使用 ChatGPT Work 根据实际工作输入构建根本原因简报、影响读数、KPI 备忘录、范围分析和仪表板规范。
了解销售团队如何使用 ChatGPT Work 根据实际工作输入创建管道简报、会议准备包、预测审查、客户计划和停滞交易诊断。
TL; DR 在 Meta 的规模下,几毫秒的延迟下降可能会对广告效果产生重大负面影响。当 Linux 内核升级面临 Meta 广告服务队列延迟回归的风险时,我们转向 sched_ext(上游、基于 BPF 的可扩展调度框架)来构建针对广告投放定制的调度策略 [...] 阅读更多... 使用开源内核调度程序实现 Meta 广告服务现代化的帖子首先出现在 Engineering at Me 上
Google 和 AIM 推出了 ATL Saathi,这是一款由 Gemini 驱动的人工智能工具,为印度机器人实验室的教育工作者提供支持。
代码位于:https://github.com/facebookresearch/ads_model_kernel_library/tree/main/multi_cta_norm_fusion 和 https://github.com/facebookresearch/ads_model_kernel_library/tree/main/gdpa_megakernel TL;DR 在这篇博文中,我们为 LayerNorm 和 RMSNorm 等常见标准化操作提供了各种新颖的内核融合技术,这些技术提供了显着的加速...