每日练习与编程练习

← 返回日报
任务 第一则

多教师蒸馏调度

任务 92/100

你负责训练一个多语 ASR 学生模型,线上每天产生 N 条未标注语音样本,每条样本有语言预测分布、时长、噪声等级、当前学生模型 loss/entropy、以及 K 个语言专门化教师模型的离线评估表。调用教师生成伪标签有成本:不同教师在不同语言/噪声下质量不同、推理耗时不同,且每天 GPU 预算 B、端到端产线 SLA 要求 6 小时内完成;同时为了避免多语联合训练优化冲突,每个 mini-batch 内希望语言分布不要过度倾斜,并限制低置信伪标签比例。 请设计一个“样本-教师选择与训练批次构造”方法:在预算内最大化预期蒸馏收益,并说明如何建模收益、如何处理多教师冲突、如何保证语言覆盖与低质量样本约束、时间复杂度、在线/离线一致性和数据漂移下的工程兜底。假设 N 可达 5000 万、K≤12、语言数 L≤80,不能用全量 ILP 精确求解。

参考回答

我会把任务拆成三层:收益建模、预算选择、批次构造。首先对每个样本 i 和教师 t 估计一个净收益 score(i,t)=E[student improvement]-λ1·cost(t,i)-λ2·risk(i,t)。E[student improvement] 可以由学生不确定性、历史同语言同噪声桶上的 teacher-student KL、教师 WER proxy、样本时长、语言稀缺度权重组成;risk 包括教师低置信、语言识别不确定、噪声 OOD、教师间分歧等。多教师冲突不直接平均,而是先做 teacher gating:对每个样本只保留 Pareto frontier 上的教师,即质量高、成本低、风险低的非支配候选,再用校准后的质量估计选择 top-m 候选,必要时用教师一致性作为附加收益,分歧过大的样本进入人工/弱监督缓冲池或降权训练。 预算选择上,不能全量 ILP。我会按语言、噪声、时长、学生 entropy 分桶,把 5000 万样本压成若干 cohort,每个 cohort 统计数量、平均成本、收益分布分位数。对每个 cohort 和教师构造若干“取前 q% 样本”的候选动作,每个动作有收益、GPU 成本、预计 wall time、低置信比例贡献和语言覆盖贡献。然后做近似多约束背包:主约束是 GPU 预算 B 和 6 小时产线时间,附加约束是每种语言最小/最大采样量、低置信样本上限。工程上可用拉格朗日松弛:把语言覆盖、低置信比例、SLA 违约转成动态 penalty,按 adjusted_gain/cost 排序贪心选取,并通过二分/次梯度更新 penalty;如果需要更稳定,可在语言维度先分配 quota,再在每个语言内做一维预算 DP 或 top-k heap。复杂度约为 O(NK) 生成候选分数太贵,因此实际先用轻量路由模型或表查分桶做到 O(N·k'),k' 是每个样本候选教师数,通常 1-3;cohort 级优化是 O(M log M) 或 O(L·C·B'),M 是候选动作数,远小于 N。 批次构造阶段,把已选样本按语言、时长、置信度分层队列组织。每个 batch 用受约束采样:满足 token/frame 数上限、语言比例上限、低置信比例上限,并尽量混入相近长度减少 padding。可以把 batch 构造看成在线 bin packing + 分层抽样:先按长度桶建堆,再按语言 quota 轮转抽取;对稀缺语言设置温度采样或最小保留队列。训练 loss 上使用 teacher quality 作为 soft label 权重,高分歧样本降低权重或只蒸馏中间表示,避免错误伪标签主导。 在线/离线一致性方面,教师推理、特征抽取、分桶、打分都要版本化,训练样本 manifest 记录 teacher version、路由分数、语言预测、伪标签 hash、过滤原因,保证可复现。数据漂移上,监控每个语言/噪声桶的输入分布、教师置信分布、学生 loss 分布和蒸馏后 dev WER;发现某桶收益变负时自动降低 quota 或切到保守教师。兜底策略包括:保留一部分随机探索流量更新收益估计;对新语言/新噪声优先选通用教师加低权重;SLA 临近时按收益密度降级跳过长音频或高成本教师;低置信比例超阈值时直接截断对应队列。

回答分析

强回答应先把“多教师蒸馏”转成受约束优化任务,而不是泛泛说用最好的教师。关键覆盖点包括:收益函数如何校准、成本和风险如何进入目标;多教师冲突如何通过 gating、Pareto frontier、分歧检测或加权 loss 处理;如何在 N=5000 万规模下避免全量 ILP,使用分桶、拉格朗日松弛、近似背包、quota 或堆式贪心;如何构造满足语言均衡和低置信约束的 batch;以及如何做版本化、漂移监控和 SLA 降级。常见错误是只按教师置信度排序、不考虑样本时长导致 GPU 预算失控;只追求高 entropy 样本但忽略伪标签风险;把所有教师 logits 简单平均造成语言专门教师互相污染;或者提出精确 ILP/全量 pair scoring 却无法落地。出练习者会继续追问收益估计偏差、约束不可行时的处理、以及线上产线超时和训练效果回退的机制。

评分
92/100
任务定义 20/20正确性 24/25复杂度 18/20工程取舍 18/20表达 12/15
追问
  • 如果某些低资源语言样本很少但教师质量也差,quota 应该如何设置才不会负迁移?
  • 如何设计 A/B 或离线反事实评估来证明该调度策略优于固定教师策略?
  • 如果教师推理结果缓存占用巨大,如何决定哪些伪标签需要保留、复算或淘汰?
类比
像在有限预算内给不同语种学生请家教,既要挑对老师,也要保证班级组成不失衡。
编程练习 第二则

定长子串中元音的最大数目

任务 95/100

给你字符串 `s` 和整数 `k` 。

请返回字符串 `s` 中长度为 `k` 的单个子字符串中可能包含的最大元音字母数。

英文中的 元音字母 为(`a`, `e`, `i`, `o`, `u`)。

示例 1:

输入:s = "abciiidef", k = 3 输出:3 解释:子字符串 "iii" 包含 3 个元音字母。

示例 2:

输入:s = "aeiou", k = 2 输出:2 解释:任意长度为 2 的子字符串都包含 2 个元音字母。

示例 3:

输入:s = "leetcode", k = 3 输出:2 解释:"lee"、"eet" 和 "ode" 都包含 2 个元音字母。

示例 4:

输入:s = "rhythms", k = 4 输出:0 解释:字符串 s 中不含任何元音字母。

示例 5:

输入:s = "tryhard", k = 4 输出:1

提示:

  • `1
参考解法

参考解法如下,使用定长滑动窗口维护当前窗口内元音数量,每次右移窗口时加入新字符、移除旧字符,并更新最大值。

python
class Solution:
    def maxVowels(self, s: str, k: int) -> int:
        vowels = set("aeiou")

        # 统计第一个长度为 k 的窗口中的元音数量
        current = 0
        for i in range(k):
            if s[i] in vowels:
                current += 1

        ans = current

        # 从第二个窗口开始滑动:
        # 新窗口为 s[i-k+1 : i+1]
        for i in range(k, len(s)):
            if s[i] in vowels:
                current += 1
            if s[i - k] in vowels:
                current -= 1

            ans = max(ans, current)

            # 如果已经达到理论最大值 k,可以提前返回
            if ans == k:
                return k

        return ans
解练习分析

这道练习的核心是识别“长度固定为 `k` 的子串”这一特征,因此最适合使用定长滑动窗口。暴力做法会枚举每个长度为 `k` 的子串并重新统计元音数量,时间复杂度为 `O(nk)`,在 `s.length` 最大为 `10^5` 时可能超时。滑动窗口的优化点在于:相邻两个长度为 `k` 的窗口只相差一个移出的字符和一个移入的字符,因此可以用 `O(1)` 时间更新当前窗口的元音数量。

具体步骤: 1. 用集合 `{"a", "e", "i", "o", "u"}` 判断字符是否为元音。 2. 先统计第一个长度为 `k` 的窗口中的元音数量。 3. 从下标 `k` 开始遍历字符串,每次将 `s[i]` 加入窗口,将 `s[i-k]` 移出窗口。 4. 维护所有窗口中元音数量的最大值。 5. 若最大值已经等于 `k`,说明窗口中全是元音,已经达到理论上限,可以提前返回。

复杂度: - 时间复杂度:`O(n)`,其中 `n = len(s)`,每个字符最多被加入和移出窗口一次。 - 空间复杂度:`O(1)`,元音集合大小固定为 5。

边界条件: - `k = 1`:窗口长度为 1,只需判断是否存在元音。 - `k = len(s)`:只有一个窗口,答案就是整个字符串中的元音数量。 - 字符串不含元音:答案为 0。 - 字符串全为元音且存在长度为 `k` 的窗口:答案为 `k`。 - 任务保证 `1 <= k <= len(s)`,因此无需处理空窗口或越界输入。

常见错误: 1. 忘记移除窗口左侧字符,导致统计的是前缀元音数量而不是当前窗口元音数量。 2. 滑动时下标写错,例如移除 `s[i-k+1]` 而不是 `s[i-k]`。 3. 没有先初始化第一个窗口,导致窗口长度不固定。 4. 使用切片反复统计,例如 `s[i:i+k]` 再遍历,会退化为 `O(nk)`。 5. 把元音判断写成多个重复条件,代码可读性较差,且容易漏掉字符。

考察中高质量答案应覆盖: - 明确说明这是定长滑动窗口任务。 - 解释为什么每次窗口移动只需要更新两个字符。 - 能准确写出加入字符和移除字符的下标。 - 给出 `O(n)` 时间复杂度和 `O(1)` 空间复杂度。 - 能说明 `ans == k` 时可以提前结束,但这只是优化,不影响主逻辑正确性。

出练习者可能追问: - 如果元音集合变成动态输入,代码如何修改? - 如果要求返回达到最大元音数的子串本身,如何维护窗口起点? - 如果字符串是流式输入,不能一次性存储完整字符串,该怎么做?

评分
95/100
思路 25/25正确性 25/25复杂度 20/20工程性 15/15表达 10/15
追问
  • 如果要求返回最大元音数量对应的子串,该如何修改?
  • 如果输入字符集包含大写字母,如何处理?
  • 如果 k 不固定而是要求任意长度不超过 k 的子串,解法会有什么变化?
类比
像拿着一把长度固定的尺子在字符串上平移,每次只看新盖住的字符和刚离开的字符。

往期记录 151 条记录

2026年08月06日长窗注意力稳健化interviewNumericalStabilitySoftmaxPositionBias
2026年08月06日执行操作使数据元素之和大于等于 KcodeGreedyMathEnumeration
2026年08月05日必须拿起的最小连续卡牌数codehashmaparrayslidingwindow
2026年08月04日绝对差不超过限制的最长连续子数组codesliding windowmonotonic queuedeque
2026年08月03日证据路由与采样优化interviewRoutingSubmodularLatency
2026年08月01日查询引导长视频采样interviewSubmodularKnapsackTemporalCoverage
2026年08月01日边界元素是最大值的子数组数目codeStackArrayMonotonicStack
2026年07月30日受限内存推理调度interviewLLM-servingKV-cacheScheduling
2026年07月29日技能感知词元压缩interviewTokenCompressionMultimodalKnapsack
2026年07月27日递归验证预算分配interviewAStarBanditSubmodular
2026年07月26日推理早停预算分配interviewOptimalStoppingSequentialTestCalibration
2026年07月26日二叉树中所有距离为 K 的结点codeTreeBFSDFS
2026年07月25日流式同传轨迹调度interviewStreamingMonotonicAlignmentLatencyControl
2026年07月25日分割回文串codepalindromebacktrackingdynamicprogramming
2026年07月24日最大节点价值之和codeGreedyBitManipulationTree
2026年07月23日长音视频工具调度interviewTool RoutingDAG SchedulingSubmodular Maximization
2026年07月20日流式多模态记忆检索interviewStreaming MemoryMultimodal RetrievalTemporal Indexing
2026年07月20日T 秒后青蛙的位置codeTreeDFSProbability
2026年07月20日约束预算模型路由interviewModel RoutingConstrained OptimizationContextual Bandit
2026年07月20日匹配模式数组的子数组数目 IIcodeArrayKMPStringMatching
2026年07月20日受限显存解码调度interviewLLMCompilerKVCacheScheduling
2026年07月20日填充每个节点的下一个右侧节点指针 IIcodeTreeBFSLinkedList
2026年07月02日变分信息瓶颈Information BottleneckVariational BoundRate-Distortion
2026年07月01日CTC序列对齐方法CTCForward-Backward MethodBlank Token
2026年07月01日故障流行病学Core DumpStatistical DebuggingFault Localization
2026年06月30日哈希嵌入压缩Hash EmbeddingFeature HashingEmbedding Compression
2026年06月29日一致性蒸馏Consistency ModelsProgressive DistillationODE Trajectory
2026年06月29日原生推理引擎Native RuntimeggmlInference Engine
2026年06月28日无分类器引导Classifier-Free GuidanceGuidance ScaleScore Interpolation
2026年06月25日MVDR波束成形MVDR BeamformingSpatial FilteringCovariance Estimation
2026年06月24日神经缩放定律Scaling LawsCompute-Optimal TrainingPower Law
2026年06月23日最小贝叶斯风险解码Minimum Bayes RiskDecision TheoryHypothesis Selection
2026年06月23日PID控制与生成调控PID ControllerFeedback ControlClosed-loop Generation
2026年06月22日生成模型评估度量Frechet Inception DistanceGenerative EvaluationFeature Statistics
2026年06月21日浮点量化收缩偏差FP4 TrainingShrinkage BiasLow-Precision Arithmetic
2026年06月21日模型上线仿真Deployment SimulationShadow TestingOffline Evaluation
2026年06月20日现代联想记忆Hopfield NetworkAssociative MemoryEnergy-Based Model
2026年06月19日离散扩散语言模型Discrete DiffusionAbsorbing StateConcrete Score
2026年06月18日循环变换器架构Looped TransformerWeight TyingAdaptive Computation
2026年06月17日韵律建模演进Prosody PredictionF0 ModelingDuration Prediction
2026年06月16日说话人日志Speaker DiarizationSpeaker EmbeddingEEND
2026年06月15日偏好对齐优化Preference OptimizationDPOReward Modeling
2026年06月14日多令牌并行预测Multi-Token PredictionSpeculative DecodingParallel Decoding
2026年06月13日流匹配生成模型Flow MatchingRectified FlowOptimal Transport Path
2026年06月13日实时管线延迟预算Latency BudgetPipeline OrchestrationTime-to-First-Token
2026年06月12日MoE路由机制Mixture of ExpertsSparse GatingRouter Design
2026年06月11日连续自回归生成Continuous AutoregressiveLatent PredictionAudioVAE
2026年06月10日KV缓存压缩KV Cache CompressionToken EvictionAttention Sparsity
2026年06月09日浏览器端模型推理WebGPUBrowser InferenceClient-side ML
2026年06月02日残差向量量化Residual Vector QuantizationAudio TokenizationNeural Codec
2026年05月31日彩色噪声扩散采样Colored NoiseSpectral BiasSDE Solver
2026年05月31日算子融合编译原理Kernel FusionOperator Fusiontorch.compile
2026年05月20日AI生成内容溯源 (7 chars) ✓Content ProvenanceC2PASynthID
2026年05月19日推理委托设计模式 (8 chars) ✓ Let me now write the full content for both topics. Actually, I realize I should double-check: is "Runtime Abstraction" or "Delegate Pattern" too close to any covered keyword? Looking at the list: Cluster Scheduling, Co-design, Collective Communication, Computational Expressiveness, CUTLASS... No, none of these overlap. OK, let me finalize and write everything out. Let me reconsider the engineering topic one more time. The title "推理委托设计模式" is good but maybe I should make it even more specific and interesting. What about focusing on the "graph partitioning" aspect - how ML runtimes decide which operations to delegate to which backend? This is a more specific and technically interesting angle. No, I think the broader "delegate pattern" is better because it covers the full picture and is more useful to the reader. Let me write it all out now. For the engineering topic, let me think about the history: - Early days: frameworks were monolithic (Caffe, early TensorFlow) - TensorRT (2017): NVIDIA's specialized inference engine, initially standalone - ONNX Runtime (2019): Microsoft introduced "Execution Providers" - the first major delegate-like abstraction - TFLite delegates (2018-2019): TensorFlow Lite introduced delegate API for GPU, NNAPI, etc. - ExecuTorch (2023-2024): PyTorch's answer to edge inference with a clean delegate API - 2025-2026: MLX delegate, Qualcomm AI Engine Direct delegate, etc. This is a rich history. Let me write it up. Actually, I want to make sure I have the dates right: - TensorRT was first released around 2016-2017 - ONNX was announced in 2017 - ONNX Runtime was open-sourced in 2018-2019 - TFLite was released in 2017, delegates came later - ExecuTorch was announced at PyTorch Conference 2023 OK, let me write everything now. I'll be thorough. One more thought: for the MATH section of the engineering topic, I could discuss the graph partitioning problem formally, or I could discuss the cost model for deciding whether to delegate. Let me think... The graph partitioning for delegation can be formalized as: - Given a computation graph $G = (V, E)$ where $V$ is the set of operations and $E$ is data dependencies - And a set of delegates $D = \{d_1, ..., d_m\}$ where each delegate supports a subset of operations $S_i \subseteq V$ - Find a partition $P = \{P_0, P_1, ..., P_m\}$ (where $P_0$ is the fallback/CPU partition) that minimizes total execution time - Subject to: each $
2026年05月17日连续批处理异步化
2026年05月10日连续潜在扩散语言模型Continuous Latent DiffusionNon-autoregressive LMDiffusion Language Model
2026年05月10日零样本跨语言语音克隆Zero-shot Voice CloningCross-lingual TTSIPA Phoneme Representation
2026年05月09日最优传输音频距离Optimal TransportFréchet Audio DistanceRiemannian Metric
2026年05月09日推荐系统推理核内广播优化Intra-kernel BroadcastEmbedding TableRecommendation Inference
2026年05月08日扩散Transformer异常值令牌Outlier TokensDiffusion TransformerAttention Sink
2026年05月08日WebRTC低延迟语音工程WebRTCReal-time AudioJitter Buffer
2026年05月07日音素级深度伪造检测原理Phoneme-level Deepfake DetectionSelf-supervised Speech EmbeddingEmotional Speech Synthesis
2026年05月07日AI训练网络协议工程哲学Multi-path Reliable ConnectionRDMA over EthernetCollective Communication
2026年05月05日对抗解纠缠说话人验证Speaker DisentanglementAdversarial TrainingCross-lingual Verification
2026年05月05日LLM推理为何用语言Chain-of-ThoughtLatent ReasoningToken Space
2026年05月01日跨架构知识蒸馏原理Cross-Architecture DistillationDiffusion LMAutoregressive Teacher
2026年05月01日AI评估计算瓶颈工程LLM Evaluation InfrastructureBenchmark SaturationEval Compute Bottleneck
2026年04月29日平衡传输语音增强Schrödinger BridgeStochastic Differential EquationSpeech Enhancement
2026年04月29日深度学习理论形成Deep Learning TheoryLoss LandscapeNeural Tangent Kernel
2026年04月28日语义进度函数原理Semantic Progress FunctionDiffusion TrajectoryNonlinear Denoising
2026年04月28日大模型OCR选型认知OCR BenchmarkModel Selection BiasCost-Performance Tradeoff
2026年04月27日说话人验证核心原理Speaker Verificationd-vectorECAPA-TDNN
2026年04月27日GPU核函数语言选型GPU Kernel EngineeringCuTe DSLCUTLASS
2026年04月26日时长控制TTS原理Duration ModelingProsody ControlAutoregressive TTS
2026年04月26日AI研究价值评估困境Research EvaluationPublication BiasPeer Review
2026年04月25日全双工对话建模原理Full-Duplex DialogueTurn-TakingVoice Activity Detection
2026年04月25日流式TTS文本规范化Text NormalizationStreaming TTSInverse Text Normalization
2026年04月24日离散扩散语言模型原理Discrete DiffusionMasked Diffusion Language ModelAbsorbing Diffusion
2026年04月24日跟进ML研究的认知工程Information OverloadResearch TriageSpaced Repetition
2026年04月23日一致性正则化ASR原理Consistency RegularizationUnified ASRTransducer
2026年04月23日流式TTS文本规范化工程Text NormalizationStreaming TTSInverse Text Normalization
2026年04月22日神经编码器伪影检测Neural Audio CodecArtifact DetectionForensic Residual
2026年04月22日AI研究复现危机工程Reproducibility CrisisML EngineeringExperimental Rigor
2026年04月21日扩散SNR偏差校正原理Signal-to-Noise RatioDiffusion Timestep BiasScore Matching
2026年04月21日论文复现危机根治工程Reproducibility CrisisAblation StudyExperimental Rigor
2026年04月20日音频时序定位原理Temporal GroundingAudio Event DetectionCross-modal Alignment
2026年04月20日论文复现危机根因Reproducibility CrisisBenchmark OverfittingEvaluation Validity
2026年04月19日流匹配对齐原理Flow Matching AlignmentReward Gradient BackpropagationTrajectory Optimization
2026年04月19日分布式训练任务编排Distributed Training OrchestrationCluster SchedulingFault Tolerance
2026年04月18日最优传输信号融合Optimal TransportWasserstein BarycenterTime-Frequency Resolution
2026年04月18日分布式训练任务调度Distributed Training OrchestrationJob SchedulingCluster Resource Management
2026年04月17日扩散语音识别原理Masked Diffusion Language ModelDiscrete DiffusionASR Decoding
2026年04月17日Mel尺度跨文化偏差Mel ScalePsychoacousticsCultural Bias
2026年04月16日音频水印对抗原理Audio WatermarkingSemi-FragilePsychoacoustic Masking
2026年04月16日推测解码草稿树工程Speculative DecodingDraft TreeBlock Diffusion
2026年04月15日对抗流模型原理Continuous Normalizing FlowAdversarial TrainingFlow Matching
2026年04月15日代理状态可观测性工程Agent ObservabilityDistributed TracingState Machine Debugging
2026年04月14日过程奖励模型原理Process Reward ModelStep-level SupervisionReasoning Chain
2026年04月13日离散令牌音源分离Discrete Token ModelingSource SeparationConditional Generation
2026年04月13日超算API工程哲学Distributed Training OrchestrationSupercomputer API DesignFault Tolerance
2026年04月12日信息瓶颈原理演进Information BottleneckVariational IBDisentanglement
2026年04月12日Safetensors格式工程哲学SafetensorsModel SerializationMemory-Mapped IO
2026年04月11日归一化层演进原理Layer NormalizationRMS NormalizationBatch Normalization
2026年04月11日GEMM自调优后端工程GEMM AutotuningTorchInductorCuteDSL
2026年04月10日多令牌预测原理Multi-Token PredictionSpeculative DecodingMedusa Heads
2026年04月10日ML从业者认知校准Calibration BiasCapability IllusionBenchmark Overfitting
2026年04月09日编码器-解码器LM原理Encoder-Decoder LMCross-Attention ConditioningSequence-to-Sequence
2026年04月09日torch.compile归一化优化torch.compileLayerNormRMSNorm
2026年04月08日KV缓存压缩原理KV Cache CompressionRoPE Position EncodingAttention Score Estimation
2026年04月08日音效基础模型工程Sound Effect GenerationFoundation ModelFoley Synthesis
2026年04月07日可验证奖励强化学习Verifiable RewardRLVRProcess Reward Model
2026年04月07日LLM技能退化认知机制Cognitive OffloadingSkill AtrophyDesirable Difficulty
2026年04月06日音素可解释说话人验证Phoneme-aware Speaker VerificationInterpretable BiometricsLocal Acoustic Evidence
2026年04月06日音频幻觉攻击评估Hallucination AttackAudio Language Model ReliabilityAdversarial Probing
2026年04月05日潜在空间推理原理Latent Space ReasoningContinuous RepresentationToken-Free Inference
2026年04月05日mRNA模型极低成本训练Biology Foundation ModelCross-Species TransferLow-Budget Training
2026年04月04日编码器-解码器TTS原理Encoder-Decoder TTSText ConditioningPositional Capacity
2026年04月04日大模型训练的MXFP8工程MXFP8MicroscalingMixed Precision Training
2026年04月03日在线知识蒸馏原理Online DistillationKnowledge TransferStudent-Teacher
2026年04月03日MoE专家并行调度工程Expert ParallelismMixture of ExpertsAll-to-All Communication
2026年04月02日波形潜空间扩散TTSwaveform latent diffusionnon-autoregressive TTSlatent space acoustic modeling
2026年04月02日波形隐空间扩散原理waveform latent spacediffusion TTSVAE audio codec
2026年04月02日LLM量化权重工程weight quantizationLLM compression4-bit quantization
2026年04月02日扩散语言模型离散生成Discrete DiffusionMasked Diffusion Language ModelNon-autoregressive TTS
2026年04月02日LLM后训练库工程演进RLHF engineeringPPO training stabilityreward hacking
2026年04月02日声学证据瓶颈原理Audio Evidence BottleneckAcoustic GroundingAudio Language Model
2026年04月02日状态空间模型音频建模State Space ModelMambaSelective Scan
2026年04月02日实时语音增强工程选型Real-time Speech EnhancementNoise SuppressionStreaming Inference
2026年04月02日对话上下文压缩原理Context CompressionAbstractive SummarizationCross-Attention Fusion
2026年04月02日说话人匿名化工程Speaker AnonymizationVoice ConversionStreaming Inference
2026年04月02日视听语音识别融合Audio-Visual Speech RecognitionLip ReadingViseme
2026年04月02日GPU训练吞吐加速工程MXFP8MoE TrainingExpert Parallelism
2026年04月01日熵驱动多样性生成diversity samplingtypicality biasrepulsion in latent space
2026年04月01日说话人分割工程选型speaker diarizationbenchmark methodologystreaming ASR pipeline
2026年03月31日转向检测联合建模turn-taking detectionvoice activity detectionjoint acoustic-linguistic modeling
2026年03月31日基准测试的系统性失效benchmark contaminationevaluation validityLLM judge reliability
2026年03月31日扩散模型声学生成diffusion modelscore matchingstochastic differential equation
2026年03月31日TTS开源生态竞争open-weight TTStime-to-first-audiomultilingual speech synthesis
2026年03月30日注意力机制变体演进Multi-Head AttentionGrouped Query AttentionMulti-head Latent Attention
2026年03月30日设备端语音推理架构on-device inferenceExecuTorchvoice agent pipeline
2026年03月29日混合自回归流匹配TTSautoregressive semantic tokensflow matching acoustic decoderhybrid TTS architecture
2026年03月29日NCCL超时诊断方法论NCCL watchdog timeoutdistributed training debuggingcollective communication
2026年03月29日混合架构音频表示Mambastate space modelaudio representation learning
2026年03月29日DeepSeek预训练加速工程MXFP8 trainingexpert parallelismMoE pretraining
2026年03月27日说话人验证度量学习speaker verificationmetric learningcurriculum learning
2026年03月27日MX浮点格式加速训练MXFP8microscalingmixed precision training
2026年03月26日TTS模型极限压缩model compressionknowledge distillationTTS on-device
2026年03月26日小模型极限压缩哲学model compressionknowledge distillationquantization
2026年03月25日流匹配生成原理flow matchingrectified flowODE
2026年03月25日神经音频编解码器neural audio codecresidual vector quantizationEnCodec
2026年03月25日推测解码加速推理speculative decodingdraft modeltoken verification