ICASSP 2024 论文预讲会由CCF语音对话与听觉专委会、语音之家主办,旨在为学者们提供更多的交流机会,更方便、快捷地了解领域前沿。活动将邀请 ICASSP 2024 录用论文的作者进行报告交流。

ICASSP 2024 论文预讲会第十一期邀请到上海交通大学听觉认知与计算声学实验室做本次会议的专场分享,欢迎大家观看。


实验室概况

上海交通大学听觉认知与计算声学实验室(Auditory Cognition and Computational Acoustics Laboratory)是一支由计算机系钱彦旻教授带领的,拥有博士生、硕士生、本科生共三十余人的研究队伍。课题组主要研究方向包括听觉信号处理与认知,语音识别和语音翻译,说话人和语种识别,语音抗噪与分离,音乐生成和理解,语音情感感知,多模态和跨模态信息处理,音频自监督大模型,自然语言理解,深度学习建模,多媒体信号处理等。


第十一期

上海交通大学听觉认知与计算声学实验室【专场】

时间:3月19日(周二)19:00 ~ 20:00

形式:线上

议程:每位嘉宾分享30分钟(含5分钟QA)


嘉宾&主题


嘉宾简介:刘贝,上海交通大学听觉认知与计算声学实验室2019级博士研究生,导师钱彦旻教授。研究方向为大型语音语言预训练模型压缩和推理加速、声纹识别等。在IEEE T-ASLP,ICASSP, INTERSPEECH等期刊会议发表学术论文18篇(一作9篇),获得INTERSPEECH 2022最佳学生论文提名奖。其参赛系统获得CN-Celeb Speaker Recognition Challenge 2022第1名,VoxCeleb Speaker Recognition Challenge 2022第3名。

分享主题:One-Shot Sensitivity-Aware Mixed Sparsity Pruning for Large Language Models

摘要:基于生成预训练的大型语言模型 (LLMs) 在各种文本生成任务中都取得了出色的性能。但是,其巨大的模型尺寸和高推理延迟阻碍了它们在工业场景中的实际使用。因此,通过量化、修剪等压缩方式改善和提高LLMs的效率是一个重要的研究课题。在这项工作中,我们提出了一种基于Hessian 敏感性感知的混合稀疏性模型剪枝的方法,可以将 LLM 修剪到至少 50% 的稀疏度,而不需要任何训练过程。该算法可以根据每层的敏感度自适应地分配稀疏性,允许我们减少修剪引起的错误,同时保持整体稀疏程度。当稀疏性极高时,所提出的方法的优点表现得更加明显。此外,我们的方法与量化兼容,可以与量化算法结合进一步压缩 LLMs。


嘉宾简介:黄文,上海交通大学听觉认知与计算声学实验室2023级硕士研究生,导师钱彦旻教授。主要研究方向为说话人验证、声学场景事件检测等。

分享主题:Robust Cross-Domain Speaker Verification with Multi-Level Domain Adapters
摘要:说话人验证在面对多样化领域数据时会遇到巨大挑战,常常因为领域不匹配导致性能下降。为了在跨领域场景中提高性能,我们引入了域适配器,这是一个为特定领域设计的可适应模块。该模块学习并整合领域特定信息与说话人相关数据,减少领域相关的变化并促进来自同一说话人在不同领域中的话语嵌入的融合。它可以在模型的在多个层次上配置,并能适应于各种骨干架构。我们提出的模块在极小的参数增量下显著增强了跨领域性能,同时有效地泛化到以前未见过的领域。在实验中,我们展示了在3D-Speaker数据集上的结果,该数据集提供了对领域分类和随后的领域信息学习至关重要的声学相关属性。与基线相比,集成了域适配器的最佳系统在三个3D-Speaker数据集试验中分别实现了10.8%、14.8%和21.1%的等错误率(EER)提升。

参与方式

直播将通过语音之家微信视频号进行直播

手机端、PC端可同步观看
👇👇👇



讨论群

扫码添加语音小管家,进入语音之家讨论群


预讲论文征集
ICASSP 2024 论文预讲会面向全球线上招募,结合定向邀请与征集报名的方式,来选择预讲会的嘉宾。


为了共创高质量的论文预讲会,我们诚挚邀请所有 ICASSP 2024 作者参与到此次预讲会活动中来,也欢迎大家推荐适合此次预讲会活动的学者。


预讲论文报名方式

联系人邮箱

bd@speechhome.com


联系人微信