研究提出结合 Mistral-Instruct 与 TRF 的分析框架以量化社会语境对语音感知的神经影响
Towards an analytical framework for investigating the neurophysiological influence of social context in speech perception
研究者提出一个结合微调于会话语言的 Mistral-Instruct 与时间响应函数(TRF)的分析框架,用于考察社会语境对词级语音处理的影响。该框架在生成 LLM 词汇期望时将局部语境与说话者社会语境分离,可对同一语音材料在匹配或不匹配的说话者语境下生成预测。
原文给出结合 Mistral-Instruct 与 TRF 分离社会语境对词汇预测贡献的具体方法,适合关注自然语音神经解码研究设计的读者参考。
社会信息在日常言语交流中起着重要作用,然而现有的神经生理学方法在分离其对自然言语感知的贡献方面手段有限。在此,我们提出一个分析框架,将基于对话语言微调的大语言模型(LLM)Mistral-Instruct 与时间响应函数(TRF)相结合,以研究社会语境对词汇层面言语加工的影响。该框架在生成基于 LLM 的词汇预期指标时,将局部语境(LC)与说话者特定的社会语境(SC)区分开来,使得针对同一言语材料,既可在说话者语境匹配的条件下、也可在不匹配的条件下生成此类预测。这为分离社会信息对词汇预测的贡献提供了直接途径。我们首先通过对 Mistral-Instruct 进行探查表明,与说话者相关的社会语境携带了关于言语语体和会话角色的信息,而这些信息超出了仅凭先前局部语境所能获得的范围。随后我们证明,相对于从社会语境不一致的条件下生成的预期,从社会语境一致的条件下生成的词汇预期在 EEG 预测上产生了虽小但可靠的改善。尽管声学输入和神经记录完全相同,仍观察到了这些效应,这表明社会语境对词汇预期的影响解释了言语神经反应中可分离的方差。总之,这些发现为使用基于 LLM 的词汇预期来分离和测量社会语境对言语加工的影响提供了概念验证。更广泛地说,所提出的框架提供了一种灵活的方法,用于生成和检验关于不同形式的语境知识如何在自然语言理解过程中塑造神经反应的假设。
来源:bioRxiv · 脑电与神经科学预印本 · biorxiv.org