主题:应用作答和过程数据检测大型在线语言测试中的作弊行为
主讲嘉宾介绍 廖曼茜,博士毕业于美国University of Maryland, College Park, 教育量化研究方法专业。现任多邻国科技有限公司高级测量科学家。从事分数效度、考试安全、计算机自适应测试等方面的研究工作。曾在American Institutes for Research、Financial Industry Regulatory Authority等机构从事心理测量实习。研究成果曾发表在British Journal of Mathematical and Statistical Psychology, Measurement: Interdisciplinary Research and Perspectives, Educational Psychology Review, Applied Psychological Measurement等学术期刊。
讲座内容提要 传统的线下考试作弊检测方法在应用于在线测试时存在一定的局限性。本报告首先概述一个适用于计算机自适应大型语言测试的考试安全框架和监考模式,然后通过两个例子介绍如何利用考生的作答和过程数据来帮助检测大型在线语言测试中的抄袭和代考行为。在第一个例子中,使用自然语言处理技术识别那些与公共网站或历史考生回答相似的书面或口头回答,从而发现那些在测试过程中访问外部网站或查看外部资料的考生。在第二个例子中,采用击键动态分析来识别潜在的代考行为。这两个例子进一步说明了结合使用作答数据和过程数据能够更全面地揭示不同形式的作弊行为,互为补充以增强检测能力。除了讨论这些作弊检测技术本身,报告还将探讨这些技术在实践中可能遇到的挑战和需要考虑的因素,尤其是如何将这些技术与人工监督过程结合,以确保作弊检测结果的准确性和公平性。
|