多语言恶意评论检测数据集MultilingualToxicCommentDetectionDataset-glkuzi

多语言恶意评论检测数据集MultilingualToxicCommentDetectionDataset-glkuzi

数据来源:互联网公开数据

标签:文本分类, 恶意评论, 多语言, 深度学习, 自然语言处理, 情感分析, 数据标注, BERT模型

数据概述: 该数据集包含来自Jigsaw评论数据集,记录了多种语言的评论文本,并标注了评论是否具有恶意内容。主要特征如下: 时间跨度:数据未明确标注时间,可视为静态语料数据集。 地理范围:数据来源于全球互联网用户评论,覆盖多种语言。 数据维度:包括评论ID(id)、评论文本(comment_text 或 content)、评论语言(lang)、恶意程度标签(toxic,0代表非恶意,1代表恶意),以及文本经过预处理后的输入特征,如input_word_ids、input_mask、all_segment_id等,这些输入特征通常用于基于Transformer的模型。 数据格式:CSV格式,包括jigsaw-toxic-comment-train-processed-seqlen512.csv (训练集), test-processed-seqlen512.csv (测试集), validation-processed-seqlen512.csv (验证集),方便进行模型训练和评估。 数据来源:数据来源于Jigsaw竞赛,经过了预处理,包括文本清洗、分词、序列化等步骤,并为BERT等模型生成了输入特征。该数据集特别适合用于多语言恶意评论检测、情感分析和文本分类任务。

数据用途概述: 该数据集具有广泛的应用潜力,特别适用于以下场景: 研究与分析:适用于自然语言处理、深度学习、文本挖掘等领域的学术研究,如恶意文本识别、情感分析、跨语言文本分析等。 行业应用:为社交媒体、在线论坛、评论平台等提供数据支持,用于自动过滤恶意言论、提升用户体验、维护社区秩序。 决策支持:支持内容审核系统的开发与优化,帮助企业建立有效的风险管理机制,保护品牌声誉。 教育和培训:作为自然语言处理、深度学习课程的实训材料,帮助学生和研究人员理解和实践文本分类、情感分析等技术。 此数据集特别适合用于探索不同语言环境下恶意评论的模式与特点,并构建高效的恶意内容检测模型,从而提升内容审核的准确性和效率。

packageimg

数据与资源

附加信息

字段
版本 1.0
数据集大小 141.81 MiB
最后更新 2025年5月28日
创建于 2025年5月28日
声明 当前数据集部分源数据来源于公开互联网,如果有侵权,请24小时联系删除(400-600-6816)。