维基百科评论文本毒性分析数据集WikipediaCommentTextToxicityAnalysis-taishioikawa

维基百科评论文本毒性分析数据集WikipediaCommentTextToxicityAnalysis-taishioikawa

数据来源:互联网公开数据

标签: 文本分析, 毒性检测, 评论分类, 自然语言处理, 机器学习, 情感分析, 维基百科, 数据标注

数据概述: 该数据集包含来自维基百科评论的文本数据,记录了评论的文本内容及其对应的毒性评分,旨在用于训练和评估文本毒性检测模型。主要特征如下: 时间跨度:数据未明确标注时间,可视为历史评论的集合,用于训练和评估模型。 地理范围:数据来源于维基百科,覆盖全球范围内的用户评论。 数据维度:数据集包含多个关键字段,例如:comment_id(评论唯一标识符),text(评论文本),score(毒性评分),token_clean(清洗后的文本),以及用于分类任务的标签y(数值型,代表毒性程度)。同时,数据集还包含用于训练和验证模型的独立文件,包含用于回归和分类任务的训练集、验证集以及预测结果。 数据格式:数据主要以CSV格式提供,方便数据读取、处理和分析。此外,还包含pickle文件,可能用于存储中间处理结果或模型。 来源信息:数据来源于维基百科评论,经过了清洗、标注和预处理,包括文本分词、去噪等步骤。 该数据集特别适用于自然语言处理、文本挖掘、机器学习等领域的研究,以及用于开发文本毒性检测模型。

数据用途概述: 该数据集具有广泛的应用潜力,特别适用于以下场景: 研究与分析:适用于文本毒性检测、情感分析、负面内容识别等方向的学术研究,如评论毒性评估、仇恨言论检测、社交媒体内容过滤等。 行业应用:为社交媒体平台、在线论坛、评论系统等提供数据支持,可用于提升用户体验、维护社区秩序、过滤有害内容。 决策支持:支持内容审核策略制定、风险管理和用户行为分析,有助于提升平台内容质量。 教育和培训:作为自然语言处理、机器学习课程的实训素材,帮助学生和研究人员深入理解文本分析和模型构建。 此数据集特别适合用于探索文本毒性与评论内容之间的关系,构建和优化文本分类模型,从而实现对有害内容的自动识别和过滤,改善在线社区环境。

packageimg

数据与资源

附加信息

字段
版本 1.0
数据集大小 133.79 MiB
最后更新 2025年5月19日
创建于 2025年5月19日
声明 当前数据集部分源数据来源于公开互联网,如果有侵权,请24小时联系删除(400-600-6816)。