English|简体中文

<p align=center>Senta</p>

目录

• 简介
• SKEP
• 代码结构
• 一键化工具
• 详细使用说明
• Demo数据集说明
• 论文效果复现
• 文献引用

简介

情感分析旨在自动识别和提取文本中的倾向、立场、评价、观点等主观信息。它包含各式各样的任务，比如句子级情感分类、评价对象级情感分类、观点抽取、情绪分类等。情感分析是人工智能的重要研究方向，具有很高的学术价值。同时，情感分析在消费决策、舆情分析、个性化推荐等领域均有重要的应用，具有很高的商业价值。

近日，百度正式发布情感预训练模型SKEP（Sentiment Knowledge Enhanced Pre-training for Sentiment Analysis）。SKEP利用情感知识增强预训练模型， 在14项中英情感分析典型任务上全面超越SOTA，此工作已经被ACL 2020录用。

论文地址：https://arxiv.org/abs/2005.05635

为了方便研发人员和商业合作伙伴共享效果领先的情感分析技术，本次百度在Senta中开源了基于SKEP的情感预训练代码和中英情感预训练模型。而且，为了进一步降低用户的使用门槛，百度在SKEP开源项目中集成了面向产业化的一键式情感分析预测工具。用户只需要几行代码即可实现基于SKEP的情感预训练以及模型预测功能。

SKEP

SKEP是百度研究团队提出的基于情感知识增强的情感预训练算法，此算法采用无监督方法自动挖掘情感知识，然后利用情感知识构建预训练目标，从而让机器学会理解情感语义。SKEP为各类情感分析任务提供统一且强大的情感语义表示。

百度研究团队在三个典型情感分析任务，句子级情感分类（Sentence-level Sentiment Classification），评价对象级情感分类（Aspect-level Sentiment Classification）、观点抽取（Opinion Role Labeling），共计14个中英文数据上进一步验证了情感预训练模型SKEP的效果。实验表明，以通用预训练模型ERNIE（内部版本）作为初始化，SKEP相比ERNIE平均提升约1.2%，并且较原SOTA平均提升约2%，具体效果如下表：

<table> <tr> <td><strong><center>任务</strong></td> <td><strong><center>数据集合</strong></td> <td><strong><center>语言</strong></td> <td><strong><center>指标</strong></td> <td><strong><center>原SOTA</strong></td> <td><strong><center>SKEP</strong></td> <td><strong><center>数据集地址</strong></td> </tr> <tr> <td rowspan="4"><center>句子级情感<br /><center>分类</td> <td><center>SST-2</td> <td><center>英文</td> <td><center>ACC</td> <td><center>97.50</td> <td><center>97.60</td> <td><center><a href="https://gluebenchmark.com/tasks" >下载地址</a></td> </tr> <tr> <td><center>Amazon-2</td> <td><center>英文</td> <td><center>ACC</td> <td><center>97.37</td> <td><center>97.61</td> <td><center><a href="https://www.kaggle.com/bittlingmayer/amazonreviews/data#" >下载地址</a></td> </tr> <tr> <td><center>ChnSentiCorp</td> <td><center>中文</td> <td><center>ACC</td> <td><center>95.80</td> <td><center>96.50</td> <td><center><a href="https://ernie.bj.bcebos.com/task_data_zh.tgz" >下载地址</a></td> </tr> <tr> <td><center>NLPCC2014-SC</td> <td><center>中文</td> <td><center>ACC</td> <td><center>78.72</td> <td><center>83.53</td> <td><center><a href="https://github.com/qweraqq/NLPCC2014_sentiment" >下载地址</a></td> </tr> <tr> <td rowspan="5"><center>评价对象级的<br /><center>情感分类</td> <td><center>Sem-L</td> <td><center>英文</td> <td><center>ACC</td> <td><center>81.35</td> <td><center>81.62</td> <td><center><a href="http://alt.qcri.org/semeval2014/task4/index.php?id=data-and-tools" >下载地址</a></td> </tr> <tr> <td><center>Sem-R</td> <td><center>英文</td> <td><center>ACC</td> <td><center>87.89</td> <td><center>88.36</td> <td><center><a href="http://alt.qcri.org/semeval2014/task4/index.php?id=data-and-tools" >下载地址</a></td> </tr> <tr> <td><center>AI-challenge</td> <td><center>中文</td> <td><center>F1</td> <td><center>72.87</td> <td><center>72.90</td> <td><center>暂未开放</td> </tr> <tr> <td><center>SE-ABSA16_PHNS</td> <td><center>中文</td> <td><center>ACC</td> <td><center>79.58</td> <td><center>82.91</td> <td><center><a href="http://alt.qcri.org/semeval2016/task5/" >下载地址</a></td> </tr> <tr> <td><center>SE-ABSA16_CAME</td> <td><center>中文</td> <td><center>ACC</td> <td><center>87.11</td> <td><center>90.06</td> <td><center><a href="http://alt.qcri.org/semeval2016/task5/" >下载地址</a></td> </tr> <tr> <td rowspan="5"><center>观点<br /><center>抽取</td> <td><center>MPQA-H</td> <td><center>英文</td> <td><center>b-F1/p-F1</td> <td><center>83.67/77.12</td> <td><center>86.32/81.11</td> <td><center><a href="https://mpqa.cs.pitt.edu/corpora/mpqa_corpus/mpqa_corpus_2_0/" >下载地址</a></td> </tr> <tr> <td><center>MPQA-T</td> <td><center>英文</td> <td><center>b-F1/p-F1</td> <td><center>81.59/73.16</td> <td><center>83.67/77.53</td> <td><center><a href="https://mpqa.cs.pitt.edu/corpora/mpqa_corpus/mpqa_corpus_2_0/" >下载地址</a></td> </tr> <tr> <td><center>COTE_BD</td> <td><center>中文</td> <td><center>F1</td> <td><center>82.17</td> <td><center>84.50</td> <td><center><a href="https://github.com/lsvih/chinese-customer-review" >下载地址</a></td> </tr> <tr> <td><center>COTE_MFW</td> <td><center>中文</td> <td><center>F1</td> <td><center>86.18</td> <td><center>87.90</td> <td><center><a href="https://github.com/lsvih/chinese-customer-review" >下载地址</a></td> </tr> <tr> <td><center>COTE_DP</td> <td><center>中文</td> <td><center>F1</td> <td><center>84.33</td> <td><center>86.30</td> <td><center><a href="https://github.com/lsvih/chinese-customer-review" >下载地址</a></td> </tr> </table>

代码结构

.
├── README.md
├── requirements.txt
├── senta                    # senta核心代码，包括模型、输出reader、分词方法等
├── script                   # 情感分析各任务入口启动脚本，通过调用配置文件完成模型的训练和预测
├── config                   # 任务配置文件目录，在配置文件中设定模型的方法、超参数、数据等

一键化工具

为了降低用户的使用门槛，百度在SKEP开源项目中集成了面向产业化的一键式情感分析预测工具。具体安装和使用方法如下：

安装方法

本仓库支持pip安装和源码安装两种方式，使用pip或者源码安装时需要先安装PaddlePaddle，PaddlePaddle安装请参考安装文档。

1. pip安装

python -m pip install Senta

2. 源码安装

git clone https://github.com/baidu/Senta.git
cd Senta
python -m pip install .

使用方法

from senta import Senta

my_senta = Senta()

# 获取目前支持的情感预训练模型, 我们开放了以ERNIE 1.0 large(中文)、ERNIE 2.0 large(英文)和RoBERTa large(英文)作为初始化的SKEP模型
print(my_senta.get_support_model()) # ["ernie_1.0_skep_large_ch", "ernie_2.0_skep_large_en", "roberta_skep_large_en"]

# 获取目前支持的预测任务
print(my_senta.get_support_task()) # ["sentiment_classify", "aspect_sentiment_classify", "extraction"]

# 选择是否使用gpu
use_cuda = True # 设置True or False

# 预测中文句子级情感分类任务
my_senta.init_model(model_class="ernie_1.0_skep_large_ch", task="sentiment_classify", use_cuda=use_cuda)
texts = ["中山大学是岭南第一学府"]
result = my_senta.predict(texts)
print(result)

# 预测中文评价对象级的情感分类任务
my_senta.init_model(model_class="ernie_1.0_skep_large_ch", task="aspect_sentiment_classify", use_cuda=use_cuda)
texts = ["百度是一家高科技公司"]
aspects = ["百度"]
result = my_senta.predict(texts, aspects)
print(result)

# 预测中文观点抽取任务
my_senta.init_model(model_class="ernie_1.0_skep_large_ch", task="extraction", use_cuda=use_cuda)
texts = ["唐 家 三 少 ， 本 名 张 威 。"]
result = my_senta.predict(texts, aspects)
print(result)

# 预测英文句子级情感分类任务（基于SKEP-ERNIE2.0模型）
my_senta.init_model(model_class="ernie_2.0_skep_large_en", task="sentiment_classify", use_cuda=use_cuda)
texts = ["a sometimes tedious film ."]
result = my_senta.predict(texts)
print(result)

# 预测英文评价对象级的情感分类任务（基于SKEP-ERNIE2.0模型）
my_senta.init_model(model_class="ernie_2.0_skep_large_en", task="aspect_sentiment_classify", use_cuda=use_cuda)
texts = ["I love the operating system and the preloaded software."]
aspects = ["operating system"]
result = my_senta.predict(texts, aspects)
print(result)

# 预测英文观点抽取任务（基于SKEP-ERNIE2.0模型）
my_senta.init_model(model_class="ernie_2.0_skep_large_en", task="extraction", use_cuda=use_cuda)
texts = ["The JCC would be very pleased to welcome your organization as a corporate sponsor ."]
result = my_senta.predict(texts)
print(result)

# 预测英文句子级情感分类任务（基于SKEP-RoBERTa模型）
my_senta.init_model(model_class="roberta_skep_large_en", task="sentiment_classify", use_cuda=use_cuda)
texts = ["a sometimes tedious film ."]
result = my_senta.predict(texts)
print(result)

# 预测英文评价对象级的情感分类任务（基于SKEP-RoBERTa模型）
my_senta.init_model(model_class="roberta_skep_large_en", task="aspect_sentiment_classify", use_cuda=use_cuda)
texts = ["I love the operating system and the preloaded software."]
aspects = ["operating system"]
result = my_senta.predict(texts, aspects)
print(result)

# 预测英文观点抽取任务（基于SKEP-RoBERTa模型）
my_senta.init_model(model_class="roberta_skep_large_en", task="extraction", use_cuda=use_cuda)
texts = ["The JCC would be very pleased to welcome your organization as a corporate sponsor ."]
result = my_senta.predict(texts)
print(result)

详细使用说明

项目下载

1. 代码下载

   下载代码库到本地

   git clone https://github.com/baidu/Senta.git
   

2. 模型下载

   下载情感分析预训练SKEP的中文模型和英文模型（本项目中开放了以ERNIE 1.0 large(中文)、ERNIE 2.0 large(英文)和RoBERTa large(英文)作为初始化，训练的中英文情感预训练模型）

   cd ./model_files
   
   # 以ERNIE 1.0 large(中文)作为初始化，训练的SKEP中文情感预训练模型（简写为SKEP-ERNIE1.0）
   sh download_ernie_1.0_skep_large_ch.sh
   
   # 以ERNIE 2.0 large(英文)作为初始化，训练的SKEP英文情感预训练模型（简写为SKEP-ERNIE2.0）
   sh download_ernie_2.0_skep_large_en.sh
   
   # 以RoBERTa large(英文)作为初始化，训练的SKEP英文情感预训练模型（简写为SKEP-RoBERTa）
   sh download_roberta_skep_large_en.sh
   

3. demo数据下载

   下载demo数据用作SKEP训练和情感分析任务训练

   cd ./data/
   sh download_ch_data.sh # 中文测试数据
   sh download_en_data.sh # 英文测试数据
   

环境安装

1. PaddlePaddle 安装

   本项目依赖于 PaddlePaddle 1.6.3，PaddlePaddle安装后，需要及时的将 CUDA、cuDNN、NCCL2 等动态库路径加入到环境变量 LD_LIBRARY_PATH 之中，否则训练过程中会报相关的库错误。具体的paddlepaddle配置细节请查阅这里 安装文档。

   推荐使用pip安装方式

   python -m pip install paddlepaddle-gpu==1.6.3.post107 -i https://mirror.baidu.com/pypi/simple
   

2. senta项目python包依赖

   支持Python 3 的版本要求 3.7；