Skip to content

wuharlem/AML-Blacklist-Prediction

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

27 Commits
 
 
 
 
 
 
 
 

Repository files navigation

AML-Blacklist-Prediction

  • 連結

  • 比賽說明: 此競賽將提供參賽者公開新聞資料連結與相對應的焦點人物名單, 透過NLP演算法,精準找出AML相關新聞焦點人物,協助優化AML焦點人物名單的更新作業。


Solution Archtecture:

以下是我們的架構,分為前處理的爬蟲系統及模型。

Part 1: Crawling System

利用Crawler.py中的Crawler對主辦單位所給的網址做爬蟲,並將爬蟲結果儲存在csv檔案之中。


Part 2: Model

在這次比賽中我們用兩種方式來做訓練以及測試。在我們的測試資料集當中,平均測試分數落在0.975(比賽單位的評分機制)

方法1:利用NER模型做fine-tune

  1. 訓練一個能在文章中找出名字NER模型(BertForTokenClassification)
  2. 利用NER任務模型當作基底,利用黑名單文章對AML文章偵測模型做fine-tune。
  3. 程式碼:
  • python ner/NER_preprocess.py
  • python ner/NER_train.py
usage: NER_train.py [-h] [--save_paths SAVE_PATHS] [--dataset DATASET] [--batch_size BATCH_SIZE] [--max_epoch MAX_EPOCH]
                    [--learning_rate LEARNING_RATE]

NER Model Training

optional arguments:
  -h, --help            show this help message and exit
  --save_paths SAVE_PATHS
                        the path of saved parameter
  --dataset DATASET     the path of dataset
  --batch_size BATCH_SIZE
                        batch size
  --max_epoch MAX_EPOCH
                        max number of epoch
  --learning_rate LEARNING_RATE
                        learning rate

python blacklist/blacklist_preprocess.py
python blacklist/blacklist_train.py

usage: blacklist_train.py [-h] [--save_paths SAVE_PATHS] [--dataset DATASET] [--batch_size BATCH_SIZE] [--max_epoch MAX_EPOCH]
                          [--learning_rate LEARNING_RATE] [--weights WEIGHTS]

Blacklist Prediction Model 1 Training

optional arguments:
  -h, --help            show this help message and exit
  --save_paths SAVE_PATHS
                        the path of saved parameter
  --dataset DATASET     the path of dataset
  --batch_size BATCH_SIZE
                        batch size
  --max_epoch MAX_EPOCH
                        max number of epoch
  --learning_rate LEARNING_RATE
                        learning rate
  --weights WEIGHTS     weights of the model

  1. 缺點
  • 模型在判斷文章是否為AML文章並找名字的同時,除了洗錢相關詞彙的資訊,因為缺乏黑名單資料的情況下,會學到名字的資訊。
  • 不同的文章分段,需要人工判斷是否有包含AML文章的資訊

方法2:利用NER模型找出名字,並對其名字前後文做黑名單文章的預測

  1. 訓練一個能在文章中找出名字NER模型(BertForTokenClassification)
  2. 將名字的前後文作為輸入文章,並將名字統一換成李○賢
  3. 將文章丟入Bert模型之中做訓練,利用[CLS]token判斷文章是否為AML文章的分類問題。
  4. 改善
  • 此模型不會學習到名字的訊息,避免特定名字才會預測出黑名單的狀況
  1. 缺點
  • 訓練時間較長
  • 不同的文章分段,需要人工判斷是否有包含AML文章的資訊

About

玉山人工智慧公開挑戰賽2020夏季賽 - NLP應用挑戰賽

Topics

Resources

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published

Languages