動かしてみるだけなら、 JUMAN++ text-vectorian BERT日本語学習済みモデル(https://yoheikikuta.github.io/bert-japanese/) を準備の上、Aizen.ipynb を見てもらえれば動きます。色々試してみてください。 Aizen_colabがBERT+CNNのCNN部分の訓練に使ったものです。 こちらは参考程度にどうぞ。