生成AIが抱えるリスクと対策, LYCorp‘23

[AkihikoWatanabe]

https://speakerdeck.com/lycorptech_jp/risks-and-countermeasures-for-generative-ai?slide=11

[AkihikoWatanabe]

この資料をスタートにReferしている論文などを勉強すると、GenerativeAIのリスク周りに詳しくなれそう。この辺は疎いので勉強になる。
しかし、LLMのAlignmentが不十分だったり、Hallucinationを100%防ぐことは原理的に不可能だと思われるので、この辺とどう付き合っていくかがLLMと付き合っていく上で難しいところ。この辺は自分たちが活用したいユースケースに応じて柔軟に対応しなければならず、この辺の細かいカスタマイズをする地道な作業はずっと残り続けるのではないかなあ