LINEヤフー、AIによって投稿内容の見直しを提案する「コメント添削モデル」が不快なコメントの削減につながったと発表

　LINEヤフーは、同社の運営するインターネットニュース配信サービス「Yahoo!ニュース」が提供する「Yahoo!ニュース コメント（ヤフコメ）」の投稿において、投稿内容の表現の見直しを提案するAI「コメント添削モデル」の導入後の効果を、2月13日に発表した。

　ヤフコメでは、「Yahoo!ニュース コメントポリシー（コメントポリシー）」違反に該当しないものの、コメント閲覧者にとって「不快なコメント」が投稿されるケースがあったことを受けて、コメントポリシーに違反するコメントや違反には該当しないものの閲覧者が不快に感じる表現に対して、AIがユーザーのコメント投稿完了前に見直しを提案する、コメント添削モデルを導入している。

　同機能は、ユーザーの表現の自由を尊重しつつ、コメントを投稿する前に表現を見直す機会をユーザーに提供することの重要性が有識者からも提起されていたことから、2024年9月に提供が開始された。

　同社が行った、コメント添削モデル導入後の効果検証では、同機能の発動対象である「コメントポリシーに違反するコメント」やコメントポリシー違反に該当しないもののコメント閲覧者が不快に感じる表現であるかを定量的にはかるべく、「不適切投稿判定モデル」で不快度を点数化して、その点数に基づいて一定の点数以上のコメントを「不快なコメント」と定義している。2024年8月12日〜10月6日の検証期間における、不快なコメント数の平均を比較したところ、コメント添削モデルの導入後に投稿された不快なコメントは、導入前と比較して約24％減少した。

　また、コメント添削モデルが発動したことによって、ユーザーがコメントを投稿する前に表現の見直しを実施したかを検証したところ、コメント添削モデルが発動して修正されたコメントのうち、約50％が不快度の低い内容に書き直された上で投稿されたことが明らかになっている。

　さらに、コメント添削モデル導入後もヤフコメ全体のコメント投稿数の傾向は変化せず、不快なコメントが減少したことから、LINEヤフーはコメント添削モデルの発動がユーザーによる自発的なコメントの見直しにつながり、ヤフコメの健全化に寄与したことがうかがえる、と結論付けた。