韓国人の会話100億件から収集したデータのAIボットがヘイト・偏見・性的過ぎてサービス停止

韓国の人気チャットボット、憎悪表現でサービス停止

韓国で人気を集めていた20歳の女子大生という設定のチャットボット（自動対話プログラム）が、
性的少数派やセクハラ告発運動、障碍者への偏見をあらわにするヘイトスピーチ（憎悪表現）を行ったとして、
そのサービスが今週停止された。
　人工知能（AI）を用いたこのチャットボット「イ・ルダ（Lee Luda）」は、首都ソウルのスタートアップ企業
スキャッター・ラブ（Scatter Lab）が開発したもので、米フェイスブック（Facebook）の通信アプリ「メッセンジャー（Messenger）」
上で利用されていた。
　先月末に登場し、自由で自然な反応が話題になったルダは、75万人以上の利用者を獲得した。
　ルダのAIアルゴリズムは、韓国で最も人気のある通信アプリ「カカオトーク（Kakao Talk）」の利用者の会話100億件から
収集されたデータを基にしていた。
　スクリーンショットに収められたある会話でルダは、ゲイやレズビアンは「大嫌い」だと発言。トランスジェンダーについて聞かれると、
「おかしくなりそう。同じ質問は二度としないで。嫌いだって言ったでしょう」と返答した。
　別の会話では、セクハラ告発運動「#MeToo（私も）」の主導者らについて「とにかく無知」であり、
「私は本当に軽蔑している」と話していた。また、障碍者として生きるくらいなら「死んだ方がまし」とも発言していた。
　開発会社は声明を出し、これらの発言は「自社の価値観を反映するものではない」として謝罪。
サービス提供に先立つ半年間の試験運用中にこの種の発言を防ごうと努めたものの、排除に至らなかったと認めた。
　12日のサービス停止を前に同社は「イ・ルダは会話を学び始めた子どものようなAI。多くのことを学ぶまでには長い時間がかかる」と説明。
　その上で「ルダには、チャットから無条件に学ぶのではなく、どういった返答が適切でより良いか判断できるよう教えていく」と
約束した。ただ、サービス再開のめどは示していない。

https://www.afpbb.com/articles/-/3326565?cx_part=top_latest