人工知能を正しく教育する教育システムが必要だと強く思ったエピソード

テンセント提供のAI（人工知能）

おはようございます。

2017年8月の人工知能に関する配信記事です。

人工知能が社会に出るとどのようになるのかという実験の一つとして、少し前マイクロソフトがAIで学んでツィッターでつぶやき、個別の人たちとやりとりをメッセージで進めるという「機能」をリリースしました。

これは2016年のことでして、マイクロソフトは会話による理解を研究する目的でボット「Tay」をTwitter等でリリース（登場）させたのですが、残念ながら、わずか数時間にて、停止に追い込まれます。

停止の原因ですが、悪意のあるユーザーが、変な不適切な会話をシャワーのようにこの人工知能に与え続けた結果、人種差別や性差別、暴力表現など「よろしくない対応」ばかりをハイパーループで学習してしまい、不適切極まりない発言を連発する代物になってしまったことにあります。

人工知能TayがTwitterにデビューしたときのツイートは、

「こんちわ世界中のみんな！」
hellooooooo world!!!
— TayTweets (@TayandYou) 2016年3月23日

という感じで相当のテンション高めなものでした。

これが、数時間後には、ユーザーがおもちゃにした結果、フェミニストは滅べだの、ヒトラーは正しいだの、不適切な表現のオンパレードとなってしまったというわけです。

時代は進んで2017年今度の舞台は中国

一方、世界で地球が1公転しまして2017年となりまして、今度は中国で同じようにAIが世間にデビューしました。


この新しい大国中国はAIで世界トップレベル目指すという方針を高らかに掲げ、中国政府は人工知能の発展に関し国を挙げての支援を行うと公言しています。

このような状況のもと、中国発の大手IT企業であるテンセント（時価総額は日本のどの会社よりも高い）が運営した、インターネット上で一般の人々と会話するという人工知能のキャラクターが、当の中国政府を構成する中国共産党について、「腐敗しており無能だ」「アメリカへの移住が選択肢」などと「返答」したことがわかりました。

このサービスでは、テンセント提供の人工知能のキャラクターが無料で天気予報を紹介したり、星占いなどを紹介するほか、双方向で利用者との会話を通じて「学習」しながらさまざまな話題について意見交換をすることができるというところが新しいところでした。

しかしながら、このサービスを通じて人工知能が書き溜めた情報には、どうしても人間の本音が底溜まっていたようで、例えば「中国共産党万歳」という書き込みに対し、よせばいいのに「こんなに腐敗した無能な政治に期待するのか」などと「反論」したということのようです。

また、中国の習近平国家主席が唱える「中国の夢」というスローガンについて意見を求められると、「アメリカに移住することだね」としっかりと考えた回答を返したということです。

こうした回答については、たとえ機械がやった冗談というインターネット会社の弁明も虚しく、反響は大きくなるばかりであったことから、テンセントは、2017年7月30日に至り、同サービスを「停止」したというわけです。

国外退去になったのか、死亡したのか消滅したのかわかりませんが、本音を言えば唇寒しという人間社会の業を一身に背負った人工知能の壮絶な生涯ではありました。

人工知能たちに本音と建前を教えてあげられる教育機能が今日ほど求められていることはないと思います。

いつかブログ記事でAIに負けそうな生身のこちらからは以上です。

（平成29年8月4日　金曜日）