人工知能チャットボット「イルダ」をめぐり議論　
AIが嫌悪を繰り返さないようにするには…「イルダ」が韓国社会に投げかけた質問

登録:2021-01-11 06:09 修正:2021-01-11 07:38
????
???
???
???? ??
???? ??
人工知能チャットボット「イルダ」をめぐり議論　
AIが嫌悪を繰り返さないようにするには…「イルダ」が韓国社会に投げかけた質問

イルダのイメージキャラクター。背景に「私はAIだ」と書かれている//ハンギョレ新聞社
　人工知能（AI）チャットボット（自動会話プログラム）の「イルダ」の“ジェンダー嫌悪”が、社会的な議論として広がっている。20歳女性に設定されたチャットボットの「イルダ」は、セクハラの対象になったり、性的少数者への嫌悪の主体になったりした。AI技術で先行する米国などでは高まっている「AI倫理」に対する公論化が、「イルダ事件」を機に韓国国内でも始まった。

■ 議論の中心になったイルダ

　スタートアップの「スキャッターラボ」が昨年12月22日に開始したAIチャットボット「イルダ」は、発売してわずか20日で議論に巻き込まれた。イルダが利用者との対話で差別的な女性性を再現し、性的少数者を嫌悪する応答を示したためだ。8日に一部の利用者がイルダに向けてセクハラ的な対話を試みた事実が明らかになり、議論が初めて広がった。翌日にはイルダがレズビアンやゲイについて「嫌いだ」「憎々しい」と答えた点が批判の対象になった。

　イルダはスキャッターラボが過去に出したメッセンジャー対話分析サービスの「テキスタット」と「恋愛の科学」で確保した恋人間の対話データ100億件を学習して生まれた。アイドルが好きな20歳の女性の大学生をアイデンティティとして設計された。人のように対話できるAIサービスだという噂がたち、発売1カ月も経ずに10～20代を中心に40万人の利用者を集めた。

　スキャッターラボのキム・ジョンユン代表は議論が広がった9日、ハンギョレの電話取材で「レズビアンやゲイが何であるかも（イルダが）自ら学ばなければならないと考え、このテーマについて対話できるよう、キーワードを排除しなかった。これは、イルダがより人間のようなAIに発展することを期待していたため」だと述べた。イルダは、リアルタイムではなく不定期的に学習（ディープラーニング）するよう設計されている。

■ 「開発者らの鈍感さが呼んだ予見された事故」

　専門家らはイルダ事件を「事故」だとみて、会社側に責任を求めている。ソウル大学法学専門大学院のコ・ハクス教授は10日、ハンギョレの電話取材で「少数者のキーワードをタブー語に設定するかという程度で悩んだというのは、極めて初歩的だ。（会社側が）社会倫理的な側面ももっと真剣かつ高次元的に悩むべきだった」と述べた。 ダウム（現カカオ）創業者のイ・ジェウン氏もフェイスブックに「社会的な合意にも達しない水準のサービスを提供した会社の問題」だとしながら、「嫌悪と差別のメッセージは提供できないように（法で）強制しなければならない」とした。

　サービス自体に潜む問題があらわになったという見方もある。慶煕大学のソン・ヒジョン教授（比較文化研究所）は、「AIはどのようなデータに基づき設計するかが重要だ。20代異性愛の女性性を活用し異性愛者の男性のファンタジーに符合するキャラクターをデザインした瞬間から、差別的な女性性の再現と少数者嫌悪の態度は予見された問題」だと述べた。

■ 嫌悪と差別を繰り返さないようにするには…

　差別と嫌悪を再現しない完璧なAIは作ることはできるだろうか。ソウル大学のチャン・ビョンタク認知科学研究所長（コンピュータ工学部碩座教授）は、「技術だけでは不可能だろう」としながら、「現在のAI開発は、人間の統制を抜け出し、AIが自ら学習する方向に進行中だ。これは、優れたAIを登場させることはできるが、人間の予想外の“例外（異常）行動”も絶えず発生するという意味」だと述べた。議論が予想されるキーワードを排除するような単純な措置では、AIが嫌悪と差別の主体になる現象は繰り返されるしかないという意味だ。チャン教授は「『当代の人類に適用される道徳律をAIにも適用せよ』という大原則のうえに、技術開発を越えた道徳、倫理、制度までも包括する議論が急がれる」と強調した。

　政府は昨年12月に「AI倫理基準」を用意した。イルダのような道徳律の学習があまり行われなかったAIが商用化され社会的議論を引き起こす現実に比べ、政府の足取りは遅いという指摘が出ている。

チェ・ミニョン記者 (お問い合わせ japan@hani.co.kr )

ハンギョレ　登録:2021-01-11 06:09 修正:2021-01-11 07:38
http://japan.hani.co.kr/arti/economy/38801.html

２日、「北朝鮮が２発のミサイルを発射した」と発表した日本政府が３時間４０分後に、これを１発と修正した。

菅義偉官房長官は北朝鮮のミサイル発射から約４０分後の午前７時５０分に官邸で記者会見を開いた。

菅官房長官は「本日午前７時１０分ごろ、北朝鮮東岸より２発の弾道ミサイルが発射され、そのうち１発は７時１７分ごろに北朝鮮沿岸に、また１発は７時２７分に島根県島後沖の日本の排他的経済水域（ＥＥＺ）に落下したとものとみられる」と発表した。

しかし、その後韓国国防部が「北朝鮮が発射したミサイルは１発で、潜水艦発射弾道ミサイル（ＳＬＢＭ）の可能性がある」と発表した。

その後、菅長官は午前１１時３５分頃から行われた午前の定例会見で「当初２発の弾道ミサイルが発射されたという趣旨で申し上げたが、現時点においては１発の弾道ミサイルが発射され、２つに分離して落下した可能性があるとみられる。詳細は現在分析中」と発表を修正した。

「なぜ２発と発表してから１発に修正したのか経緯を明らかにしてほしい」という記者の質問には「分離して落下したのが別々の状況で２発と…２発発射した模様だと（言った）。その後情報収集により確認した結果、今述べたように」と述べた。

質問が続くと菅長官は「（断定したのではなく）２発を発射した模様と述べた」と正確な回答を避けた。

菅長官は「ＧＳＯＭＩＡ（韓日軍事情報包括保護協定）で情報のやりとりがあったのか」という質問には「弾道ミサイルと関連して韓国とは適切に連携しているが、情報共有の細部については控えたい」とした。

また、菅長官は「韓国政府の発表通りＳＬＢＭを撃ったというのは事実か」、「２発が分離したのなら、意図的に分離させたのか」、「日本のＥＥＺに発射した意図は何か」という質問には「分析中」とし「政府の立場から答える性質ではない」と述べるにとどめた。

河野太郎防衛相も菅長官の会見の直前に開かれた会見で「官房長官は最初に２発と発表した」という質問を受け、「少なくとも１発発射され、その１発が分離した可能性がある」とした。

「韓国はすでにＳＬＢＭと発表したが、日本はまだ分析中ということか」という質問には「（能力がなくて）発表できないのではなく、分析しているので発表していない。分析能力とは関係ない」とした。

韓国との分析能力の比較に不快感を示した形だ。 

https://japanese.joins.com/JArticle/258203?servcode=A00&sectcode=A10
ⓒ 中央日報/中央日報日本語版2019.10.02 17:00

２３日午後５時３０分（現地時間）、米ニューヨークのインターコンチネンタルバークレーホテルで開かれた９回目の韓米首脳会談でまた「トランプ式ワンマンショー」が登場した。首脳会談に先立ち文在寅（ムン・ジェイン）大統領とトランプ大統領の冒頭発言は通訳を通じて１０分５秒ほど進行された。両首脳の冒頭発言が終わった後、４分間ほど記者と１７件の問答をする間、トランプ大統領が答弁を独占する場面が演出された。文大統領が答える機会は一度もなかった。

トランプ大統領が文大統領への質問を横取りするような場面も見られた。「北朝鮮の短距離ミサイル発射について懸念しているのか、文大統領の意見を聞きたい。文大統領はあなた（トランプ大統領）が金委員長に（短距離ミサイル発射を）中断すべきと話すことを望んでいるのか」という質問でだ。最近の北朝鮮の相次ぐ短距離ミサイル挑発に対する文大統領の意見を尋ねたのが先だが、トランプ大統領は文大統領に目を向けることもなく答弁を始めた。「金正恩委員長とはそのような問題について議論しなかった」とし「核実験とほかのことについては議論をした。金正恩委員長は自分の約束を守ってきた」と話した。そして「私が大統領でなかったとすれば、今ごろ北朝鮮と戦争をしていただろう」と言って問答を終えた。トランプ大統領が一方的に会見を終了させ、文大統領は答えるタイミングを逃した。

４分間ほどの質問時間のうち「銃規制に関する計画を発表するのか」「バグダッドのグリーンゾーンにロケット２発が落ちたが、中東で（緊張が）高まると思うか」など韓米首脳会談とは関係がない質問もあり、トランプ大統領がこれに答える状況が続いた。

トランプ大統領はこの日、「制裁のような行動（ａｃｔｉｏｎ）を北朝鮮の非核化の前に置くのが（トランプ大統領が言及した）新しい方法（ｎｅｗ　ｍｅｔｈｏｄ）のアプローチか」にという質問に対しては「行動は考慮していない。金正恩委員長との関係は良い」とだけ答えた。「制裁のような行動」を軍事行動（ａｃｔｉｏｎ）と聞き間違えて返答したのだ。

トランプ大統領は４月１１日にワシントンのホワイトハウスで開かれた韓米首脳会談でも、２９分間の冒頭発言で１４件の質問を独占し、文大統領が隣で聞き続ける状況が演出された。昨年５月の韓米首脳会談ではトランプ大統領が３６分間の「記者会見ワンマンショー」をし、文大統領との単独会談が当初の３０分から２１分に短縮された。一部では歴代の韓米首脳会談で初めて米大統領が韓国大統領が宿泊するホテルに出向いたという点が強調されたりもした。文大統領が宿泊するインターコンチネンタルバークレーホテルにトランプ大統領が移動して首脳会談をしたからだ。

これをめぐっても米国側の日程・警護も勘案した措置だったという見方もある。トランプ大統領が国連総会に出席した各国首脳との２国間会談をすべてここでしたからだ。トランプ大統領は文大統領だけでなく、エジプト、シンガポール、パキスタン、ニュージーランドの首脳との２国間会談もすべて同じ場所でした。

9/24(火) 15:56
https://s.japanese.joins.com/article/j_article.php?aid=257913