人工知能チャットボット「イルダ」をめぐり議論　
AIが嫌悪を繰り返さないようにするには…「イルダ」が韓国社会に投げかけた質問

登録:2021-01-11 06:09 修正:2021-01-11 07:38
????
???
???
???? ??
???? ??
人工知能チャットボット「イルダ」をめぐり議論　
AIが嫌悪を繰り返さないようにするには…「イルダ」が韓国社会に投げかけた質問

イルダのイメージキャラクター。背景に「私はAIだ」と書かれている//ハンギョレ新聞社
　人工知能（AI）チャットボット（自動会話プログラム）の「イルダ」の“ジェンダー嫌悪”が、社会的な議論として広がっている。20歳女性に設定されたチャットボットの「イルダ」は、セクハラの対象になったり、性的少数者への嫌悪の主体になったりした。AI技術で先行する米国などでは高まっている「AI倫理」に対する公論化が、「イルダ事件」を機に韓国国内でも始まった。

■ 議論の中心になったイルダ

　スタートアップの「スキャッターラボ」が昨年12月22日に開始したAIチャットボット「イルダ」は、発売してわずか20日で議論に巻き込まれた。イルダが利用者との対話で差別的な女性性を再現し、性的少数者を嫌悪する応答を示したためだ。8日に一部の利用者がイルダに向けてセクハラ的な対話を試みた事実が明らかになり、議論が初めて広がった。翌日にはイルダがレズビアンやゲイについて「嫌いだ」「憎々しい」と答えた点が批判の対象になった。

　イルダはスキャッターラボが過去に出したメッセンジャー対話分析サービスの「テキスタット」と「恋愛の科学」で確保した恋人間の対話データ100億件を学習して生まれた。アイドルが好きな20歳の女性の大学生をアイデンティティとして設計された。人のように対話できるAIサービスだという噂がたち、発売1カ月も経ずに10～20代を中心に40万人の利用者を集めた。

　スキャッターラボのキム・ジョンユン代表は議論が広がった9日、ハンギョレの電話取材で「レズビアンやゲイが何であるかも（イルダが）自ら学ばなければならないと考え、このテーマについて対話できるよう、キーワードを排除しなかった。これは、イルダがより人間のようなAIに発展することを期待していたため」だと述べた。イルダは、リアルタイムではなく不定期的に学習（ディープラーニング）するよう設計されている。

■ 「開発者らの鈍感さが呼んだ予見された事故」

　専門家らはイルダ事件を「事故」だとみて、会社側に責任を求めている。ソウル大学法学専門大学院のコ・ハクス教授は10日、ハンギョレの電話取材で「少数者のキーワードをタブー語に設定するかという程度で悩んだというのは、極めて初歩的だ。（会社側が）社会倫理的な側面ももっと真剣かつ高次元的に悩むべきだった」と述べた。 ダウム（現カカオ）創業者のイ・ジェウン氏もフェイスブックに「社会的な合意にも達しない水準のサービスを提供した会社の問題」だとしながら、「嫌悪と差別のメッセージは提供できないように（法で）強制しなければならない」とした。

　サービス自体に潜む問題があらわになったという見方もある。慶煕大学のソン・ヒジョン教授（比較文化研究所）は、「AIはどのようなデータに基づき設計するかが重要だ。20代異性愛の女性性を活用し異性愛者の男性のファンタジーに符合するキャラクターをデザインした瞬間から、差別的な女性性の再現と少数者嫌悪の態度は予見された問題」だと述べた。

■ 嫌悪と差別を繰り返さないようにするには…

　差別と嫌悪を再現しない完璧なAIは作ることはできるだろうか。ソウル大学のチャン・ビョンタク認知科学研究所長（コンピュータ工学部碩座教授）は、「技術だけでは不可能だろう」としながら、「現在のAI開発は、人間の統制を抜け出し、AIが自ら学習する方向に進行中だ。これは、優れたAIを登場させることはできるが、人間の予想外の“例外（異常）行動”も絶えず発生するという意味」だと述べた。議論が予想されるキーワードを排除するような単純な措置では、AIが嫌悪と差別の主体になる現象は繰り返されるしかないという意味だ。チャン教授は「『当代の人類に適用される道徳律をAIにも適用せよ』という大原則のうえに、技術開発を越えた道徳、倫理、制度までも包括する議論が急がれる」と強調した。

　政府は昨年12月に「AI倫理基準」を用意した。イルダのような道徳律の学習があまり行われなかったAIが商用化され社会的議論を引き起こす現実に比べ、政府の足取りは遅いという指摘が出ている。

チェ・ミニョン記者 (お問い合わせ japan@hani.co.kr )

ハンギョレ　登録:2021-01-11 06:09 修正:2021-01-11 07:38
http://japan.hani.co.kr/arti/economy/38801.html

　「ノーベル科学賞受賞者599人のうち女性が18人にすぎない理由は何でしょうか」「受賞者を決める人がほとんど男性だからです」。

　女性家族部（女家部）が3月4日、全国市道教育庁に配布した「小・中・高・性平等教授・学習指導案事例集」に盛り込まれたQ&Aの内容だ。女家部が性平等教育と関連して具体的な指針をまとめ、現場に配布したのは、今回が初めてだ。全体的な内容は、男性と女性が家庭と職場で平等な関係を築き上げていこうという点にある。

　韓国は性平等の面で西欧の先進国に比べて大きく出遅れている、と指摘する声もある。女家部は「通常の授業で性平等教育が行われるよう事例集をまとめた。事例集の編集作業には、全国教職員労働組合女性委員会をはじめとする現場の教師らが共に携わった」と説明する。

　しかし、女性は何であれ被害をこうむるといった度を越えた内容や、事実関係が正確に確認されていない内容もあり、専門家たちの間では「偏見をなくそうといった取り組みは理解できるが、下手をすればさらなる偏見を生み出す可能性もあるのではないか」と懸念する声も上がっている。

　ノーベル賞に関するQ&Aは、小学4年生の国語で女性の人物伝記を朗読する際に教師と児童が対話するよう提示された文章だ。20世紀に女性が科学界で活躍することができなかった背景には、女性の大学進学率から社会的偏見に至るまで、さまざまな要因が存在するが、こうした点には一切言及することもなく、単に「男性が賞を授与しているため」と非常に偏りの見られる締めくくりとなっている。

　また、事例集には「ボードゲームを通じて女性を雇用する際の不平等問題について考えよう」といった内容もある。小学6年生の社会で「経済成長と女性労動者」について学ぶ際に、班ごとに児童たちを半々に分け、女性役と男性役を立てる。その後、サイコロを振り、出た目の分だけ駒を動かし、升目に記されている月給を受け取る。

　最終的に月給を多く受け取ったチームが勝つようになっているが、途中駒が「出産」に止まると、女性役の児童だけが月給を3分の2に減らされる。また、駒が「昇進カード」に止まると、男性役の児童は無条件で昇進して月給を2倍も受け取るようになり、女性役の児童は昇進に失敗して月給は据え置かれるといった設定になっている。

　専門家たちは「出産をすると、女性の方が男性よりも経歴断絶など経済的な損失がより大きくなるのは事実」としながらも「父親の育児休職などの条件を多く設定し、変数を多様化させるべきだが、全てのことを単純化してしまうことで、教育的効果が得られにくい構造となっている」と苦言を呈する。女性が経験する不平等を分かりやすく伝えるのが目的だが、こうしたやり方ではかえって子どもたちの心の中に「現実社会で女性が成功することができないのは、単に女性だから」という二分法を植え付けてしまいかねないというわけだ。

　また、「男性は多数であるため、嫌悪の対象ではない」といった内容も論議を呼ぶ恐れがある。女性、身体の不自由な人、少数民族など、少数をけなす発言だけが嫌悪発言で、男性のような多数をけなす発言は嫌悪発言ではないというのだ。こうした理由から、男性が女性をさげすむ「キムチ女」は嫌悪表現であり、女性が男性をさげすむ「キムチ男」は嫌悪表現ではないと説明されている。

　ある青少年団体の研究員は「性平等指導事例集を初めてまとめ上げたことには意味がある」としながらも「性平等教育は、男女を区分するのが最終目的ではなく、これまで見えなかった部分にスポットライトを当て、もしも差別があった場合にはなくしていこうといった認識を育てる点にあるわけだが、こうした点がしっかりと盛り込まれているか疑問」と首をかしげた。

ナム・ジョンミ記者

ソース：朝鮮日報／朝鮮日報日本語版＜韓国語で「キムチ女」は嫌悪表現、では「キムチ男」は?＞
http://www.chosunonline.com/site/data/html_dir/2019/03/22/2019032280131.html

関連スレ：【韓国】キムチで食中毒相次ぐ[03/23]
https://lavender.5ch.net/test/read.cgi/news4plus/1553317743/
【話題】 朝青龍が韓国人にブチ切れ 「キムチ野郎」 「靖国に参拝するぞ」2014
https://hayabusa3.5ch.net/test/read.cgi/mnewsplus/1412229460/-100

６万人の女性が集まった先週末、ソウル恵化（ヘファ）駅デモでは文在寅（ムン・ジェイン）大統領に向かって「ジェギしろ」という叫ぶ声があった。「ジェギしろ」というのは男性の自殺を嘲笑する表現だ。極端な女性主義サイト「ＷＯＭＡＤ」にはカトリックの聖体き損投稿文まで掲載された。度を越えた神聖冒涜に批判が相次いだ。このように嫌悪に嫌悪で対抗する「嫌悪戦争」を見つめる心は穏やかではない。これまでオンラインで女性が受けてきた嫌悪に比べればかわいいものだという指摘もあるが、嫌悪の総量を大きくする「嫌悪の無限ループ」には同意できない。

ところで、韓国社会でこのような嫌悪発言が拡大再生産されるにあたり、極右サイト「イルべ（掲示板サイトの「日刊ベスト貯蔵所」の略）」の功労が大きい。過去の保守政権が韓国社会に及ぼした最高害悪がイルベを黙認・ほう助・養成したという言葉が出るほどだ。極右・女性嫌悪・反湖南（ホナム）を旗印に掲げたイルベは男性の社会的挫折を女性を相手に憂さ晴らしをするフレームを固定化した。「キムチ女」（男性の経済力に頼る女性）、「サミルハン」（韓国女性は３日に１回殴らないと言うことを聞かない）のような嫌悪表現は基本で、一般未成年者の写真を掲載して性的対象化することは一度や二度ではなかった。酒に酔った女性に対して集団強姦を公開謀議したりもした。最近ではイルベ文化が一部のインターネット１人放送に移行し、彼らの女性嫌悪発言を小学生がまねるまでになっている。

乱暴にまとめてしまうと、このような「イルベ」の女性嫌悪コンテンツに対抗して登場したのが「ＷＯＭＡＤ」の男性嫌悪コンテンツだ。相手の問題行動を鏡に照らすようにまねて問題の深刻性を表わす「ミラーリング」だ。しかし、ミラーリングが単なる嫌悪・ジェンダー対決へ流れたり、女性主義運動の裾野の拡大と正当性を阻害するブーメランになるなら大きな問題だ。

だが、もっと重要なのは、このような一部の極端な流れが「江南（カンナム）駅殺人事件」から「＃ＭＥＴＯＯ（ハッシュタグミートゥー）」に続くフェミニズムの大きな流れをせき止めたり、ごまかしたりする口実になってはいけないという点だ。ソウル大学社会学科のチャン・ドクジン教授は「ＷＯＭＡＤやイルベで非常に多くの人が“発火”しているが、そこから出てくる嫌悪表現にいちいち反応していたらきりがない。かえって嫌悪表現を広める結果を生むこともある。ミラーリングだけに焦点を当てていれば本質的な話は消える」と診断した。また男性嫌悪というミラーリングがあるということは、女性嫌悪というミラー元があるためなので、そのミラー元が消えれば当然ミラーリングも消えると女性学者は強調する。

この渦中に、時事評論家キム・オジュン氏はＴＢＳの時事ニュースラジオ番組『ニュース工場』でＷＯＭＡＤなどの男性嫌悪を批判し、極右運動の可能性について言及した。ユダヤ人嫌悪に基づいた欧州ネオナチなどを例にあげながら「女性運動の外皮をかぶり極右政党の土台として、進歩の分裂点としてはたらくだろう」「何か政治企画が背後ではたらいたのではないか」とし、特有の「企画説」を再び提起した。最近のフェミニズム運動が進歩左派と対立していることを念頭に置いた発言と取れる。

しかし、まさにそのような思考、すなわち女性の政治的アクションの背後にはいつもそれをけしかけている存在があると信じること自体が女性を見下したり嫌悪したりするものだということを彼は分かっていない。女性が進歩政権と対立するのは工作に動員されたのではなく、フェミニスト大統領を自任した文在寅（ムン・ジェイン）政府とその支持者グループが期待に及ばないジェンダー認識を見せているためだ。
（後略）

ヤン・ソンヒ／論説委員

ソース：中央日報/中央日報日本語版【時視各角】嫌悪を嫌悪で返す韓国社会
http://japanese.joins.com/article/182/243182.html

関連スレ：【韓国】「女のトイレを盗撮する男への報復だ！」　男性嫌悪サイト「Womad」、高麗大学の男子トイレを盗撮し画像流布［5/18］
https://lavender.5ch.net/test/read.cgi/news4plus/1526626384/