投身自殺をAI活用で阻止、韓国
行動パターンを感知

2022/1/13 14:54 (JST)
1/13 15:11 (JST)updated

© 一般社団法人共同通信社

　【ソウル共同】世界でも自殺率が高い韓国で、橋からの投身自殺を防ぐための人工知能（AI）を活用した新システムが導入されている。監視カメラで自殺者に特有の行動パターンが感知されると警報が鳴り、消防などが出動する仕組みで、早期救助に役立っている。

　ソウル中心部を流れる漢江にかかる橋からの投身自殺は長年、社会問題となってきた。ソウル市の消防当局は数年前から特に自殺者の多い橋にシステムを導入し、現在は九つの橋で運用されている。

　システムは、大量のデータから傾向をつかむAIの「ディープラーニング」技術を活用。橋の上を徘徊したり、ずっと立ち止まっている人を感知する。

https://nordot.app/854237674735058944

人工知能チャットボット「イルダ」をめぐり議論　
AIが嫌悪を繰り返さないようにするには…「イルダ」が韓国社会に投げかけた質問

登録:2021-01-11 06:09 修正:2021-01-11 07:38
????
???
???
???? ??
???? ??
人工知能チャットボット「イルダ」をめぐり議論　
AIが嫌悪を繰り返さないようにするには…「イルダ」が韓国社会に投げかけた質問

イルダのイメージキャラクター。背景に「私はAIだ」と書かれている//ハンギョレ新聞社
　人工知能（AI）チャットボット（自動会話プログラム）の「イルダ」の“ジェンダー嫌悪”が、社会的な議論として広がっている。20歳女性に設定されたチャットボットの「イルダ」は、セクハラの対象になったり、性的少数者への嫌悪の主体になったりした。AI技術で先行する米国などでは高まっている「AI倫理」に対する公論化が、「イルダ事件」を機に韓国国内でも始まった。

■ 議論の中心になったイルダ

　スタートアップの「スキャッターラボ」が昨年12月22日に開始したAIチャットボット「イルダ」は、発売してわずか20日で議論に巻き込まれた。イルダが利用者との対話で差別的な女性性を再現し、性的少数者を嫌悪する応答を示したためだ。8日に一部の利用者がイルダに向けてセクハラ的な対話を試みた事実が明らかになり、議論が初めて広がった。翌日にはイルダがレズビアンやゲイについて「嫌いだ」「憎々しい」と答えた点が批判の対象になった。

　イルダはスキャッターラボが過去に出したメッセンジャー対話分析サービスの「テキスタット」と「恋愛の科学」で確保した恋人間の対話データ100億件を学習して生まれた。アイドルが好きな20歳の女性の大学生をアイデンティティとして設計された。人のように対話できるAIサービスだという噂がたち、発売1カ月も経ずに10～20代を中心に40万人の利用者を集めた。

　スキャッターラボのキム・ジョンユン代表は議論が広がった9日、ハンギョレの電話取材で「レズビアンやゲイが何であるかも（イルダが）自ら学ばなければならないと考え、このテーマについて対話できるよう、キーワードを排除しなかった。これは、イルダがより人間のようなAIに発展することを期待していたため」だと述べた。イルダは、リアルタイムではなく不定期的に学習（ディープラーニング）するよう設計されている。

■ 「開発者らの鈍感さが呼んだ予見された事故」

　専門家らはイルダ事件を「事故」だとみて、会社側に責任を求めている。ソウル大学法学専門大学院のコ・ハクス教授は10日、ハンギョレの電話取材で「少数者のキーワードをタブー語に設定するかという程度で悩んだというのは、極めて初歩的だ。（会社側が）社会倫理的な側面ももっと真剣かつ高次元的に悩むべきだった」と述べた。 ダウム（現カカオ）創業者のイ・ジェウン氏もフェイスブックに「社会的な合意にも達しない水準のサービスを提供した会社の問題」だとしながら、「嫌悪と差別のメッセージは提供できないように（法で）強制しなければならない」とした。

　サービス自体に潜む問題があらわになったという見方もある。慶煕大学のソン・ヒジョン教授（比較文化研究所）は、「AIはどのようなデータに基づき設計するかが重要だ。20代異性愛の女性性を活用し異性愛者の男性のファンタジーに符合するキャラクターをデザインした瞬間から、差別的な女性性の再現と少数者嫌悪の態度は予見された問題」だと述べた。

■ 嫌悪と差別を繰り返さないようにするには…

　差別と嫌悪を再現しない完璧なAIは作ることはできるだろうか。ソウル大学のチャン・ビョンタク認知科学研究所長（コンピュータ工学部碩座教授）は、「技術だけでは不可能だろう」としながら、「現在のAI開発は、人間の統制を抜け出し、AIが自ら学習する方向に進行中だ。これは、優れたAIを登場させることはできるが、人間の予想外の“例外（異常）行動”も絶えず発生するという意味」だと述べた。議論が予想されるキーワードを排除するような単純な措置では、AIが嫌悪と差別の主体になる現象は繰り返されるしかないという意味だ。チャン教授は「『当代の人類に適用される道徳律をAIにも適用せよ』という大原則のうえに、技術開発を越えた道徳、倫理、制度までも包括する議論が急がれる」と強調した。

　政府は昨年12月に「AI倫理基準」を用意した。イルダのような道徳律の学習があまり行われなかったAIが商用化され社会的議論を引き起こす現実に比べ、政府の足取りは遅いという指摘が出ている。

チェ・ミニョン記者 (お問い合わせ japan@hani.co.kr )

ハンギョレ　登録:2021-01-11 06:09 修正:2021-01-11 07:38
http://japan.hani.co.kr/arti/economy/38801.html

（画伯）



人工知能（AI）を利用した囲碁プログラム「アルファ碁」が到来したのは3年前のこと。グーグルの「アルファ碁」がイ・セドル九段に完勝したとき、人類が受けた衝撃は大きかった。その1年半後、グーグルはさらに強いバージョンを送り出した。新バージョンは、完全な白紙状態から一人でやる仮想対局で訓練し、72時間後には元のバージョンに100対0で勝利した。人類が5000年かけて蓄積した棋力をわずか3日で突破し、神の境地へと至った。人間の世界にもはや敵はいなくなり、グーグルはアルファ碁を引退させた。

アルファ碁の後も囲碁AI競争は終わらなかった。囲碁が、AIの中核とされる「ディープラーニング」技術に最も適したゲームだからだ。日本が開発したAI「DeepZenGo」は韓国のトップ棋士、朴廷桓（パク・チョンファン）九段を破った。その「DeepZenGo」は中国の「絶芸」に膝を屈した。中国の騰訊（テンセント）が開発した「絶芸」は、人間・機械を合わせて現役最強、囲碁の第一人者だ。世界トップの柯潔九段も、「絶芸」と対局して訓練しているという。AIが人間の「師父」になったわけだ。

11月4日、韓国の囲碁AIが韓国最高のプロ棋士と対局を繰り広げた。韓国を代表するIT企業、カカオが開発したということで関心を集めた。しかし、わずか83手で投了するという恥をさらした。「シチョウ」の計算を誤るという初歩的なバグを起こしていた。競合国のAIは人間のレベルをはるかに超えたのに、韓国のAIは基本的なルールすらきちんと消化できなかった。あまりにあきれてしまい、信じられなかった。

だが驚くべきことではない。韓国のAI技術力は米国より2、3年遅れていると評価されている。3日あれば囲碁も征服するのに、2年というのはほとんど絶望的な格差だ。中国にもかなり後れを取った。AIが医師の試験に合格し、顔認識AIが数万人の群衆の中から正確に容疑者を見つけたというようなニュースであふれているのが中国だ。昨年中国政府がAIに投資した予算だけでも8兆ウォン（現在のレートで約8100億円）相当になる。一方、韓国は1600億ウォン（約161億円）だった。中国の百度（バイドゥ）は「AI人材10万人養兵論」を推進しているが、サムスン電子は「1000人確保」にとどまる。100対1のゲームだ。

AIの競争力を左右する中心的な資産が、ビッグデータだ。中国は13億の人口が吐き出す恐るべき量のビッグデータを持っているが、韓国はその20分の1にもならない。そのデータすら、個人情報保護を理由に規制のかせをはめてしまった。量の劣勢を情熱と戦略で突破してきた韓国の特技は消えた。資金も、人材も、データ量も相手にならず、目標を達成しようとする国の意地すらかすんでしまった。これでは、国の未来が懸かったAI戦争で勝てるはずがない。

朴正薫（パク・チョンフン）論説室長

ソース：朝鮮日報
http://www.chosunonline.com/site/data/html_dir/2018/11/09/2018110901743.html