TwitterのTL見てたら面白そうな記事がありました。
コチラの内容をザックリ解説すると、以下のようなお話。
- 中国で「Zero Trust」という腐敗防止AIシステムが導入され始めた
- 中には官僚たちによってシステムが廃止に追い込まれたという話もある
- 導入範囲は中国全体の行政区域からすれば1％だが、既に数千人もの政府職員がこのAIシステムで捕まった
少し近未来な香りも漂いますが、SNSやMMORPG、アニメ「PSYCHO-PASS」などの実例として興味深い内容だと思ったので、少し考えてみます。
AIが判断するルールは人をどう裁くのか
国内海外問わず既にAIは、私たち人間社会の中に組み込まれ始めています。
とは言えアニメ「PSYCHO-PASS」やタイトルに載せた「Zero Trust」のように、人生を左右するような所にまで影響を与えるAIは稀。
例えば交通整理での信号を操作して、交通量を一定に保つことをサポートするAIや、転職などの際に人間性（性格診断レベル）を測り、対象となる人間が自社に馴染みやすいかどうかを判断するといった、ビッグデータを活用したケースが多くなっています。
この件でググってみたら数年前に更新された記事ですが、各方面の内容についてまとまった記事をみつけたので興味ある方は見てみてください。
【AI導入事例9選】もう遠い技術じゃない？ビジネスの現場を変え始めたAI
今回記事に載せた「Zero Trust」は2012年から導入スタートしているとの事ですが、まだ中国政界の1％程度にしか、その導入は進んでいないとの事。
まぁ中国の、それも政府の話とあって、どこまで信憑性のある事なのか分かりませんが、関係者の方が話すAIの選定ルールとしては、当人のカネの流れや生活スタイル、財産変化によってこれをあぶりだすシステムのようです。
政府職員の行動を分析して洗い出すことで、さまざまな階層における官僚の社会的関係が浮かび上がるとのこと。
財産の不審な移転やインフラ建設における怪しい動き、用地の取得、住宅の解体といった腐敗を発見する上で、Zero Trustは非常に有用であると研究者は述べています。
「官僚の腐敗を検出するAIシステム」を中国で導入した結果とは？ – GIGAZINE
TwitterやYouTubeなどで排除される続けるアカウント
昨年末から今年始めにかけて、TwitterやYouTubeなどではアカウントの凍結や垢BAN（アカウントが運営によりはく奪される事）のニュースが飛び交いました。
なかでも注目を集めたのは、200万を超えるチャンネル登録者数を誇っていたラファエルさんのYouTubeチャンネルが凍結されたニュースは、今後さらに流行っていくだろうYouTuber人気に冷や水を浴びせた一件となり、若い人たちにもセンセーショナルだったのではないでしょうか。
自分はラファエルさんを詳しく知らないので、ニュースなどから得た情報のみでお話ししますが、ラファエルさんのYouTube動画は「危険を見せることで動画の面白さを追求している」事がウリだった様子。
もちろん危険な動画以外の一般的な動画も沢山出してはいましたが、YouTubeのガイドラインには何度か抵触し、過去にも注意を受けていたとの談話もあり、今回の垢BANはYouTube側としては最終的な対応だったものと思われます。
またTwitterでもツイート文章内に「死」という漢字を入れただけで凍結したという話が飛び交いました。
実際のところは分かりませんが、明らかに「死」という漢字を他の方法で対応（例えば昔から氏という漢字で代用したり、半角カタカナの「ﾀﾋ」を使って「死」という漢字を彷彿させたり）するケースを何度か見たことがありました。
実際自分も自身のツイートで「死」という漢字を過去に何回か使ったことがありますが、今のところ問題なし。
いずれにしても地雷となるような事は避けて、発信するように心がけています。
AIの対象やガイドライン抵触を未然に防ぐにはどうすれば良いか
ますますのAI化が図られるだろう今日。
これからの社会において、発信する際に気を付けなければいけない事が多々あるでしょう。
アニメ「PSYCHO-PASS」のような、AIに未来予測まで判断されてはたまったものではないですが、クリーンなWeb生活を送るうえで利用するSNSやサービスのガイドラインには気を付けていた方が無難です。
まずガイドライン（団体などが指導方針として示す指針）ですが、全体を通じて特定の相手をけなすような事が問題になるようです。
アメリカ発信で世界中にその輪を広げた「#metoo」や、人種、出身国、民族、宗教、性的指向、性別などに対して攻撃をするヘイトスピートなどがその主な対象なようで、Twitter側としてもこれらのツイートに対して注目している事がわかります。
【参考】
■Twitterのガイドライン（Twitterルールとポリシー）
https://help.twitter.com/ja/rules-and-policies#twitter-rules
つまりは危険な事をせず、それで注目を集める事はせず、かつ特定の相手を攻撃しないとい事が重要な要素なようです。
しかしながらガイドラインはともかくも、AIに対する防御策というのがどの程度あるのかは分かりません。
現在のAIというのは、我々日本人としては馴染の深い「ドラえもん」のような、勝手に考えて行動する人工知能の領域にはまだないという事が専門家からの意見かしても分かっています。
とはいえ、日進月歩のITテクノロジー進化は日々刻々と進み、シンギュラリティが今か今かと近づいているのも確か。
大いなる社会でAIを悪用すれば、専制君主製の帝政国家のような独裁社会も生み出される危険性もあるでしょう。
そんな事態を取り締まるためにも、AI自体のリテラシーやモラルが求められるようになるかもしれません。
コメントを残す