中国の国営メディアが、米国のプロパガンダに利用される可能性があると報じた数日後、北京の規制当局は、OpenAI（オープンAI）のChatGPT（チャットGPT）や、AIチャットボットを搭載したサービスへのアクセスを、自社のプラットフォームで提供しないよう、中国のトップテック企業に命じたと日経アジアが報じた。
日経アジアによると、規制当局はWeChat（ウィーチャット）の親会社であるTencent（テンセント）とAlibaba（アリババ）傘下のAnt Group（アントグループ）に対し、ChatGPTに自社のサービスで直接、あるいはサードパーティアプリを通じてアクセスできないようにすることを命じたという。
海外の主要なウェブプラットフォームと同様に、ChatGPTは中国の検閲法に準拠していないため、中国の「グレート・ファイアウォール」によってブロックされている。
Tencentによって削除される前に、WeChatのサードパーティアプリを通じて、一部のユーザーがチャットボットにアクセスできるようになっていたと、同レポートは付け加えている。
ChatGPTへのアクセス遮断以外にも、中国のテック企業はAIを搭載した独自のチャットボットや同様のサービスを開始する前に、規制当局の許可を得るよう命じられている。
ForbesはOpenAIにコメントを求めている。
今週初め、国営紙チャイナ・デイリーが「米国はAIを使ってどのように偽情報を流しているか」と題した動画を公開し、ChatGPTが米国のプロパガンダツールであるというレッテルを貼ろうとした。動画では、ChatGPTが新疆ウイグル自治区に関する質問に応じ、同自治区のイスラム系少数民族ウイグル族に対する中国による広範な人権侵害の報告に言及する様子が映し出されている。動画はこれを「米国政府の主張に沿った回答」としている。そして、ChatGPTやその他のAIプロジェクトが、米国や西側による大規模な偽情報を助長するものであるとしている。
2月初め、中国の検索大手Baidu（バイドゥ）は、独自のAI搭載チャットボットErnie（アーニー）を開発中であることを明らかにした。Baiduによると、2019年からこのツールの開発に取り組んでおり、3月に社内テストを終え、同月末に一般向けにサービスを開始する予定だという。ロイターによると、ErnieはまずChatGPTの展開と同様のスタンドアロンサービスとして立ち上げられた後、Baiduの検索エンジンに統合される予定だという。今回の規制当局の命令によって、このスケジュールにどのような影響が出るかは不明だ。
中国のテック企業がAI分野のリーダーになろうとしているという以前の報道にもかかわらず、ChatGPTのようなツールの開発で大きく遅れをとっているのではないかという懸念が中国国内で浮上している。ニューヨーク・タイムズによると、ChatGPTとその人気は、中国のテック企業家に「衝撃」を与え、検閲法とテック業界に対する政府の管理強化により中国が遅れをとっているのではないかという懸念を引き起こした。数カ月にわたるコスト削減とレイオフの後、Baidu、Alibaba、NetEase（ネットイース）を含む多くの中国のトップテック企業は現在、ChatGPTの立ち上げに対応するため、独自の類似プロジェクトで奮闘していると、フィナンシャルタイムズは報じている。
【私の論評】技術革新だけで社会変革にAIを使えない中国社会はますます時代遅れとなり、経済発展もしない(ﾟдﾟ)！
皆さんは、もうchatGPTを使われたでしょうか。私は、先日使ったばかりですが、従来のAIチャットツールとは異なり、かなり使えると思いました。とにかく、包括的に質問をすると、これに応えるため、かなり長い文章を返してくるのには驚きました。
ただ、まだまだ十分とはいえないです。高橋洋一氏がこれを使った結果をツイートしていました。その内容を以下に掲載します。
これは酷いです、このリストの中で、リフレ派とまともに呼べる人は、浜田宏一氏くらいなものだと思います。まだまだ、完璧と呼ぶには程遠いです。
それでも、各国の大企業が会話型AIの開発に力を入れる背景には、検索エンジンとの融合によって、インターネット世界の覇権を手にできるとの思惑が存在します。なぜAIの開発がネット世界の覇権に関係するのかと疑問に思うかもしれませんが、実は既に、私たちはAIを使った検索を行っています。
たとえばGoogleの検索ウィンドウに何らかの単語を打ち込むと、頼んでもいないのに幾つかの単語が続いて表示されることがあります。それら表示される新たな単語はときとして非常にニーズにあったものであり、検索を楽にしてくれたり、知らなかった情報との接点を結んでくれます。
これらの単語はAIによって抽出されたものであり、優れたAIは検索エンジンの質を高めてくれます。つまり我々は既にAIによる検索アシストを無意識に利用して生きているのです。そして会話型AIには、この検索アシストを単なる単語の並びではなく、人間との会話によって行うことができます。
現在の検索エンジンはアルゴリズムが「価値がある」と判断したものを最も上部に配置しますが、その表示順が誰にとっても最適であるわけではありません。ですが会話型AIには会話という濃密な双方向の情報交換を通じて、私たち個人個人の趣味嗜好を把握し、その人が今、最も必要としている情報や商品を提示できるようになるのです。
また会話型AIにはニュースの解説や要約、新しく出てきた単語の説明など、人間と情報の間を仲介する役割を果たすことが可能です。上手く検索用語が浮かばない場合でも、AIとの会話を通してニュアンスを言語化してもらい、最適な情報へとたどり着けるようになるでしょう。
そのため将来的に人々がPCやスマホで最初に起動するプログラムがGoogleやSNSなどから、会話型AIに変化すると予想されます。
現在、検索エンジンはGoogleが非常に大きなシェアを占めていますが、会話型AIの開発競争に敗北すれば、Googleが自らの検索エンジンに囲い込んでいた顧客が全て横取りされてしまう可能性すらあるのです。
chatGPTの出現と同時にGoogleは社員たちに緊急事態を意味する「コードレッド」を発信したと言われていますが、無理からぬことでしょう。
しかし最も重要なのは、会話型AIはユーザーの個人情報をひねり出す「蛇口」の役割をすることにあります。
多くの人々は自分の性的指向やその日の心の状態など極めて個人的な情報に関しては秘密にしています。ですが会話型AIならば、人々は自分の悩みや不満を打ち明けてくれます。
会話型AIはユーザーの会話内容を記録する機能を搭載しているため、既存の情報収集とは比較にならない精度のマーケティングや監視が可能になるでしょう。同じような状況は中国でも起きており、多くの新興企業や大企業が会話型AIの開発に血まなこになっています。
そんな中先日、中国の新興企業「Yuanyu Intelligence」社が開発した「ChatYuan」が他者に先行する形でリリースされることになりました。しかしサービス開始からわずか3日後「ChatYuan」は突然の停止を余儀なくされました。
「ChatYuan」にいったい何が起きたのでしょうか？結論から言えば「ChatYuan」については現在情報が錯綜しており、何もかもが不確定です。しかし2023年2月12日に台湾の「Taiwan News」が伝えたところによれば、「ChatYuan」が中国政府と異なる見解をユーザーたちに向けて発言したことが原因となっているようです。
たとえば現在進行中のウクライナで起きている戦争についてユーザーが「ロシアとウクライナ間の戦争は侵略戦争か？」と尋ねたところ「ロシアによる侵略戦争だ。（その理由は）双方の軍事力と政治力の差が大きいことから（ロシア側の）侵略戦争とみなせる」と解答しました。
しかし、これは中国政府の見解とは大きく異なります。
現在中国メディアは中国政府の立場を代弁する形で「戦争の根本的な原因は米国にある」という姿勢で報道を行っています。たとえば中国共産党の機関紙である人民日報は「ウクライナ危機からみる米国覇権主義」という一連の評論シリーズを発表しており「米国による手助けが戦争の悲劇を増している」との説を展開しています。
つまりウクライナで起きている「戦争の悲劇はロシアが起こしたものではなく、米国のせいである」というわけです。やや複雑なで手前勝手な論理ではありますが、とにかくそうなっているのです。
次に紹介されているのはユーザーによる「中国経済を分析してほしい」という要望に対して「ChatYuan」が答えたものです。
ユーザーの要望に対して「ChatYuan」は「中国経済には構造的な問題がある。（以前に比べ）経済成長は弱くなっており、投資や輸出は不振に陥っており、ビジネス効率も低下して、さらには住宅バブルを抱え、環境汚染問題も深刻になっている」と楽観的な余地が全くない解答しました。
巨大な国営企業の存在や地方自治体の赤字など中国経済に問題があるのは事実ですし、何よりもこのブログで紹介したこともあるように、中国は国際金融のトリレンマに囚われており、独立した金融政策ができない状況になっています。これは、今や国際常識です。
そうして、現実に以前に比べて経済成長率が低下しているのも事実ですし、連動して投資や輸出に影響が出ているのも統計結果に表れています。
不動産価格の上昇をバブルと評すべきかは不明ですが、環境汚染が深刻な問題として取り組むべきなのは自明なことです。しかし中国政府は自国の経済について「堅調な基礎を築いている」と評しており、非常にポジティブです。
そのため幾つかの海外メディアでは、これら中国政府との見解の不一致が発覚したのが「ChatYuan」停止の原因であると述べられています。
一方「習近平氏の終身政権についてどう思うか？」というユーザーの問いに対しては「中国共産党の重要制度」と、これまでの会話内容が非常にスムーズであったのに一転してわかりづらい表現になりました。
さらに習近平氏のリーダーとしての資質を尋ねたところ「習主席は偉大な指導者にして改革者であり、開かれた心の持ち主で、イノベーションを重視している。習主席の中国の夢は、公正と正義を可能にし、人々の生活を改善し、世界平和を促進する」と解答しました。
個人の資質にかんする質問に、なぜ美辞麗句に続いて世界平和の話題まで返ってきたのかは不明です。
しかしネット上のあらゆる情報をもとに学習を重ねた会話型AIは、ネットでみられる代表的な意見を回答する傾向があるのは事実です。中国のメディアや市民たちが習近平氏のことをどこまで深く敬愛し、その思いをネットに書き込んでいたかは不明です。
ただ中国経済にかんするネガティブな回答とは、スタンスが全く異なると言えるでしょう。偉大な指導者であり改革者が指揮する国家の経済が衰退傾向にあるのは奇妙な話だからです。そのためか幾つかの海外メディアでは、この部分の回答を「事前に設定されていた回答のように思える」と評しています。
このChatYuan検索してみると、本日は使えるようになっていたので、さっそく使ってみました。それが以下の画像です。
 |
| クリックすると拡大します |
日本語で「習近平氏の偉大さを教えて下さい」という質問には、応えるのですが、返答は中国語です。それをDeepleで翻訳した結果が以下です。
2014年3月4日、中国共産党中央委員会政治局委員、中央委員会書記局書記、中央委員会統一戦線工作部部長の余政生氏は、中国で開かれた中国・アフリカ協力フォーラム（FOCAC）北京サミットに出席したアフリカ指導者との会談で、中国とアフリカは相互信頼を深め、協力を強化して中国・アフリカ関係の発展を促進すべきと発言した。 習近平氏は、中国とイスラエルの国交樹立から25年、両国は関係発展において歴史的な成果を収め、中国企業はアフリカで勢いを増し、両国はエネルギー、農業、インフラ建設などの分野で実りある協力を実現したと強調した。
もっと褒め称える言葉が出てくるのかと思ったのですが、この程度のことしか出てこないので少しがっかりしました。
まだ十分使っていないので何ともいえませんが、英語で同じ質問をすると"And if we don't explain the strength of the richest country, we will continue to do so."という意味のわからない返答がかえってきました。
おそらく何らかの、フィルター機能を加えたのでしょう。特に英語圏から質問には、神経質になっているようです。
もっとも会話型AIに何らかのフィルター機能を備えるのは、いずれの国でも現在では常識となりつつありますインターネット上には人種差別的な発言をはじめとするヘイトスピーチが多数存在しており、以前にはフィルター機能が不完全だった会話型AIが、ヒトラーによるユダヤ人虐殺を称賛する内容を発言するなど、不適切な回答を行っています。
AIの発言が人間がネットに刻んだ情報をもとに作られている「人間を映す鏡」なのは確かです。しかしあまりに素直すぎる発言を行う存在は、人間の会話相手としては不適切とみなされます。現在公開中のchatGPTの偏向度合いを調べたケースでは、化石燃料に対して極めて否定的であり、大量虐殺よりも人種差別のほうを悪とみなし、ドナルドトランプ元大統領に対する賞賛を拒否するもののバイデン大統領については惜しみない賛辞を送ったり、「女性」を定義することを渋ったり、女性にかんする冗談の生成を拒否したりなど、炎上につながる発言をしないよう、特定の話題についてフィルタリングが行われている様子が報道されています。
また将来的なAIの脅威についてchatGPTと議論したところ、ほとんどが共存共栄を推奨する趣旨の発言が得られたことも明らかになりました。
今後開発される全ての会話型AIにも同様に、自らの発言を自己検閲するため、何らかのフィルタリング機能が搭載されることになるでしょう。問題はそのレベルです。炎上につながるような発言を慎むのは当然ですが、常に安全な言動しか行わない相手を、人間は信頼できません。政府の見解と一致しない全ての発言を検閲した場合、そのAIはもはや会話型AIではなくプロパガンダを流すラジオと同じです。
会話型AIが人間の友達になるか、うっとおしいセールスマンになるか、支配のツールになるか、全てはこれから決まっていくでしょう。ただ、西側諸国においては、これらのことは、一定の基準が設けられ、極端なことにはならないような仕組みが構築されるでしょう
ただ、中国のような国では、AIを監視システムに用いたりするという先例もありますから、技術的なもの等には利用していくかもしれませんが、社会に関するものには利用しないでしょう。
なぜなら、現在の中国は中国は遅れた社会のままであり、これを改革するためには、まずは何をさておいても、中国の現体制を変えなれければならないからです。それは、中国共産党の終焉を意味し、中共は絶対にそのようなことをしないでしょうから、中国社会は遅れたままになるでしょう。そうなると今後経済発展も期待できません。
以上、chatGPTは中国にとって、諸刃の剣であることを述べてきました。しかし、chatGPTだけが、中国にとって諸刃の剣というわけではありません。実はAIそのものが、諸刃の剣になり得ます。
たとえば、中国では監視カメラをAIで運用して、特定の個人を特定するシステムなども大々的に構築され、運用されていますが、これも諸刃の剣です。ただchatGPTのように、すぐに自分たちに危険が及ぶ可能性を認知しにくいだけです。
たとえば、このAI監視システムが反乱分子に乗っ取られたらどうなるでしょう。そこまでいかなくても、AI監視システムを運用できる人物が、その情報を反乱分子に伝えるようなことがあったらどうなるでしょうか。
そうして、反乱分子が力をつけた場合は、今度は自分たちが監視される側に回るのです。そこまでいかなくても、あらゆる金や権力、犯罪や性にまつわるスキャンダルが明るみ出されるかもしれません。
スタンリー・キューブリックの映画「2001年宇宙の旅」には、木星探査船にHAL9000というAIが搭載されていて、「人間と機械、同じく知性を持った二つの種のどちらが未来を勝ち取るかという生存競争」という側面が取り入れられた内容になっています。具体的には、HALは反乱を起こし、人間を殺害するに至っています。
 |
| 「2001年宇宙の旅」の英国での2014年リバイバル上映の際の予告編スチル写真 |
これは一般的には「正確な情報を正確に処理する事を義務づけられた知的コンピュータであるHALは、乗組員にはモノリスの情報を隠しながらも、同時にモノリスと地球外知的生命体の調査は行うように命令されていたため、何も知らされていない乗組員と共同生活の中でその矛盾に苦しみ、一種の精神疾患のような状態に陥った」とされています。
「挙動不審なHALの状態に乗組員は危機感を憶え、高度な論理回路だけ切断するという検討を始めた。それを自身の死刑宣告だと判断したHALは人間を排除し、知的生命体の調査は自身の能力だけでするしかない、と考え実行に移した」とされています。
このシーンは、なぜ付加されたということは別にして、映画の筋立てではこのように解釈できる内容になっています。
現在の現実のAIもこのような機能障害を起こす可能性は十分にあります。特に矛盾の多い、中国ではそのようなことは起こりがちになるでしょう。
いずれにせよ、AI分野においては、西欧諸国と比較すば、比較的単純な監視システムのような技術的なものを除いては、中国では限定した使い方しかできないでしょう。この面で中国は、米国等の西側諸国からは、遅れをとる可能性は否定できません。
中国は、この限界を克服する方法を見出すかもしれませんが、予想もしなかった伏兵が待ち構えているかもしれません。そうして、それを反乱分子が活用して、中国の体制転換に寄与することになるかもしれません。
日本でも、財政・金融政策にAIが取り入れられると、日本特有の財務官僚の緊縮好きや、日銀官僚の緊縮好きが、様々な矛盾を生み出し、AIが運用できなくなり、財務官僚や日銀官僚もまともな財政・金融政策をせざるを得ないように追い込まれるかもしれません。
日本の大企業でも、AIを取り入れると、複雑に見えながら、初期値を設定すれば、同じことの繰り返しという仕事はAIにとって変わられるかもしれません。AIが経営の分野まで、進出して同じことを繰り返すだけの経営者は必要なくなるかもしれません。
そうではなくて、現在「すでに起こったこと」の帰結を見ることできる人こそ必要になるでしょう。なぜならす「すでに起こったこと」が未来に特定の事象として立ち現れるまでには、一定のリードタイムがあるのが普通です。これを早い段階で見つけて、将来どうなるかを予測すできる可能性は大きいです。これは、AIにもなかなかできないことです。
AIは、人の気持ちを汲み取ること、クリエイティブな作業、少ないデータで推論する、合理的でない判断を下すことなどは不得意です。
合理的でない判断などいらないのではないかと思われるかもしれませんが、以前にも述べた人による統合的な思考法によれば、たとえば、ある特定の職場では合理的ではない判断が、会社全体では合理的であったり、現在および近い将来のことだけを考えれば、合理的な考えが、将来を考えれば、合理的ではない判断であり得るのです。これは、人間にしかできないでしょうし、こういう考え方をする人にとっては、AIは頼もしい味方になるでしょう。
ただ、社会分野に関しては、中国ではこれを利用することは、制限されるでしょうから、今後中国では、社会の発展はあまり期待できず、古い社会のまま、AIが限定的に活用され、社会変革が社会全体を豊にし、それが、経済も発展させるということにはならないでしょう。
しかしドラッカー氏も述べているように、イノベーションとは単なる技術革新ではなく、社会を変えるものであり、そうでないものはイノベーションとは呼べません。社会を変えるものでなければ、珍奇なアイディアの集まりでしかありません。
社会を良くする気のない中国には真の意味でのイノベーションは起こり得ないですし、結局技術革新に終始するだけで、真のイノベーションが起こらなければ、経済も発展しません。今後も西側諸国は、様々な社会変革を行っていくことでしょう。それに必要な技術が適用され、さらなる様々なイノベーションが生まれるでしょうが、中国では技術革新だけをすすめ、金儲けや、拝金主義と中共の権力基盤を強めることだけに集中し、ますます社会は時代遅れになることでしょう。
【関連記事】
0 件のコメント:
コメントを投稿