まとめ
- AIは「偽情報」だけでなく、顔・経歴・人生を持つ存在しない政治活動家そのものを作れる時代に入った。
- 世論工作は昔からあったが、AIはそのコスト・速度・規模を一変させ、一人でも大量の「架空の市民」を作れる可能性を開いた。
- ドラッカーの視点で見れば核心は「責任」である。AIに仕事や分析を任せても、責任まで任せることはできない。 最後に責任を負うのは人間である。
これまで私たちは、SNS上の情報を見るとき、「この写真は本物か」「この動画は加工されていないか」「この発言を本人は本当にしたのか」と疑ってきた。生成AIの急速な進歩によって、写真、動画、音声、文章のどれもが簡単に作れるようになったからである。しかし今回、日本でさらに一歩先の問題が現れた。X上で「中村りほ＠立憲民主党」と名乗り、女性支援や子育て、政治活動について発信していた人物が、実際には生成AIで作られた架空の女性だったことが明らかになった。街頭活動をしているように見える画像もAIで作られ、アカウントを運営していたのは立憲民主党栃木県連に党員登録している男性だったと報じられている。テレビ朝日は、この問題について男性本人の説明や立憲民主党側の反応を報じている。
ここで事実関係は慎重に分けて考える必要がある。このアカウントを立憲民主党や栃木県連が組織的に作らせたという事実は確認されておらず、県連も関与を否定している。したがって、党全体による工作であるかのように論じるべきではない。しかし、それで問題が小さくなるわけではない。むしろ重要なのは、たった一人でも、AIを使えば「存在しない政治活動家」を作り、顔、経歴、人生、政治的主張まで与えられるという事実である。同じ技術は右派にも左派にも、企業にも政治団体にも、外国勢力にも使える。
写真が偽物なのではない。写真に写っている人間そのものが存在しなかったのである。
ただし、この種の危機そのものはAIが初めて作り出したわけではない。人間はAI以前から、身元を偽り、架空の人物を作り、偽情報を流し、「普通の市民の声」に見せかけて世論を動かそうとしてきた。ではAIは何を変えたのか。そして民主主義はこれまで、こうした偽装にどう対処してきたのか。そこを考えると、今回の問題の本質が見えてくる。
さらに、この問題は政治だけに限らない。企業、行政、教育、医療など、AIを使うあらゆる領域で最後に残る問いは同じである。
「AIがそう判断した」で、人間は責任から逃れられるのか。
私は以前の記事「AIで人間は働かなくなるのか――ドラッカーが見抜いていた『仕事の本質』」で、AIが反復作業を代替するほど、人間には目的を定め、判断し、成果を評価し、責任を負う仕事が残ると論じた。今回の問題は、その原則が政治にもそのまま当てはまることを示している。
1️⃣存在しない女性が「人生」を持ち、政治活動を始めた
今回の問題を単なる「AI画像の悪用」と捉えると、本質を見誤る。問題のアカウントには名前だけでなく、一人の女性としての人物像が作られていた。人生経験を想起させる経歴が与えられ、女性支援や子育てなどについて政治的主張を発信し、街頭活動をしているかのような画像まで掲載されていた。つまり、生成されたのは顔だけではない。一人の人間の人生そのものだった。
AIの登場により架空人格の生成がしやすくなった AI生成画像
従来のディープフェイクでは、実在する政治家や著名人の顔や声を使い、その人物が言っていないことを言わせるものが典型的だった。しかし生成AIでは、実在する人間すら必要ない。名前を作り、顔を作り、職業を作り、家族や過去や悩みを作り、思想を作る。そして「今日こんな活動をした」という写真まで作る。そうすればSNSの中に一人の人格が成立する。小説や映画の架空人物と違うのは、それを現実の人間として提示する点である。
政治では、この違いが大きい。有権者は政策の数字だけで判断しているわけではない。「自分と同じ子育て世代だ」「この人も苦労してきた」「普通の生活者の感覚を持っている」といった共感も政治的判断に影響する。したがって、架空の経歴を持つ架空人物を政治空間へ送り込むことは、単なる画像加工ではなく、共感そのものを人工的に作り出す行為になり得る。
さらに問題なのは、これを一人に限定する必要がないことである。「私は子育て中の母親です」「私は中小企業経営者です」「私は元自衛官です」「私は大学生です」といった異なる人格を100人、1000人と作り、同じ方向の政治的主張を少しずつ言わせることができれば、画面上には巨大な「世論」が出現する。人間は他者の判断に影響される以上、「こんなに多くの人がそう思っているのか」という印象そのものが政治的な力を持つ。
しかし、「普通の市民を装って世論を動かす」という発想はAIが発明したものではない。問題は、AIがその手法をどれほど安く、速く、大量にしたかである。
2️⃣「偽の世論」は昔からあった――AIは何を変えたのか
偽情報、成り済まし、宣伝工作、世論操作はインターネット以前から存在した。冷戦期には、国家が偽造文書や第三国のメディアなどを利用し、あたかも自然に生まれた情報であるかのように偽情報を広げる工作を行った。1980年代に広がった「エイズは米軍の研究施設で作られた生物兵器だ」という虚偽情報も、その代表的な事例の一つである。米国務省は、こうしたソ連・KGB系の偽情報工作の経緯を公開資料で整理している。
SNS時代になると、手法は今回の事件にさらに近づいた。2016年の米大統領選をめぐるロシアの干渉では、Internet Research Agency（IRA）が大量の架空の米国人ペルソナを作り、SNS上で普通の米国人のように振る舞ったことが米司法省などの調査で明らかになっている。米司法省の起訴内容によれば、多数の偽アカウントを用い、実在する米国人に接触して政治イベントの開催を働きかけることまであった。
偽の人間が、本物の人間を動かしていたのである。
情報工作の歴史とAIによる変化 AI生成画像
それではAI以前とAI以後では何が違うのか。最大の違いは、コスト、速度、規模である。かつて架空の人格を大量に維持するには、多数の人間が必要だった。文章を書き、質問に答え、現地事情を調べ、複数の人格を演じ分けるには、組織と資金と人員が要る。
生成AIは、このコスト構造を大きく変える。「20代女性として書いてくれ」「60代の元会社員として書いてくれ」「保守的だが党派色は弱く」「左派だが穏健に」と指示すれば、異なる人物らしい文章を大量に生成できる。顔も画像も音声も作れる。完全自動化にはなお限界があるとしても、架空人格を作り維持する費用は大きく下がりつつある。
昔の工作には、多くの工作員が必要だった。AI時代には、一人の人間が多数の「工作員らしき人格」を作れる可能性がある。
では民主主義社会は、これまで偽装にどう対抗してきたのか。基本的には、政府がすべての政治的発言を事前に審査し、「真実」「虚偽」を決める方法ではなかった。それでは偽情報対策そのものが言論統制になりかねない。そこで重視されてきたのが、「誰が発信しているのか」「誰が資金を出しているのか」「誰が責任を負っているのか」という透明性である。政治広告にスポンサー表示を求めるのも、主張を禁止するためではなく、有権者が誰から説得されようとしているのかを知ったうえで判断できるようにするためだ。
つまり民主主義は、「情報の内容を国家が決める」のではなく、「情報の出所を透明にする」ことで偽装に対抗してきた。ところがAI時代には、さらに一つの問いが加わる。20世紀には「誰が金を出したのか」。SNS時代には「誰がアカウントを運営しているのか」。そしてAI時代には、
「そもそも、その人間は存在するのか」
と問わなければならない。
この問題が深刻なのは、偽物が増えるだけではないからだ。AI画像が大量に出回れば本物の写真まで疑われ、AI音声が氾濫すれば本物の録音まで疑われる。AI人格が大量に現れれば、本当に困っている人が声を上げても「これもAIではないか」と疑われる。つまりAIの最大の危険は、嘘を本物だと思わせることだけではない。本物まで信じられなくすることにある。
3️⃣AIは責任を取れない――ドラッカーの問いは政治を超える
ピーター・ドラッカーは現在の生成AIを知らなかった。したがって「ドラッカーなら必ずこう言った」と断定することはできない。しかし、彼が重視した目的、成果、社会的機能、そして責任という考え方を今回の問題に当てはめることはできる。
この視点から見ると、AI人格の本当の不気味さが見えてくる。AI人格は責任を取れない。選挙で落選しない。社会的信用を失わない。職を辞さない。過去の発言を追及されても本人は痛みを感じない。炎上すれば削除し、別の名前と顔で作り直すこともできる。人間には過去があり、評判があり、社会との関係があるから、発言や行動には責任が伴う。しかし架空人格にはそれがない。影響力だけを持たせ、責任を切り離すことができてしまう。
しかも、この問題は政治だけではない。企業経営でAIが事業撤退を提案するかもしれない。銀行のAIが融資を断るかもしれない。採用AIが応募者を落とし、医療AIが治療方針を提案し、行政AIが給付対象を選別するかもしれない。そのとき「AIがそう判断したから」で済ませることはできない。
AIは分析できる。予測できる。選択肢を提示できる。人間より高い精度で一定の判断を支援することもあるだろう。しかし、その判断を採用するかどうかを決め、結果について責任を負う主体までAIにしてはならない。
私は「AIで人間は働かなくなるのか――ドラッカーが見抜いていた『仕事の本質』」で、AIが人間を仕事そのものから解放するのではなく、反復作業などを代替するほど、人間にはより本質的な仕事が残ると論じた。それは、目的を決め、顧客にとっての価値を考え、成果を判断し、結果について責任を負う仕事である。AIが高度になるほど、人間の責任が薄くなるのではなく、むしろ明確になる。
政治も同じだ。AIキャラクターに政策を説明させてもよい。AIが候補者の政策について質問に答えてもよい。政治家が文章作成や分析にAIを使ってもよい。問題はAIを使うことではない。AIを使って人間の責任まで消すことである。
 |
| AIを使うのは人間、責任を負うのも人間 AI生成画像 |
日本でもAI生成・改変コンテンツをめぐる制度整備は始まっている。2026年7月に成立した改正公職選挙法などでは、一定のAI生成・改変画像や映像について、その旨を表示する仕組みが導入される。衆議院の法案情報でも、その制度整備の経過を確認できる。しかし「この画像はAI生成です」と表示するだけでは、今回のような問題を完全には解決できない。「画像はAIで作ったが、私は実在する人物だ」と言いながら、その人物自体が存在しなかったらどうするのか。ここではコンテンツの真正性だけでなく、人格の真正性が問われる。
だから必要なのはSNSの全面実名制ではない。匿名性には、内部告発や権力批判など重要な役割がある。「匿名の人間」と「存在しない人間」は違う。匿名とは、実在する人間が身元を一般には公開しないことである。一方、架空人格とは、存在しない人間を実在するものとして提示することである。
政治的な影響力を目的にAI人格を利用するなら、少なくとも「AIであること」「誰が運営しているのか」「誰が発言や行動について責任を負うのか」を確認可能にする仕組みが必要ではないか。そしてこの原則は政治だけに限定すべきではない。企業がAIを使えば企業と経営者が、行政がAIを使えば行政組織と責任者が、医療や教育でAIを使えば、それぞれの制度の中で人間が最終責任を負わなければならない。
AIに仕事を任せることはできる。AIに分析を任せることもできる。AIに提案させることもできる。しかし、AIに責任を取らせることはできない。
AIは後悔しない。道義的責任を感じない。損害を償おうと決意することもない。だから最後に責任を負うのは、人間と人間が作った組織でなければならない。
ドラッカー的な処方箋を一文にすれば、こうなる。
AIに仕事を任せてもよい。AIに人格を与えてもよい。しかし、責任までAIに移してはならない。
結語――AIが進歩するほど、人間の責任は重くなる
今回の出来事を、一人の党員による奇妙なSNS運用として片付けることは簡単である。しかし、それでは本質を見誤る。同じことは右派にも左派にも、企業にも政治団体にも外国勢力にもできる。そして歴史を振り返れば、偽情報や架空の発信者を利用して世論を動かそうとする行為そのものは、決して新しくない。
冷戦時代には偽文書や偽記事を使った。SNS時代には大量の偽アカウントを人間が運営した。民主主義社会はそれに対して、資金源の公開、スポンサー表示、外国勢力による選挙介入の規制、偽アカウントの排除などを積み重ねてきた。その根底にある考えは、「誰が言っているのか」「誰が背後にいるのか」「誰が責任を負うのか」を見えるようにすることである。
AI時代に新しいのは、人間の悪意ではない。人間は昔から嘘をつき、偽装し、プロパガンダを行ってきた。新しいのは、それをはるかに安く、速く、大量に実行できる可能性が生まれたことである。同時に、AIは企業の生産性を高め、医療や教育を支援し、危険な作業から人間を解放する大きな力にもなる。
だから「AIは危険か、有益か」という二択には意味がない。問題は、誰がAIを何のために使い、その結果について誰が責任を負うのかである。
AIがどれほど賢くなっても、能力と責任は同じものではない。AIが人間より正確な分析を示したとしても、それを何のために使うかは人間が決める。AIが人間より優れた予測をしたとしても、それを使って誰にどのような影響を与えるのかは人間が決める。そして、その判断が誤っていたなら、責任を負うのも人間である。
この原則は、政治でも経営でも、医療でも教育でも、行政でも変わらない。
AIが高度になるほど、人間の責任は軽くなるのではない。むしろ重くなる。
最も危険なのは、「AIがそう言ったから」という言葉が、人間の責任逃れに使われることである。AIが何百万件ものデータからもっともらしい答えを示しても、それだけで正しい目的や倫理的な判断まで保証されるわけではない。「この目的のために、このAIを使い、この判断を採用した」と言える人間が最後には必要になる。
20世紀の民主主義は「その情報は本当か」と問った。SNS時代には「その発信者は誰なのか」が加わった。そしてAI時代には、「その発信者は本当に存在するのか」「その背後で誰が責任を負っているのか」と問わなければならない。
しかし、これは民主主義だけの問いではない。AIを使う社会全体への問いである。
AIには能力を。人間には責任を。
AIに人格を与えることはできる。AIに仕事を任せることもできる。AIに人間以上の知識を持たせる時代さえ来るかもしれない。しかし、責任までAIに押しつけることはできない。
責任を取るのは、最後まで人間である。
それこそが、AI時代に我々が手放してはならない原則なのである。
AIに答えを丸投げするな――ドラッカーが見抜いた「問い」と責任の時代 2026年8月21日
AIが高度になるほど重要になるのは「答え」ではなく、問いを立て、判断し、その結果に責任を負う人間であることを論じた記事。今回のドラッカー論に最も直結する。
AIで人間は働かなくなるのか――ドラッカーが見抜いていた「仕事の本質」 2026年8月20日
AIが作業を代替しても、目的を定め、成果を判断し、責任を負う仕事は人間に残る。本稿の「AIに責任を取らせることはできない」という主張の土台となる記事。
中国に日本の選挙を触らせるな――トランプ演説と高市圧勝が突きつけた「見えない介入」 2026年7月19日
生成AIやSNSを使った外国勢力による情報工作が、投票以前の「国民の認識」に働きかける危険を論じた記事。架空の政治活動家が世論を動かす問題と直結する。
AIが現場に出る時代――日本を守るのは「安さ」ではなく責任と常若だ 2026年7月17日
AIは高い能力を持っても責任を取れない。エッジAIやフィジカルAIが現実社会へ出るほど、人間が判断と責任を引き受ける必要があることを論じた記事。
中国の偽文書工作は文春報道以下だった――「高市首相に台湾が宝石の賄賂」が示す中国崩壊の前兆 2026年6月25日
偽文書、生成AI、SNSを使った中国系の情報工作を扱った記事。AI時代には偽情報そのものだけでなく、「誰が発信しているのか」を見抜く力が重要になることが分かる。
0 件のコメント:
コメントを投稿