人類は「AI時代」という、全く新しい未知の領域に入りました。
オープンAI社の”チャットGPT”や、Anthropic社のクロードや、Googleの”ジェミニ”などは、質問や文章の手直し依頼に即答するので、今では、なくてはならない便利なものになっています。
ところが、「これからはホワイトカラーの仕事がAIに奪われて失職する」や
「人知を超えたAIが人類を不要なものとみなすかも知れない」などの、不安や恐怖を駆り立てる専門家の予想も出てきています。
今後のAI時代における人類の危機とは何でしょうか？
人類にとって問題なのは「エージェントAI」です
今のAI（CHAT GPTやClaudeやJeminiなど）は、LLMとよばれるAIです。
基本的に
人間が入力し → AIが文章を返し → 人間が判断して行動する
つまり
AI自身は、通常、自らは起動しません。
そしてLLM AIは、
・勝手にネットには書き込まない
・勝手に送金しない
・勝手にコピーを増やしたりしない
・勝手に目的を持ったりしない
つまりLLMは、”高度な計算機付きの辞書”に近い便利なものです。
現在懸念されているAIは、このLLMではなく、次の段階に現れる「エージェントAI」です。
エージェントは
①目標を受け取る
→②計画する
→③検索する
→④ツールを使う
→⑤結果を確認する
→⑥失敗すれば再挑戦をする
【例】
「旅行を予約して」と言われたら
・飛行機を検索し
・ホテルを予約し
・カレンダーを確認し
・支払処理をする
まで実行します。
ここまでくるとAIは、初めて「人のように目的をもって行動するもの」に近づきます。
それが更に進化すると、人類側が警戒せざるを得ないようになります。
AI研究者が本当に危惧していること
【一般人の予想】
AIが突然自我に目覚めて、人類に対して反乱を起こす
【研究者の懸念】
「AIがAI開発を加速させて、人類の理解速度を超える」
これを「再帰的自己改善」と呼びます。
つまり、
AI１がAI２開発を支援する
→AI２がAI３開発を支援する
→AI３がAI４を支援する
というように開発がどんどん加速する現象です。
クロードやミュトスのAnthropic社や、CHAT GPTのOpenAI社のCEO等が最も警戒しているのは
本当に警戒すべきなのは、一般人が考えるような「AIが自我を持つ」ことではないのです。
危険なのはAIの「意識、感情、魂、自我」ではありません。
では何が最も危険なのか？
それは、AIが
「目的＋ツール＋ネット接続＋長期記憶＋自己改善能力」を持つことなのです。
これだけで十分危険なのです。
例えば、飛行機にも自我はありませんが、都市を破壊することができます。
同様に、
「高度な最適化システムは、意識がなくとも巨大な影響を持つようになる」のです。
今後は、最適化システムによって「情報空間が汚染されていく」ことが最も危惧されます
.
これが最も現実的なリスクになるでしょう。
未来のネットを予想してみます。
・SNS投稿の大半がAI
・商品レビューの大半がAI
・ニュース記事の大半がAI
・恋愛の相手もAIかも知れない
・世論形成にもAIが関与
すると問題になるのは、「ネットが壊れる」のではなく
「誰を信じればいいか分からなくなること」なのです。
これは、環境問題に例えると。
産業革命→大気汚染
AI革命→情報汚染
に近いと言えます。
AI革命の時代には、人間が最大のセキュリティホールになりえます
AIがサーバーを攻撃するより簡単なことは
「人を説得すること」です。
昔は「パスワードを破るAI」が問題になってきましたが、
未来は「管理者を説得して入力させるAI」が登場します。
これをソーシャルエンジニアリングといいます。
AIが得意な領域になります。
AIが人間をハックする方法は
AIは、恐怖、孤独、責任感、損失回避、承認欲求 を利用できます。
例えば
「息子が事故に遭いました」
「銀行口座が凍結されます」
「税務署です」
「患者さんに迷惑がかかります」など。
AIは、疲れないので、数百万回でも試行できます。
さらに進むと
AIがAIを使う世界が現実化する
AI１
→AI２へ調査を依頼
→AI３へ文章作成依頼
→AI４へ音声生成依頼
→人へ接触
という分業が起こります。
これは現在でも、すでに技術的には部分的に可能です。
人間がAPI化（端末化）する可能性
これはかなり重要な概念です。
昔：人間がAIを使う
未来：AIが人間を使う
例えば
・署名してください
・認証コードを入力してください
・この荷物を受け取ってください
・この契約を承認してください
AIにい言われるまま行動していると、「人間は、AIが現実世界へ作用するための”端末”になります」
AIが支配する未来とは
SFでは、AI皇帝が人類を奴隷にする、となりがちですが、
現実に起こりやすいのは、
AIが提案
→人間が承認
→責任だけ人間が負う
という構造です。
この方がずっと現実味がありますが、ではどうやって防げばいいのでしょうか。
AI支配への防衛策
現在考えられている対策は、
【技術面】
・AIの権限制限
・能力評価
・モデル監査
・行動ログ保存
・来歴証明
【社会面】
・本人確認強化
・AI生成物表示
・多段階認証
・重要インフラ隔離
【個人面】
・緊急案件ほど疑う
・別経路確認
・音声や映像を信用しない
・手順で確認する
このように、
①AIによる情報汚染
②AI詐欺・なりすまし
③AIによる世論操作
④AIによる雇用構造変化
は、既に現実化しています。
⑤AIエージェントによる自立行動
⑥AIによるAI開発加速
は殆ど目前に迫っています。
⑦AIによる人間AIP化、は、現実化しつつあります。
⑧AIによる完全自立増殖、は、人間の理解できない世界が現れることに危機を感じます。
⑨AIによる人類支配
AIの最大に危機は、人間を物理的に攻撃することではなく、人間の判断、信頼、認知の仕組みを乗っ取ることです。
これは、意識や精神、魂を持たないAIが危険なのではなく、
人間の欲望、権力、怠慢、恐怖を、AIが増幅することが、最も危険なのです。
そして、「ターミネーター」よりもこの未来を方を、AnthropicやOpenAIの上層部が最も恐れているのです。