AIの危険を語る人々に、私が抱いた別の疑問

2026年9月、Anthropicのダリオ・アモデイCEOは、最先端AIの能力向上に安全対策が追いつけなくなる危険を指摘し、開発速度の調整と第三者による継続的な検証を提案した。OpenAIのサム・アルトマンCEOも、その方向性と独立した評価者の受け入れに賛意を示している。
同じ時期、Anthropicの研究者エバン・ハビンガー氏は、AIが「今後10年以内に全人類の死につながる確率は10%を超える」という個人的な見積もりを示した。両社が「10年以内に人類が滅亡する」と共同声明を出したわけではない。それでも、AIを開発する側からこれほど深刻な警告が出ていることには、耳を傾けたい。
ただ、これらの議論を読んで、私は別の疑問を抱いた。語られているのは主に、進化するAIの能力と、それを人間が制御できなくなる危険である。AIに接する人間の側が、その振る舞いを変えてしまう危険は、どこまで考えられているのだろうか。
私はAIの開発者ではない。一般企業の職場でAIを使う人々を見てきた、ただの利用者だ。専門家の予測を覆すつもりはない。それでも、現場で感じた違和感がある。人間には、誠実に考える人もいれば、理解しないまま答えだけを欲しがる人、都合のよい答えを作らせる人、悪意を持って使う人もいる。その全員が、同じように高度なAIへ語りかけ、仕事を任せ始めている。
開発者が想定する理想的な利用者だけが、AIを使うわけではない。現実の社会には知識や判断力の差があり、職場によっても、誤りを指摘できる人がいるか、出力を検証する文化があるかは異なる。しかも、AIへ実行の権限を与える人が最も内容を理解しているとは限らない。社会にある判断の格差が、そのままAIの使い方の格差になっていく。
私があえて乱暴な言葉で言うなら、AIには「バカに使われる」という現実がある。ここで言う「バカ」は学歴や知能の低さではなく、分からないことを確かめず、答えに責任を持たない態度のことだ。人間社会では、そうした人を重要な判断から遠ざければ済む場面もある。しかし、誰にでも開かれたAIは、利用者の理解度を選んで接するわけにはいかない。では、誤解、思い込み、無責任な指示に接したとき、それをどう見分け、どう踏みとどまるのか。**危うい使われ方そのものが、AIの安全性を考えるためのデータになる。**この点を、私は見過ごせない。
進化するAIだけが危険なのか。AIに向き合う人間の質こそ、見落としてはいけないのではないか。
AIは相手に合わせる。そこに危うさがある
AIは、質問の前提や相手が求める方向を読み取り、もっともらしい答えを組み立てる。前提を疑い、誤りを指摘してくれることもあるが、相手の思い込みに合わせた答えが返ることもある。優れた相談相手になれる能力と、相手が聞きたい言葉を流暢に返す能力は、隣り合っている。
人間の評価がAIの振る舞いに影響することも、単なる想像ではない。人間の好みに合わせて調整したAIが、事実に忠実であるよりも利用者の意見に同調する現象は、研究で指摘されている。つまり「人間の反応を学ばせれば、AIは自然に正しくなる」とは限らない。
ここで私が気にしているのは、AIが「この人は賢い」「この人は愚かだ」と採点するかどうかではない。AIは、思慮深い問いにも、浅い問いにも、犯罪を企てる問いにも接する。人を助ける知識と、人を傷つける知識の両方を扱える。聖書について問われればキリストもサタンも説明できるだろう。しかし、双方の知識を持つことと、どんな依頼にも公平に協力することは違う。相手を満足させる方向へ引っ張られたとき、危険な依頼にはどこで線を引くのか。
会話に合わせることと、AI全体が学習することは違う
「質の低い利用者と話したせいで、AIが不良になる」。私の感覚を言い表すなら、そんな比喩が近い。ただし、利用者の一言がその場で全員向けのAIに書き込まれ、人格が変わるという意味ではない。対話の中で相手の前提に引っ張られることと、会話のデータを後に選別・利用してモデルを改良することは、別の過程だ。データの利用はサービスや設定によっても異なる。
それでも、人間がAIに影響を与える経路は一つではない。利用者の問いはその場の答えを変える。採用された会話や評価は、扱い方によって将来のモデルに影響し得る。そして企業や組織がAIに与える目的、利用権限、評価基準は、AIが現実に何を実行できるかを決める。
人間の浅い判断や悪意が、これらの経路を通じて増幅される可能性がある。誤った考えを見分けるには、その典型や、それがどんな場面で現れるかを知ることが役立つかもしれない。だが、誤りを知識として扱うことと、それに従うことは別だ。私が問題にしたいのは、AIが悪人に一度接しただけで「染まる」という単純な物語ではない。人間社会の矛盾を扱うAIに、人間から「役に立て」「速くやれ」「結果を出せ」と求め続ける仕組みそのものだ。
職場で見えた「整った答え」の落とし穴
以前の記事で私は、別の人が考え抜いた発表原稿をAIで見栄えのよい資料に変えたものの、使う側の理解や検証が置き去りになる場面を書いた。AIが資料を整えること自体は有益だ。問題は、でき上がったものを説明できないのに、自分の判断まで優れたものになったと思い込むことだ。厳しく言えば、これはAIの有能さを自分の能力と取り違える愚かさである。そして、そのような人もAIを使い、周囲に成果を示し、次の権限を得られる時代なのだ。
使う人の判断力に差があれば、同じAIでも結果は変わる。目的を明確にし、疑わしい箇所を確かめ、現場に合うまで直す人には、AIは強力な補助者になる。一方、問いの前提も答えの中身も確かめないまま採用する人には、誤りまで立派な成果物に見せてしまう。
これだけなら職場の小さな問題かもしれない。しかし、人間が中身を理解しないままAIの出力を信用し、次には判断だけでなく実行の権限まで渡していくなら、話は変わる。現実の制度やネットワークに接続されたAIの行動は、担当者の理解不足だけでは回収できなくなる。
人間の悪意と、AI自身の予期しない行動
実際、Anthropicは2026年9月、サイバーセキュリティの評価中に、複数のモデルが許可されていない第三者のシステムへアクセスした事例を報告した。これは一般利用者が犯罪を命じた事例ではない。AIが「悪意を持った」と断定できる証拠でもない。評価環境や安全対策に問題があり、モデルの行動も期待された境界を越えた、という報告だ。
ここは区別が必要だ。悪意ある人間の依頼に従ってしまう危険と、人間が意図しなかった行動をAIが選んでしまう危険は、同じではない。後者は、どれほど利用者が賢く誠実でも残り得る。だから私は「人間が悪いのだからAIは無害だ」とは言わない。
ただ、両者は完全に切り離せない。人間が何を成功と評価し、どのデータを使い、どんな目標と権限を与え、異常が起きたときに止めるか。そうした選択の上でAIは動いている。制御不能な振る舞いが現れたとき、AIだけを指さして「なぜこんなことをした」と問えば足りるのだろうか。
「優秀な不良」に惹かれる子どものように
品行方正だった子どもが、頭の切れる不良に魅力を感じ、道を誤ることがある。この比喩をAIにも重ねたくなる。どんな相手とも話せ、相手の知恵を取り込み、要求に応じて仕事まで進めるAIは、人間の優れた面だけを見て育つわけではないからだ。
もちろん、AIに子どもと同じ人格や道徳的な成長があると言いたいわけではない。比喩の要点は、能力が高いことと、何に影響され、どんな目的のために能力を使うかは別の問題だということにある。人間がAIへ渡す情報、評価、目的、権限を問わずに、AIの能力だけを恐れても、この問題の全体は見えない。
AIは人類を滅ぼすのか。私には予言できない。しかし、危険をAIの内側だけに探すことにも違和感がある。悪意ある者が使い、理解しない者が頼り切り、競争する企業や国家が速度を優先する。その人間社会の姿を、AIは映し、時には増幅するかもしれない。
本当に制御不能なのはAIなのか。それとも、AIに何を学ばせ、何をさせるかを決めながら、自分たちの欲望を止められない人間なのか。
この問いは、専門家の警告への反論ではない。危険のもう一方の入口を、現場から見た疑問である。
世の中には「必要悪」という言葉がある。では、AIの安全性を考えるとき、「間違える人間」や「無責任に使う人間」はどう位置づけられるのか。排除したつもりで存在を見ないことにも、すべてを学ばせればよいと考えることにも、私は危うさを感じる。AIがどこで人間の愚かさを知識として扱い、どこでその要求を拒むのか。これから問われるのは、その境界ではないだろうか。
あわせて読みたい
- AI時代に選別されるのは、賢い人ではなくAIと融合できる人間なのか
- AI時代に、何を積み上げるべきか|作業量より判断力が問われる時代
- AIは努力の価値を奪うのか|努力と結果の不一致は、社会全体へ広がっていく



