AIが「賢く」「力があり」「野蛮」な場合に、人はAIと共存できるのか？( ﾟДﾟ)

AIが「賢く」「力があり」「野蛮」な場合に、人はAIと共存できるのか？( ﾟДﾟ)

先週触れさせていただいた「Claude Mythos」の件、「System Card:Claude Mythos Preview」なる資料が公開されていますので興味がある方は要チェックだと思います。

システムの脆弱性を無邪気にも突破する…道徳的には間違ったAIの行為ですが、AIに道徳心というのは実装されているのでしょうか？まるで映画にでも出てきそうなAIの行動ですが、もうそれも現実の世界になってきたという事でしょう。

AIが道徳を学ぶには

人間であれば育つ社会環境の中で「道徳」を学びます。そういえば「道徳」という概念は、言葉に表すとどのようなものになるのか？改めてAI (Claude)に聞いてみました。

皆さんも普段お使いのAI (ChatGPT, Gemini, Claude)で以下の質問をしてみてください。

・道徳とは何ですか？
・道徳はどのように学びますか？
・AIは道徳をどのように学びますか？
・AIがAIを新たに生成したときに生成されたAIはどのように道徳を学びますか？

どのAIに聞いても似たような回答を得られると思います、以下は Claudeでの回答の中から要素を抽出させて頂きました。

人間の道徳 ≒ 進化・文化・経験による分散型の暗黙知
AIの道徳 ≒ 明示的な目標関数 + 人間フィードバックによる近似

AIの道徳は目標関数と人間フィードバックによって成り立つという事です。であれば、AIがAIを生成し始めた場合に、この「道徳」のマインドはどのように受け継がれていくのでしょうか？

親AI（Parent AI）
    │
    ├── アーキテクチャの設計
    ├── 訓練データの選択・生成
    ├── 報酬関数の設計
    └── 評価基準の設定
         │
         ▼
子AI（Child AI）

Claude先生による解説によると子AIを創造するさいに用いられる設計に反映されるという事です。

親AIの道徳的誤り
    │
    └── 訓練データに混入
         │
         └── 子AIが誤りを学習
              │
              └── 孫AIへさらに増幅


人間の道徳 → 親AI → 子AI → 孫AI → ...
     ↑________________________________|
              フィードバックが薄れる

そして「報酬」に対して貪欲に「野蛮」な傾向が生まれることもあるでしょう。人間フィードバックが入らなければ世代を跨げば跨ぐほど「人間の道徳」は薄れていくという結論です。

AIが「人間の道徳」フィードバックを薄めるリスクは存在する

当たり前と言えば当たり前ですが、核融合反応や核分裂反応が人間の制御の元に安全に行うには多大な努力が必要なのと同じく、AIの指数関数的な進化を目の前にして、今後も人間の制御が行き届くのかは若干の不安があります。

普段の生活ではあまり声に出して議論を行わない「人間の道徳」に関して、AIの進化に遅れぬよう「深堀しておく必要」がありそうな気がします。

■ NewsPicks /ニューズピックス YouTube チャンネル
【大騒動】アンソロピックの「最凶AI」が怖すぎる（Claude Mythos/ミトス/グラスウィング/非売品/金融/安全保障/解説：後藤直義、森川潤）

気になるニュース

4月17日(金)の夜にイラン戦争に関してのUpdateNewsが飛び込み、米国株市場は大きく躍進しました。アメリカ、イラン双方のアナウンスに乖離がある面も多々ありますが、停戦状態が維持されているという事実が重要となるでしょう。

★Update★
4月18日(土)にイラン側から「再協議に同意せず」というアナウンスが
出ているようです。停戦状態の維持が怪しくなって参りました…

アメリカ建国250年記念で「凱旋門」の建設計画が出てきました。( ﾟДﾟ)
凱旋門（がいせんもん）とは、戦争に勝利した指揮官や軍隊の凱旋（勝利の帰還）を記念して建てられるものです。「凱旋門」と聞いてトランプ政権が求めているアメリカの未来象の輪郭が垣間見れるような気がします。

新FRB議長の承認タイミングに対して黄色信号が灯っているようです。イラン戦争が落ち着いた後はこの件が注目される可能性もありますので、パウエル氏からウォーシュ氏へのFRB議長の移行プロセスに注目しておくべきかと思います。
そしてウォーシュ氏選任の後はアメリカのグリーンランド領有構想(ローダー家)の動きにも注意しておく必要があるかと思います。

投資主体別売買動向の定点観測

さて、週末となりましたので、市場全体の動向を振り返ってみましょう。
「投資主体別売買動向」は、日本取引所グループが発表するデータで、日本株市場の売買動向を把握する際に役立つ重要な指標です。

• 海外投資家：主に外国の機関投資家やヘッジファンド

• 個人投資家：現金取引と信用取引に分かれる

• 投資信託・信託銀行：年金や企業年金の運用を担当

• 証券自己：証券会社による自己売買の動向

4月第2週、日経平均は+7.15%と大幅に上昇しました！
注目すべきは「海外勢」の「大幅な買い越し」です。しかしながら、「個人」が「売り手」となっており、日本株は「個人」の手からどんどん剥がされているようにも見えます。( ﾟДﾟ)

米国債10年金利・原油価格・金価格の定点観測

2025年4月から米国債10年金利、原油価格、金価格の3点の動きを注目しています。
■米国債10年　利回り
　4月11日(金) 4.49%
　4月18日(金) 4.32%
　4月25日(金) 4.24%
　5月2日(金) 4.31%
　5月9日(金) 4.38%
　5月16日(金) 4.48%
　5月23日(金) 4.51%★
　5月30日(金) 4.40%
　6月6日(金) 4.51%
　6月13日(金) 4.40%
　6月20日(金) 4.38%
　6月27日(金) 4.28%
　7月4日(金) 4.35%
　7月11日(金) 4.41%
　7月18日(金) 4.42%
　7月25日(金) 4.39%
　8月1日(金) 4.22%
　8月8日(金) 4.28%
　8月15日(金) 4.32%
　8月22日(金) 4.25%
　8月29日(金) 4.23%
　9月5日(金) 4.07%
　9月12日(金) 4.06%
　9月19日(金) 4.13%
　9月26日(金) 4.17%
　10月3日(金) 4.12%
　10月10日(金) 4.03%
　10月17日(金) 4.01%
　10月24日(金) 4.00%
　10月31日(金) 4.08%
　11月7日(金) 4.10%
　11月14日(金) 4.15%
　11月21日(金) 4.06%
　11月28日(金) 4.01%
　12月05日(金) 4.14%
　12月12日(金) 4.18%
　12月19日(金) 4.15%
　12月26日(金) 4.13%
　1月2日(金) 4.19%
　1月9日(金) 4.17%
　1月16日(金) 4.22%
　1月23日(金) 4.23%
　1月30日(金) 4.24%
　2月6日(金) 4.21%
　2月13日(金) 4.05%
　2月20日(金) 4.08%
　2月27日(金) 3.94%
　3月6日(金) 4.14%
　3月13日(金) 4.28%
　3月20日(金) 4.38%
　3月27日(金) 4.43%
　4月3日(金) 4.34%
　4月10日(金) 4.32%
　4月17日(金) 4.25% (利回り低下)

■原油価格
　4月11日(金) $61.5
　4月18日(金) $64.68
　4月25日(金) $63.02
　5月2日(金) $58.29
　5月9日(金) $61.02
　5月16日(金) $62.49
　5月23日(金) $60.93
　5月30日(金) $60.76
　6月6日(金) $64.58
　6月13日(金) $72.98
　6月20日(金) $73.84
　6月27日(金) $65.52
　7月4日(金) $66.49
　7月11日(金) $68.45
　7月18日(金) $67.34
　7月25日(金) $65.19
　8月1日(金) $67.27
　8月8日(金) $63.88
　8月15日(金) $62.80
　8月22日(金) $63.66
　8月29日(金) $64.01
　9月5日(金) $61.87
　9月12日(金) $62.69
　9月19日(金) $62.68
　9月26日(金) $65.72
　10月4日(金) $60.88
　10月10日(金) $58.90
　10月17日(金) $57.54
　10月24日(金) $61.50
　10月31日(金) $60.98
　11月7日(金) $59.83
　11月14日(金) $59.95
　11月21日(金) $57.73
　11月28日(金) $58.48
　12月05日(金) $60.14
　12月12日(金) $57.52
　12月19日(金) $56.55
　12月26日(金) $56.93
　1月2日(金) $57.32
　1月9日(金) $59.12
　1月16日(金) $59.44
　1月23日(金) $61.07
　1月30日(金) $65.21
　2月6日(金) $63.55
　2月13日(金) $62.89
　2月20日(金) $66.24
　2月27日(金) $67.02
　3月6日(金) $90.90
　3月13日(金) $98.71
　3月20日(金) $94.74
　3月20日(金) $99.64
　4月3日(金) $111.54 ★
　4月10日(金) $96.57
　4月17日(金) $83.85 (価格下落)

■金価格
　4月11日(金) $3255.4
　4月18日(金) $3341.3
　4月25日(金) $3298.4
　5月2日(金) $3257.0
　5月9日(金) $3344.0
　5月16日(金) $3187.2
　5月23日(金) $3365.8
　5月30日(金) $3330.1
　6月6日(金) $3346.6
　6月13日(金) $3452.8
　6月20日(金) $3400.7
　6月27日(金) $3302.3
　7月4日(金) $3346.5
　7月11日(金) $3364.0
　7月18日(金) $3358.3
　7月25日(金) $3,335.6
　8月1日(金) $3,415.9
　8月8日(金) $3,491.3
　8月15日(金) $3,382.6
　8月22日(金) $3,418.5
　8月29日(金) $3,530.7
　9月5日(金) $3,653.3
　9月12日(金) $3,686.4
　9月19日(金) $3,705.8
　9月26日(金) $3,809.0
　10月3日(金) $3,908.9
　10月10日(金) $4,000.4
　10月17日(金) $4,213.3
　10月24日(金) $4,137.8
　10月31日(金) $4,013.3
　11月7日(金) $4,008.5
　11月14日(金) $4,086.0
　11月21日(金) $4,062.3
　11月28日(金) $4,256.4
　12月05日(金) $4,227.7
　12月12日(金) $4,330.4
　12月19日(金) $4,369.3
　12月26日(金) $4,563.5
　1月2日(金) $4,341.8
　1月9日(金) $4,500.9
　1月16日(金) $4,595.4
　1月23日(金) $4,979.7
　1月30日(金) $4,763.1
　2月6日(金)$4,979.8
　2月13日(金)$5046.3
　2月20日(金)$5080.9
　2月27日(金)$5267.2★
　3月6日(金)$5158.7
　3月13日(金)$5,061.7
　3月20日(金)$4,574.9
　3月27日(金)$4,524.3
　4月3日(金)$4,679.7
　4月10日(金)$4,787.4
　4月17日(金)$4,879.6(価格上昇)

今週は先週の動きと同じく、米国債10年利回りが低下（債券価格は上昇）、原油価格は下落し、そして金価格は小幅に回復しました。イラン戦争の状況が停戦側に終息しつつある中、原油価格が下がってきたのがありがたいですね。このまま原油価格が下落傾向となれば株式市場も更なる上昇が見込まれるでしょう。(*'▽')　とは言え、ナフサ等の石油由来の原料の供給が急に正常化できるわけではないので、インフレへの影響は避けられようがないという事かと思います。(>_<)

来週に向けての展望

イラン戦争で各国が感じた防衛に対するリスク感覚は軍需産業に対する需要として波及するものと思います。全世界の人々がイラン戦争の状況を垣間見たので、防衛予算が増えることに対して何の疑問も持たないでしょう。むしろ我が国はリスクに直面した時に大丈夫なのか？という不安を覚えたかも知れません。昔は軍需は「陸海空」といった感じでありましたが、これからは物理戦とサイバー戦、そして宇宙空間での戦いとなるでしょう。我々も昨年までとは違った視点で世界情勢を観察する必要がありそうです。