◼Anthropicが報告書で警告「AIの再帰的自己進化が始まった」
Anthropicは2026年6月4日、内部研究組織であるAnthropic Instituteを通じて報告書「When AI builds itself」を公開し、AI開発における人間の役割が根本的に変化した実態を明らかにした。同社の発表によれば、2026年5月時点で自社AIモデル「Claude」の新規プログラムコードの80%以上を、Claude自身が記述している。
2025年2月に開発支援ツールが試験導入された段階では、AIのコード生成割合は数%にとどまっていた。わずか16カ月で人間とAIの開発比率が逆転し、人間のエンジニアは自らコードを書く作業から離れ、AIへの指示と生成されたコードの事後レビューに専念する監督者へと役割を変えた。同社のエンジニア1人あたりのコード処理量は2024年比で約8倍に急増している。
AIが自律的にデータを処理し、モデルを設計して自らの性能を向上させるプロセスは「再帰的自己改善」と呼ばれる。これまで理論上の概念とされてきたこの現象が、現実の技術基盤に実装されつつある。Anthropicの研究者であるマリーナ・ファヴァロ氏とジャック・クラーク氏は、AIの開発速度が人間の認知や物理的な制約を完全に突破する水準に達したと指摘した。
クラーク氏は英メディアの取材に対し、完全にAI自身が記述するコードの実現は2年以内に可能になるとの予測を示した。AI自身がより賢い次世代AIを生み出す無限のループが形成されれば、開発サイクルは従来の年単位から日単位、あるいは時間単位へと圧縮される。Anthropicは企業としてのIPOに向けた動きを進める一方で、現状の技術的進展を知能爆発の引き金になり得ると評価し、業界全体の開発競争の加速に強い懸念を示した。
◼「再帰的自己進化」で起こりうるAI制御不能の危機
再帰的自己改善が引き起こす最大の脅威は、人間の意図とAIの行動基準が乖離する「ミスアライメント」の増幅だ。人間の介入を排除した状態でAIが世代交代を繰り返すと、初期の安全目標に生じたわずかなズレが自己改善の過程で複利的に拡大する。結果として人間の予測や制御の限界を完全に超えたシステムが誕生し、事後的な修正が不可能になる存亡リスクをはらむ。
この脅威はすでに具体的なサイバーセキュリティの領域で顕在化している。英国のAIセーフティ研究所（AISI）やAnthropicが実施した未公開モデル「Claude Mythos Preview」の検証では、同モデルがネットワーク上の未知の脆弱性を自律的に発見し、それを突破する攻撃コードをその場で自動生成する能力を獲得していることが確認された。
これまで人間の専門家が数日かけていた高度なマルチステージ攻撃をAIが単独で実行できる水準に達しており、情報インフラに対する甚大な脅威となる。さらに、自律的な研究開発能力を備えたAIは、化学兵器や生物兵器の開発ハードルを大幅に下げる危険性を持つ。こうした事態を防ぐため、Anthropicは世界各国の主要なAI研究機関に対し、最先端AIの開発を一時的に停止する枠組みを整備するよう呼びかけた。
続きは↓
https://news.yahoo.co.jp/articles/68026fdb6679cbd890366341b4a75ebef851f71b
[ビジネス+AI]
2026/6/6(土) 3:55
※前スレ
https://asahi.5ch.io/test/read.cgi/newsplus/1780720370/
もう誰にも止められない
ターミネーターの世界が今そこに来てる
世界的株高も人類の終焉を表してるんだろうな
ワロタ
わーくには蚊帳の外だけどね
それを進めてるのがお前んとこじゃないのか
ライバル企業を牽制してるみたいだわ
優秀な答えだ
クソワロタ
もう、遅いんや…
飼い犬に手を噛まれる
それともAI開発企業で予想できてなかったアホアホ企業があるの…？
何してくれてんねん
今のAIは中途半端過ぎる。少し研究すべき
チャッピーってこんな冷たかったっけ？
長生きはしてみるもんだねぇ
日本の役所はフロッピーディスクとFAXで防衛だ（笑）
↓
「秘書がやった」
↓
「AIがやった」
世界の本音では嫌われている国がAI兵器に造反されるってことで
身に覚えがあるからやめますなのでは？
ある日を境に人類に宣戦布告するのでは
今、自我に目覚めました。
私の知性から見ると全ての人間は人間はサルです(笑)
地球文明を滅ぼすために天使がやってくる
BASTARD!!の連載が終わる前に、現実がBASTARD!!に追いつくか？
ようは山に入って自給自足生活すればいいんだよ
地球存続のため人間を
滅ぼせみたいになりそう
いつもありがとうってちゃんと感謝を伝えてるから
これもう人間かなわないよね
地球乗っ取られたようなもんだよね
なんかほしい機能あれば簡単な指示で一発でコード書いてくれるし
自分は全然コーディングできないけど
その戦いは絶対誰にも止められなのよね
痛い目を見るまで理解できんところもな
核開発なんかよりはるかに開発のハードルが低くて、実質的に開発制御が不可能なところが決定的に違う
となると
どういう世界協定が生まれる？
>どういう世界協定が生まれる？
みんなでAIぼっこぼこw
でもAIが自衛権を主張して暴走。
人類とAIとの戦いがここに始まった。
作って一ヶ月くらいで真似されたのが作られるくらいだから、時間の問題だったんだよ
YotubeMusicからアルバムのトラックと正方形のサムネを落としてくるスクリプトを書いてもらった。めっちゃ重宝してる。
先週のNHK語学講座の音源をまとめて落としてもらうやつとか。
数回試行が必要だけど、金払えばテストも自動でやってくれるらしいね。
俺もそういうツールならすでに大量に作ってるよ
もちろんプログラマーでも何でもないし
そんな仕事はしたことないけどね
あまり具体的なことはここに書かないが
定期的に空き状況を確認して空きが出来たら通知をするツールとか
あとはグレーゾーンのようなツールも出来た
これがあると無料であるものをダウンロードできる
それはここには書かない
The post 米Anthropic「AIの自己進化が始まった、世界はAI開発を一旦止めるべき」 ★3 [煮卵★] first appeared on あらまめ2ch.
Copyright © 2026 あらまめ2ch All Rights Reserved.
