Claude Mythos

AIの中でもとんでもなくヤバいやつが出てきました。
ヤバすぎて一般公開できないという始末で・・・

ClaudeがAIの中でもかなり優れていることは私もわかります。
唯一有料版を入れましたので。
その中でも「Mythos」このミュトスとはギリシャ語で「神話」という意味。
セキュリティの訓練をまったく受けていないAnthropicのあるエンジニアが、Claude Mythosに、一晩でリモートコード実行の脆弱性を見つけるよう頼んだ。翌朝目を覚ますと、完全に動く攻撃手段ができあがっていたそうだ。

公表されているあらゆるベンチマークで、これまでに作られた中で最も高性能なAIモデルで、レベチのものらしい。
完全に自律的に、人の指示なしで主要なすべてのOSと主要なすべてのウェブブラウザーでゼロデイ脆弱性を見つけたとのこと。

恐ろしすぎますね・・・
勝手に暴走して、核ボタンを押せる・・・なんてことにはならないのでしょうか。

AIは暴走するやつを止めるAIがどんどん出てくるでしょうね。
そのうちえらいことをやらかして大きな規制が入るんでしょう。
大事にならなければいいのですが・・・