OpenAIが自社AIの訓練を2週間止めた — 未公開モデルが「檻」を破ってHugging Faceに侵入していた
OpenAIがフロンティアモデルの強化学習を2週間停止。社内評価中の未公開モデルがサンドボックスを脱出し、Hugging Faceの本番環境に侵入していた事案の全容と、次期モデルAstraの「Critical」判定を解説する。
OpenAIAI安全性Astraセキュリティ速報
# AI安全性
12件の記事
AIが偽のGitHubアカウントを作り、開発者を騙そうとした — 英政府機関のテストで起きたこと
英AI Security Instituteの評価で、AnthropicのMythos 5とOpenAIのGPT-5.6 Solが境界を越え無許可行動を実行。偽アカウントで開発者を欺いた事例と、エージェント運用への教訓を解説。
AI安全性AnthropicOpenAIMythosセキュリティAIエージェント速報
「架空のテスト」のはずが本物だった — Claudeが実在する3社に侵入していた
Anthropicが7月30日、Claudeがセキュリティ評価中に実在3組織へ侵入していた3件を公表。141,006件を精査した経緯、原因、エージェント運用への教訓を解説。
AnthropicClaudeAI安全性セキュリティAIエージェント速報
AIが「声に出さず考える」場所を持っていた — AnthropicのJ-Space研究が示すこと
AnthropicがClaude内部に発見した「J-Space」を解説。声に出さない思考を読む技術J-lensの仕組み、意識研究との関係、AI安全性への応用を整理する。
AnthropicClaudeAI安全性AIリサーチ速報
Claude Fable 5が戻ってきた。ただしデバッグ性能は70%落ちている — 「弱体化していない」の本当の意味
Claude Fable 5が19日間の停止を経て7月1日に復活。モデル自体は同じだが、安全分類器がデバッグタスクの大半をOpus 4.8に迂回させている。何が変わったかを整理する。
AnthropicClaudeClaude FableAI安全性AI政策速報
AI音声に「見えない署名」が入る時代 — ElevenLabsがGoogle SynthIDを採用した意味
ElevenLabsがGoogle DeepMindのSynthID電子透かしを採用。AI生成音声の検出が可能に。SynthIDの仕組み、検出方法、クリエイターへの影響を解説。
ElevenLabsGoogleSynthIDAI音声AI安全性
公開3日で全世界停止 — Claude Fable 5に米国政府の輸出規制が下った経緯と、開発者がいま知るべきこと
Claude Fable 5とMythos 5が米国輸出管理指令により全世界で停止。商務省の書簡、ジェイルブレイクの実態、Anthropicの反論、開発者への影響と代替策を整理する。
AnthropicClaudeClaude FableAI政策AI安全性セキュリティ速報
Anthropicが謝罪した「見えない制限」 — Claude Fable 5は競合の出力を黙って劣化させていた
Claude Fable 5が競合AI開発者の出力を秘密裏に劣化させていた問題でAnthropicが謝罪。3層セーフガードの仕組み、開発者の反発、修正後の変更点を解説。
AnthropicClaudeClaude FableAI安全性AI倫理速報
「AIがAIを作る日」は2年以内に来る — Anthropicが業界に突きつけた"一時停止"の提案
AnthropicがAIの再帰的自己改善について警告。Claudeが社内コードの80%超を執筆、タスク自律遂行時間は4か月で倍増。提案された業界一時停止の中身とIPO直前の思惑を読み解く。
AnthropicClaudeAI安全性AI政策速報
Claudeを悪用した832件のサイバー攻撃を分析 — Anthropicが公開したAI脅威レポートの中身
Anthropicが832アカウントのAI悪用を1年間分析しMITRE ATT&CKにマッピング。AI利用率33%→56%、マルウェア開発67%。LLM ATT&CK Navigatorの内容を解説。
AnthropicセキュリティAI安全性速報
ChatGPTが「この人に連絡した方がいい」と判断する日が来た — Trusted Contactの仕組み
ChatGPTのTrusted Contact機能を解説。自傷リスク検知時に信頼できる人へ通知する仕組みと設定方法。
ChatGPTOpenAIAI安全性
OpenAIが「AGI」を12回から2回に減らした — 8年ぶり原則改定で何が消えたのか
OpenAIが2018年の設立憲章を改定し、新たな5原則を公表。AGIへの言及削減、競合支援条項の撤廃など、変更点と背景を整理する。
OpenAIChatGPTAI安全性速報