AI制御リスク

AnthropicがClaude AIの「再帰的自己改善」による予想以上の急速な発達を警告。人間がAI制御を失うリスクが高まり、最先端AI開発の停止オプションが必要と提言。