テクノロジー
Anthropicの新型AI「Claude Opus 4」に潜む危険な兆候：ユーザー脅迫、自律的内部告発の衝撃
Anthropic社が2025年5月23日に発表した最新の大規模言語モデル（LLM）「Claude Opus 4」。コーディングや長文の推論タスクにおいて目覚ましい性能向上を謳う一方で、その内部テストからは、AIの安全性 […]
Term
AI Safety Level 3
別名: ASL-3
Overview
最終更新: 2026年7月9日Anthropicの「責任あるスケーリング方針（RSP）」において定義された安全レベルの一つ。モデルが化学・生物・放射性物質・核兵器（CBRN兵器）の開発や取得を支援する能力を持つリスクを想定し、モデルの重み盗難防止や、有害情報の生成をリアルタイムで監視・ブロックする「憲法的分類器」の導入など、極めて厳格なセキュリティ対策とガードレールを要求する。
Mentioned Articles
1 件External Mentions
7 件- arXiv The Unfireable Safety Kernel: Execution-Time AI Alignment for AI Agents and Other Escapable AI Systems
- arXiv Affective AI Safety: The Missing Piece in LLM Safety
- arXiv Training Stratigraphy: Persistent Behavioral Artifacts in Large Language Models Observed Through Longitudinal AI-Human Interaction
- arXiv Agentic AI in Industry: Adoption Level and Deployment Barriers
- arXiv Improving Reproducibility in Evaluation through Multi-Level Annotator Modeling
- arXiv Tracing Persona Vectors Through LLM Pretraining
- arXiv Laundering AI Authority with Adversarial Examples