テクノロジー
なぜトップAI研究者はOpenAIやGoogleを捨て、Anthropicを選ぶのか？
シリコンバレーを震源地とするAI開発競争が、新たな局面を迎えている。それは「人材」、それも世界最高峰の頭脳を巡る静かで、しかし熾烈な争いだ。そして今、その勢力図に驚くべき地殻変動が起きていることが明らかになった。AI業界 […]
Term
Jan Leike
Overview
Jan Leikeは、AIシステムが人間の意図に従うように設計する「アライメント」研究の第一人者です。OpenAIにおいて、人間によるフィードバックからの強化学習（RLHF）などの技術開発に携わり、超知能の安全な制御を目指すSuperalignmentチームの共同責任者を務めました。
Mentioned Articles
5 件-
-
テクノロジーOpenAI、新たな安全委員会を設置と次の主要AIモデルのトレーニング開始を発表
OpenAIがAI開発において安全性を軽視しているのではないかとの批判がある中、同社はCEOのSam Altman氏らが指揮を執る新たな安全チームを結成することを発表したが、それに加え、次期フラッグシップAIモデル（それ […]
-
テクノロジーOpenAI、超知能を持つAIの安全性を研究する専門チームを1年も経たずに解散
WiredとBloombergの報道によると、OpenAIは、将来の高性能AIシステムの安全性を確保することに重点を置き、昨年7月に設立したばかりの「Superalignment」チームを解散した。今後同チームは独立した […]
-
テクノロジーOpenAIのAI安全性担当研究者が辞職「安全性は“ピカピカの製品”よりも後回し」と批判
OpenAIでAIのアライメントと、人間を超えるAI安全性を担当していたOpenAIの主要研究者であるJan Leike氏が同社を退社した。彼はXへの投稿によって、現在のOpenAIが安全性の優先順位とプロセスが欠如して […]
-
テクノロジーOpenAI、人間を超えるAIの暴走を防ぐため、計算能力の20％を優先的に使えるスーパーチームを結成し研究を進める
OpenAIは、トップクラスの機械学習研究者とエンジニアで構成される新チーム「Superalignment」を社内に設立する事を発表した。このチームの目的は、「人間を超える超知能を持つ人工知能が暴走しないよう」に、スケー […]
External Mentions
7 件- Hacker News Show HN: Sweep, Open-weights 1.5B model for next-edit autocomplete
- Hacker News Anthropic disabled my account after payment cancer patient/medical data trapped
- Hacker News Jan Leike joins Anthropic on their superalignment team
- Hacker News "I lost trust": Why the OpenAI team in charge of safeguarding humanity imploded
- Hacker News Jan Leike's OpenAI departure statement
- Hacker News Jan Leike resigns from OpenAI
- Hacker News Jan Leike Resigns from OpenAI