テクノロジー
AI業界の重鎮たち、「超知能」研究の終了を求める
私は30年以上にわたりAIの分野で働いてきた。その中には、1955年に「人工知能」という用語を作り出したJohn McCarthyのような先駆者たちとの仕事も含まれる。 ここ数年の科学的ブレークスルーにより、医療、科学、 […]
Term
Nick Bostrom
別名: ニック・ボストロム
Overview
ニック・ボストロムは、オックスフォード大学の「人類の未来研究所（Future of Humanity Institute）」の元所長であり、存亡リスクや人間拡張、シミュレーション仮説などを専門とする哲学者である。著書『スーパーインテリジェンス』において、AIが人間の知能を追い越した際に発生する「知能爆発」のリスクを詳細に分析し、ペーパークリップの最大化を命じられたAIが地球を破壊する例え話（ペーパークリップ・マキシマイザー）を用いて、目標設定の危うさを説いた。
Mentioned Articles
1 件External Mentions
10 件- Hacker News New Nick Bostrom Paper: Optimal Timing for Superintelligence [pdf]
- Hacker News The Fable of the Dragon-Tyrant (2005)
- Hacker News The Vulnerable World Hypothesis [pdf] (2019)
- Hacker News Information Hazards: A Typology of Potential Harms from Knowledge [pdf]
- Hacker News The Fable of the Dragon-Tyrant (2005)
- Hacker News The Fable of the Dragon-Tyrant (2005)
- Hacker News The Fable of the Dragon-Tyrant (2005)
- Hacker News The Doomsday Invention
- Hacker News The Fable of the Dragon-Tyrant (2005)
- Hacker News Ask HN: What is your favorite TED talk?