AGI– tag –
-
Google DeepMind、高度な数学的能力を持つAIモデルを発表、推論能力を持つAIの開発に一歩近付いたか
Google DeepMindは、これまでのAIモデルとは一線を画す驚異的な数学処理能力を備えた新たなAIモデル、「AlphaProof」と「AlphaGeometry 2」を発表した。これらのAIモデルは、高度な数学的推論能力を持ち、人間の数学者と肩を並べる水準に達しているという... -
OpenAIは秘密プロジェクト「Strawberry」で、AI開発を“次の段階”に進めている
OpenAIが、AIの推論能力を飛躍的に向上させる秘密プロジェクト「Strawberry」の存在が明らかになった。Reutersが入手した内部文書によると、このAIは複雑な数学問題を解決し、自律的にWebを探索できる可能性があるとのことで、AIの次世代モデルにおける重... -
OpenAI、AIのレベルを5段階で評価、現在レベル2の「推論者」に近付いていると発表
OpenAIの目的は、あらゆるタスクを人間と同等、もしくはそれ以上の能力でこなすことが来る、汎用人工知能(AGI)の開発にあるが、その道のりはまだ遠い。同社は今回Bloombergのインタビューの中で、このAGI開発のために社内で共有しているという新しい分類... -
AIアライメントとは何か?この考えはAIの安全性に対してどのような役割を果たすのか?
ますます高性能になる人工知能(AI)システムが普及するにつれ、それらがもたらすかもしれないリスクの問題が新たな緊急性を帯びてきた。政府、研究者、開発者はAIの安全性を強調している。 EUはAI規制について動き出し、英国はAI安全サミットを開催し、オ... -
OpenAIのAI安全性担当研究者が辞職「安全性は“ピカピカの製品”よりも後回し」と批判
OpenAIでAIのアライメントと、人間を超えるAI安全性を担当していたOpenAIの主要研究者であるJan Leike氏が同社を退社した。彼はXへの投稿によって、現在のOpenAIが安全性の優先順位とプロセスが欠如しており、“間違った方向に進んでいるかも知れない”と、... -
OpenAI、これからのAIを形作る「Model Spec」フレームワークの最初の草案を公開
OpenAIは、同社が提供しているChatGPTなどのAIモデルがどのように動作しているか、そして将来的にどのように振る舞うべきかを定義する、「Model Spec」と呼ばれるフレームワークの初稿を公開した。同社はこれを公開することで、人々にこれについて話し合う... -
AIが「内なる独白」を行うようにしたところ、推論パフォーマンスが大幅に向上した
生成AIは使い方によっては便利な物だが、未だその出力は不安定な部分があり、時にデタラメを吐き出すなど問題が多い。“プロンプト・エンジニアリング”と呼ばれるような、大規模言語モデル(LLM)からの出力精度を上げる方法も数多く研究されているが、今回... -
OpenAIが数学の得意なAIを開発するのはなぜ重要なのか?
最近、OpenAIがSam Altman氏を解雇し、すぐに再雇用したことで、人工知能(AI)の開発と利用をめぐる議論が再び脚光を浴びている。さらに異例なのは、メディア報道で目立つテーマが、AIシステムの数学能力であることだ。 どうやらOpenAIのドラマの一部は、... -
OpenAIは人類にとって危険なレベルのAI開発に繋がる画期的な発見をしていた
OpenAIのSam Altman氏が先日解任され、数日で再びCEOとして復帰したが、事情に詳しい人物の話として、この解任理由の真実は、Altman氏が「取締役会に対して誠実ではなかった」事にあるのではなく、OpenAIの研究者が人類にとって危険な程に高度なAIの開発に... -
OpenAI、人間を超えるAIの暴走を防ぐため、計算能力の20%を優先的に使えるスーパーチームを結成し研究を進める
OpenAIは、トップクラスの機械学習研究者とエンジニアで構成される新チーム「Superalignment」を社内に設立する事を発表した。このチームの目的は、「人間を超える超知能を持つ人工知能が暴走しないよう」に、スケーラブルな学習方法を開発することである...
1