OpenAIがAI開発において安全性を軽視しているのではないかとの批判がある中、同社はCEOのSam Altman氏らが指揮を執る新たな安全チームを結成することを発表したが、それに加え、次期フラッグシップAIモデル（それがGPT-5と呼ばれるかは分からないが）のトレーニングを開始した事を明らかにしている。
取締役が安全性とセキュリティを監視
OpenAIのこの決定は、先に明らかとなった、AIの本質的な脅威から人類を守ることを任務とする「Superintelligent」チームを解散してからまだそう日も経っていない中での出来事だ。
新たな安全・セキュリティ委員会はOpenAIの取締役会によって構成され、取締役のBret Taylor氏（議長）、Nicole Seligman氏、Adam D’Angelo氏、Sam Altman氏（CEO）が率いる。
今後90日間で、この委員会はすべてのOpenAIのプロジェクトに対して、重要なセキュリティの決定に関する勧告を作成するとのことだ。
議論が完了した後、OpenAIは、セキュリティ要件で許される範囲で、委員会の提言を公開する予定だ。委員会には、元サイバー長官のRob Joyce氏をはじめとする技術・政策コミュニティのOpenAIの専門家や、外部のセキュリティ専門家が参加している。
この2週間、AGIの安全性研究者の多くがOpenAIから去っている。彼らは、同社が安全性を軽視しており、商業製品のリリースを早めることに執着していると非難していた。共同創業者のIlya Sutskever氏は袂を分かち、主要研究者であるJan Leike氏は同社を去った後Xにて批判を繰り広げていた。
GPT-5とその先
OpenAIはまた、“最近、次のフロンティアモデルのトレーニングを開始し、その結果、AGIへの道において次のレベルの能力をもたらすシステムを期待しています”と、新たなAIモデルの開発を本格化させている事を明らかにした。
噂によると、OpenAIはGPT-4.5のような中間ステップを今年の夏にリリースする予定だという。GPT-5は年末に計画されている可能性が高い。
先日開催されたMicrosoftの開発者会議Buildで、同社 CTOのKevin Scott氏は、OpenAIの次世代モデルのために、桁違いの規模のコンピューティングパワーを用いる事を明らかにしており、その規模の違いを“シャチとクジラ”と比較していた。
ただし、この最近トレーニングを開始したモデルが既にGPT-5の後継になる可能性もある。AIモデルのトレーニング段階には数カ月かかる可能性があり、その後、機能テストと安全性テストが行われるが、これも数カ月かかる可能性がある。最近開始されたトレーニングは、GPT-5の後継機であるとも考えられそうだ。
Source
コメント