テクノロジー
自律型AIを脅威から守る「指示の階層化」:OpenAI『IH-Challenge』が示すプロンプトインジェクションへの最適解
現在の巨大言語モデル(LLM)は、かつてないほど複雑なコンテキストの中で稼働している。初期のチャットボットのように単一のユーザーと一対一で対話する牧歌的な時代はとうに終わりを迎え、一つのタスクを実行する過程で、モデルは複 […]
OpenAIがIH-Challengeデータセットの有効性を検証するために構築した内部モデル。従来のモデルと比較して、推論能力を維持したままプロンプトインジェクション耐性とシステム指示への忠実度(操縦性)が大幅に向上している。