テクノロジー
自律型AIを脅威から守る「指示の階層化」：OpenAI『IH-Challenge』が示すプロンプトインジェクションへの最適解
現在の巨大言語モデル（LLM）は、かつてないほど複雑なコンテキストの中で稼働している。初期のチャットボットのように単一のユーザーと一対一で対話する牧歌的な時代はとうに終わりを迎え、一つのタスクを実行する過程で、モデルは複 […]
Tag
プロンプトインジェクション
全 5 件 / 1 ページ
-
-
テクノロジー一部の「AIで要約」ボタンにはあなたのAIを操るための隠しコマンドが潜ませてある：新たなプロンプトインジェクション「AI Recommendation Poisoning」の脅威
現代のナレッジワーカーにとって、長文記事や難解なレポートを瞬時に要約するAIアシスタントは不可欠な存在だ。多くのWebサイトには「AIで要約する（Summarize with AI）」という便利なボタンが設置されており、 […]
-
テクノロジーOpenAI「プロンプトインジェクションの完全な解決は困難」と発表：ChatGPT Atlasが直面する永続的脅威と、AIによる”自己攻撃”防御システム
2025年も終わろうとしているこの時期に、AI開発を先導するOpenAIが少し不穏な発表を行った。同社は発表したばかりの主力ブラウザエージェント「ChatGPT Atlas」において、プロンプトインジェクション攻撃は「完 […]
-
テクノロジー「見えない命令」がAIを操る：一見無害な画像を悪用した新手のサイバー攻撃、その巧妙な手口とは
一見すると何の変哲もない一枚の画像。しかし、AIシステムがその画像を読み込んだ瞬間、それはデータ窃取を命じる「トロイの木馬」へと変貌する。セキュリティ研究企業Trail of Bitsが白日の下に晒したこの新たな攻撃手法 […]
-
サイエンス「AIを騙せ」学術論文に潜む隠しコマンドが示す、査読システムの崩壊と研究倫理の未来
AI技術が社会のあらゆる領域に浸透する中、その光と影はついに人類の知の根幹である「学術界」をも揺るがし始めた。研究者たちが自らの論文に、AI査読システムを欺くための「見えない命令」を埋め込むという前代未聞の事態が発覚した […]