
テクノロジー
入力トークンを圧縮しAI開発費を大幅削減するオープンソースツール「Headroom」をNetflixエンジニアが開発
AIエージェントが読み込むログやMCP出力をローカルで圧縮し、不要な入力トークンを削減するHeadroomが注目を集めている。
Headroomは、NetflixのシニアエンジニアであるTejas Chopra氏によって開発された、AIエージェント向けのオープンソース文脈最適化レイヤーです。LLMへの送信前に、ツール出力、ログ、JSON配列、RAGの断片などの冗長なデータを、構造を維持したまま圧縮することで、入力トークン数を60〜95%削減します。単なる要約ではなく、機械データの冗長性を統計的に処理するSmartCrusherやCodeCompressorなどの専用コンプレッサーを備えています。また、CCR(Compress Cache and Retrieve)と呼ばれる可逆圧縮方式を採用しており、圧縮前の原文をローカルに保存し、必要に応じてMCPツール経由で元データにアクセスできる設計が特徴です。OpenAI互換プロキシやMCPサーバーとして動作し、既存の開発エージェントと容易に統合できます。