テクノロジー
PCとスマホが「AIデータセンター」に変わる日：新技術「SpecEdge」がLLMの運用コストを7割も削減可能に
生成AI革命の裏側で、大きく問題視されるようになってきたのが「コスト」と「電力」だ。ChatGPTやClaudeといった最先端の大規模言語モデル（LLM）を稼働させるには、NVIDIA H100のような高性能かつ極めて高 […]
Tech Product
Llama-2
別名: Llama 2
Overview
Llama-2は、Meta（旧Facebook）が公開したオープンソースの大規模言語モデルの第2世代です。商用利用が可能で、研究者や開発者が独自のAIアプリケーションを構築するために広く利用されています。
Mentioned Articles
10 件-
-
サイエンスAIは人間のように「考える」のか？ Transformerモデルの内部処理に人間との驚くべき類似性が見出された
大規模言語モデル（LLM）をはじめとする現代のAIは、時に人間と見紛うほど自然な文章を生成し、複雑なタスクをこなす。しかし、その「思考」プロセスはブラックボックスとされ、人間と同じように答えを導き出しているのか、それとも […]
-
テクノロジーIntelが大規模リストラを実施、AI市場でのNVIDIA追撃を断念か
半導体大手のIntelが、米国国内で2,200人を超える大規模な人員削減を実施することが明らかになった。この動きは、同社が掲げる全従業員の約15%（およそ15,000人）を削減する計画の一環である。 2,200人以上の従 […]
-
テクノロジーNVIDIA、画像検索、音声認識機能などを追加したローカルAIチャットボットアプリ「ChatRTX」をリリース
NVIDIAは2月にNVIDIA GPUを使ってローカルでAIチャットボットを駆動させられる「Chat with RTX」のデモを公開したが、今回これをアップデートすると共に名称を改め、「ChatRTX」アプリとしてRT […]
-
テクノロジーMicrosoft、GPT-3.5を超える性能をスマホ上で実行可能な「Phi-3」を発表
Microsoftは、「Phi-3」と名付けられた、新しい軽量言語モデルを発表した。このモデルは、OpenAIのGPT-4 Turboのような大規模言語モデル（LLM）よりもシンプルで軽量に動作するため、スマートフォンの […]
-
テクノロジーMistral AI、オープンソースLLM「Mixtral 8x22B」をリリース、他のオープンソースLLMを圧倒する性能
フランスのAIスタートアップMistral AIは、オープンソースにおいて、最高の性能と効率を達成したとする新型オープンソース言語モデル「Mixtral 8x22B」を発表した。 このモデルは、1,410億個のパラメータ […]
-
テクノロジーAMD、AIパフォーマンスの向上を図ったビジネス向けRyzen Pro 8000チップシリーズを発表
AMDはビジネスユーザー向けに、AI性能を向上させた新たなデスクトップ向け「Ryzen Pro 8000」チップとモバイル向け「Ryzen Pro 8040」チップシリーズを発売した。 ProシリーズはAMDの既存のコン […]
-
テクノロジーOperaブラウザ、ローカルLLMをユーザーが手軽に利用できる機能を追加
WebブラウザのOperaは、大規模言語モデル（LLM）をローカルにダウンロードして使用できる新機能の追加を発表した。まずはテスト段階での導入のようで、デベロッパー・ストリーム・アップデートを受信しているOpera On […]
-
テクノロジー世界初のAIソフトウェア開発者「Devin」は独自のAIを訓練して作り出し、人間に頼らずソフトウェア開発を行える
AIが今後奪うであろう職種の筆頭に、まさかソフトウェアエンジニアが挙げられるとは数年前には想像もしなかっただろう。だがそれがついに現実になりそうだ。Cognition Labsは、世界初のAIソフトウェア開発者である「D […]
-
テクノロジーAIスタートアップGroqがLLMを超高速で処理する「LPU」を発表、ほぼリアルタイムでのテキストを生成が可能に
AIスタートアップGroqは、公開ベンチマークで全ての競合を上回る、非常に高速なLPU推論エンジンを発表した。 Groqによると、LPU（Language Processing Unit™）は、大規模言語モ […]
External Mentions
10 件- arXiv Online Shift Detection and Conformal Adaptation for Deployed Safety Classifiers
- arXiv Quantifying Subliminal Behavioral Transfer Ratios in Language Model Distillation
- arXiv RATrain: A Resource-Aware Training Runtime for Large Language Models on Bandwidth-Constrained Heterogeneous Supercomputing Platforms
- arXiv The Order Matters: Sequential Fine-Tuning of LLaMA for Coherent Automated Essay Scoring
- arXiv Automated IEP Generation from Traditional Chinese Parent-Teacher Interviews via Corpus-Grounded Feature Diffusion
- Hacker News Fast and Portable Llama2 Inference on the Heterogeneous Edge
- Hacker News Llama 2 Everywhere (L2E): Standalone, Binary Portable, Bootable Llama 2
- Hacker News Fine-tune your own Llama 2 to replace GPT-3.5/4
- Hacker News Fine-Tuning Llama-2: A Comprehensive Case Study for Tailoring Custom Models
- Hacker News Run Llama 2 uncensored locally