完善資料讓更多小伙伴認識你，還能領取20積分哦，立即完善>
標簽 > 大模型
以大模型作為基礎模型支撐AI產(chǎn)業(yè)應用邏輯已經(jīng)被證明實用性，AI大模型為AI落地應用提供了一種通用化的解決方案；各自各樣參數(shù)不一、面向不同行業(yè)、面向不同任務的“大模型”也陸續(xù)發(fā)布，大模型已經(jīng)成為整個AI 界追逐的寵兒，AI大模型有效果好、泛化性強、研發(fā)流程標準化程度高等特點。
文章：3350個 瀏覽：4879次 帖子：22個
在選擇k值時，較大的值會使生成的內(nèi)容更具多樣性，但可能會生成不合理的內(nèi)容；較小的值則使生成的內(nèi)容多樣性較低，但質量更有保證。我們可以根據(jù)任務的不同選擇合...
人工智能的基礎設施在大語言模型訓練和推理過程中發(fā)揮了關鍵的作用。隨著大語言模型規(guī)模不斷增大，其對計算和通信的需求也在不斷增加。高
2024-03-27 標簽：處理器人工智能網(wǎng)絡拓撲 3.1k 0
探索推理時KV Cache的動態(tài)內(nèi)存壓縮方法
DMC通過一個決策變量（α）來有效地對輸入序列進行分段，每個段落可以獨立地決定是繼續(xù)追加還是進行累積。這允許模型在不同段落之間動態(tài)調整內(nèi)存使用。
2024-03-22 標簽：AI動態(tài)內(nèi)存DMC 1.6k 0
通用大型語言模型（LLM）推理基準：研究者們介紹了多種基于文本的推理任務和基準，用于評估LLMs在不同領域（如常識、數(shù)學推理、常識推理、事實推理和編程）...
GEAR框架通過結合三種互補的技術來解決這一挑戰(zhàn)：首先對大多數(shù)相似幅度的條目應用超低精度量化；然后使用低秩矩陣來近似量化誤差。
不同于上述工作從待干預模型自身抽取引導向量，我們意在從LLMs預訓練過程的切片中構建引導向量來干預指令微調模型（SFT Model），試圖提升指令微調模...
在大模型的發(fā)展史上，Scaling Law（規(guī)模律）發(fā)揮了核心作用，它是推動模型性能持續(xù)提升的主要動力。Scaling Law揭示了這樣一個現(xiàn)象：較小的...
2024-03-14 標簽：操作系統(tǒng)Agi自然語言處理 611 0
對于所有“基座”（Base）模型，–template 參數(shù)可以是 default, alpaca, vicuna 等任意值。但“對話”（Chat）模型請...
首先看吞吐量，看起來沒有什么違和的，在單卡能放下模型的情況下，確實是 H100 的吞吐量最高，達到 4090 的兩倍。
OpenVINO?協(xié)同Semantic Kernel：優(yōu)化大模型應用性能新路徑
作為主要面向 RAG 任務方向的框架，Semantic Kernel 可以簡化大模型應用開發(fā)過程，而在 RAG 任務中最常用的深度學習模型就是 Embe...
研究者們提出了一個框架來描述LLMs在處理多語言輸入時的內(nèi)部處理過程，并探討了模型中是否存在特定于語言的神經(jīng)元。
篇論文主要研究了大型語言模型（LLMs）中的一個現(xiàn)象，即在模型的隱藏狀態(tài)中存在極少數(shù)激活值（activations）遠大于其他激活值的情況，這些被稱為“...
2024-03-01 標簽：大模型 1.1k 0
深度學習（DL）與自動駕駛（AD）的融合標志著該領域的重大飛躍，吸引了學術界和工業(yè)界的關注。配備了攝像頭和激光雷達的AD系統(tǒng)模擬了類似人類的決策過程。
谷歌大型模型終于開放源代碼，遲到但重要的開源戰(zhàn)略
在人工智能領域，谷歌可以算是開源的鼻祖。今天幾乎所有的大語言模型，都基于谷歌在 2017 年發(fā)布的 Transformer 論文；谷歌的發(fā)布的 BERT...
利用知識圖譜與Llama-Index技術構建大模型驅動的RAG系統(tǒng)（下）
對于語言模型（LLM）幻覺，知識圖譜被證明優(yōu)于向量數(shù)據(jù)庫。知識圖譜提供更準確、多樣化、有趣、邏輯和一致的信息，減少了LLM中出現(xiàn)幻覺的可能性。
2024-02-22 標簽：數(shù)據(jù)庫語言模型知識圖譜 2k 0
利用知識圖譜與Llama-Index技術構建大模型驅動的RAG系統(tǒng)（上）
向量數(shù)據(jù)庫是一組高維向量的集合，用于表示實體或概念，例如單詞、短語或文檔。向量數(shù)據(jù)庫可以根據(jù)實體或概念的向量表示來度量它們之間的相似性或關聯(lián)性。
2024-02-22 標簽：數(shù)據(jù)庫大模型 1.9k 0
那關于LLM的長文本能力，目前業(yè)界通常都是怎么做的？有哪些技術點或者方向？今天我們就來總結一波，供大家快速全面了解。
對于模型訓練，我們可以采用 3D 并行訓練的方式來實現(xiàn)。將模型參數(shù)和梯度張量劃分為多個分區(qū)，分配到不同 GPU 卡上進行計算。每張卡負責自己分區(qū)的梯度和...
什么是混合專家模型？混合專家模型 (MoEs)優(yōu)劣勢分析
門控網(wǎng)絡或路由: 這個部分用于決定哪些令牌 (token) 被發(fā)送到哪個專家。例如，在下圖中，“More”這個令牌可能被發(fā)送到第二個專家，而“Param...
2024-02-22 標簽：神經(jīng)網(wǎng)絡AITransformer 7k 0
換一批
編輯推薦廠商產(chǎn)品技術軟件/工具OS/語言教程專題
| 電機控制 | DSP | 氮化鎵 | 功率放大器 | ChatGPT | 自動駕駛 | TI | 瑞薩電子 |
| BLDC | PLC | 碳化硅 | 二極管 | OpenAI | 元宇宙 | 安森美 | ADI |
| 無刷電機 | FOC | IGBT | 逆變器 | 文心一言 | 5G | 英飛凌 | 羅姆 |
| 直流電機 | PID | MOSFET | 傳感器 | 人工智能 | 物聯(lián)網(wǎng) | NXP | 賽靈思 |
| 步進電機 | SPWM | 充電樁 | IPM | 機器視覺 | 無人機 | 三菱電機 | ST |
| 伺服電機 | SVPWM | 光伏發(fā)電 | UPS | AR | 智能電網(wǎng) | 國民技術 | Microchip |
| Arduino | BeagleBone | 樹莓派 | STM32 | MSP430 | EFM32 | ARM mbed | EDA |
| 示波器 | LPC | imx8 | PSoC | Altium Designer | Allegro | Mentor | Pads |
| OrCAD | Cadence | AutoCAD | 華秋DFM | Keil | MATLAB | MPLAB | Quartus |
| C++ | Java | Python | JavaScript | node.js | RISC-V | verilog | Tensorflow |
| Android | iOS | linux | RTOS | FreeRTOS | LiteOS | RT-THread | uCOS |
| DuerOS | Brillo | Windows11 | HarmonyOS |
關注我們的微信
下載發(fā)燒友APP
電子發(fā)燒友觀察
版權所有 ? 湖南華秋數(shù)字科技有限公司
長沙市望城經(jīng)濟技術開發(fā)區(qū)航空路6號手機智能終端產(chǎn)業(yè)園2號廠房3層（0731-88081133）
電子發(fā)燒友 （電路圖） 湘公網(wǎng)安備43011202000918
工商網(wǎng)監(jiān)
湘ICP備2023018690號-1
