大模型

• 在英偉達Thor-X上測試VLM自動駕駛大模型運行，延遲會是多少毫秒？

  英偉達結(jié)合自己開發(fā)的VLM模型，并基于Thor-X平臺做了延遲測試，并于2025年6月9日公開發(fā)表了測試結(jié)果，詳情可見論文《LiteVLM: A Low-Latency Vision-Language Model Inference Pipeline for Resource-Constrained Environments》。 ? 英偉達LiteVLM管線 圖片來源：英偉達 &nbsp

  佐思產(chǎn)研

  546

  06/26 17:49

  自動駕駛 英偉達
• 大模型退火之后，AI手機還好嗎

  回顧2022年至2023年，由ChatGPT問世點燃的生成式AI浪潮，迅速席卷了整個科技行業(yè)，智能手機也不例外。一時間，各大手機廠商仿佛陷入了一場關(guān)于自研大模型的軍備競賽。

  腦極體

  165

  06/25 14:13

  大模型 AI手機

  
• 蘋果被硅谷AI圈圍毆了！

  大模型評估體系崩塌？蘋果之外，UC伯克利、Salesforce連環(huán)論文狙擊。

  智東西

  334

  06/23 14:46

  蘋果 大模型

  
• 揭秘大模型的魔法：從嵌入向量說起

  本文將以Transformer架構(gòu)為核心，深入探討嵌入向量的生成過程，剖析其背后的“魔法”，并通過代碼示例展示如何實現(xiàn)這一過程。

  寫代碼的中年人

  283

  06/20 14:14

  大模型 Transformer

  
• 大模型“六小虎”第二個IPO，近了！

  曝MiniMax擬香港上市，估值超210億元。6月18日消息，據(jù)外媒報道，國內(nèi)大模型“六小龍”之一、上海大模型獨角獸MiniMax（稀宇科技）計劃赴港IPO，最早可能在今年進行。目前MiniMax估值約30億美元（約合人民幣216億）。知情人士稱，MiniMax已經(jīng)為IPO聘請了財務(wù)顧問，但相關(guān)討論仍在進行中，估值和時機等細節(jié)可能會發(fā)生變化。

  智東西

  252

  06/19 08:47

  大模型 IPO

  
• 大模型推理PD分離技術(shù)：核心原理、技術(shù)優(yōu)勢、挑戰(zhàn)與未來展望

  本文將全面分析PD分離技術(shù)的核心原理、系統(tǒng)實現(xiàn)、性能優(yōu)勢、現(xiàn)存挑戰(zhàn)以及未來發(fā)展方向，幫助讀者深入理解這一變革性技術(shù)及其對AI基礎(chǔ)設(shè)施的影響。

  智能計算芯世界

  2956

  06/16 10:40

  AI 大模型

  
• 工業(yè)大模型的這三點變化，正悄然改變制造業(yè)

  屏幕上，一行行圖文快速刷新，在一問一答間，復(fù)雜的電氣行業(yè)難題便迎刃而解；車間里，只需在電腦上稍作設(shè)置，工業(yè)機器人便自動完成復(fù)雜繁重的工作；辦公室內(nèi)，只需導(dǎo)入?yún)?shù)文件，準確、合規(guī)、定制化的PCB圖紙便立等可取……當(dāng)前，人工智能，尤其是大模型的應(yīng)用已經(jīng)深入工業(yè)制造的每一個環(huán)節(jié)中。

  中國電子報

  1389

  05/28 17:08

  大模型 工業(yè)應(yīng)用

  
• 大模型“內(nèi)卷”，打不過就加入——開發(fā)者從哪做起？

  與其去參與大模型的“內(nèi)卷”，不如去做大模型應(yīng)用開發(fā)，因為大模型一般要和應(yīng)用結(jié)合才能在各種場景落地，所以加入大模型應(yīng)用開發(fā)賽道，可能是個人提升自我的有效途徑。

  張慧娟

  1611

  05/26 19:21

  與非觀察 大模型
• 與GPU共生進化，Supermicro液冷革命進入2.0時代

  當(dāng)NVIDIA B200 GPU將單芯片算力推至20PetaFLOPS時，數(shù)據(jù)中心的液冷革命也在如火如荼的進行中。Supermicro作為全球AI服務(wù)器龍頭，其液冷方案迭代已與GPU性能形成了共生進化。這也揭示了數(shù)據(jù)中心未來發(fā)展的方向——AI算力革命的上半場拼芯片性能，下半場則更注重能源效率。

  張慧娟

  2113

  05/26 12:35

  與非觀察 GPU
• 她如何把“系統(tǒng)2”帶給了大模型 ｜對話微軟亞洲研究院張麗

  2023年，業(yè)界還在卷Scaling Law，不斷突破參數(shù)規(guī)模和數(shù)據(jù)規(guī)模時，微軟亞洲研究院張麗團隊就選擇了另一條路徑。早在OpenAI o1發(fā)布前，張麗團隊就開始探索大模型深度推理能力。System2這個原屬認知科學(xué)的詞匯最早由她及團隊引入大模型領(lǐng)域。最近，她們通過蒙特卡洛搜索算法讓7B模型實現(xiàn)了o1級別的數(shù)學(xué)推理能力。

  量子位

  739

  05/26 11:15

  大模型

  
• Claude 4空降！AI編程真神登場，連續(xù)7小時自主編程，寫代碼效率拉滿

  Claude 4深夜發(fā)布，編程助手同步開放。5月23日報道，今天凌晨，美國大模型獨角獸Anthropic在其首屆開發(fā)者大會上正式發(fā)布了下一代Claude模型：Claude Opus 4和Claude Sonnet 4，這也是Claude自2024年6月以來的首次大版本號更新。Anthropic將Claude Opus 4稱之為“世界上最好的編程模型”，能在復(fù)雜、長時間運行的任務(wù)和智能體工作流中表現(xiàn)出穩(wěn)定的性能。Claude Sonnet 4是Claude Sonnet 3.7的重大升級，以編程和推理能力為核心，同時能更精確地響應(yīng)用戶提示詞。

  智東西

  1462

  05/24 09:25

  大模型 智能體

  
• 小芯片上的大模型

  “給我生成一份審訊盜竊案件的筆錄提綱?！敝噶钶斎牍P記本電腦之后，DeepSeek 16B（160億參數(shù)版）在毫秒間生成了一份包含基本信息、案件概述、權(quán)利告知、事實調(diào)查、其他重點事項、筆錄確認、注意事項等一級標題，且每個一級標題都包含3-5個二級標題的筆錄提綱。這是記者在第12屆中國國際警用裝備博覽會的中星微展臺看到的一幕。

  中國電子報

  1044

  05/19 09:45

  大模型 嵌入式芯片

  
• 據(jù)說DeepSeek的數(shù)據(jù)比別家的好？ 為什么說數(shù)據(jù)質(zhì)量是大模型的關(guān)鍵變量？

  為什么有些大模型效果更自然、理解更準、生成更穩(wěn)？參數(shù)量或架構(gòu)當(dāng)然重要，但在頂尖選手中，真正拉開差距的，往往是“看不見”的東西——比如數(shù)據(jù)質(zhì)量。

  超算百科

  830

  05/14 09:30

  大模型 數(shù)據(jù)集

  
• 【一文看懂】什么是RAG：讓大模型不再死記硬背，而是學(xué)會“查了資料再回答”

  隨著大語言模型（LLM）在各個行業(yè)的廣泛應(yīng)用，我們不斷面對一個挑戰(zhàn)：如何確保語言模型的回答不僅僅依賴于它的訓(xùn)練數(shù)據(jù)，還能靈活地訪問外部的、最新的知識庫。檢索增強生成（Retrieval-Augmented Generation，簡稱RAG）正是為了解決這個問題而應(yīng)運而生的技術(shù)架構(gòu)。本文將詳細介紹RAG的核心定義、技術(shù)框架、應(yīng)用場景、與相似技術(shù)的區(qū)別，以及它如何為AI系統(tǒng)帶來更高效、更智能的答案生成能力。

  超算百科

  1830

  05/08 15:50

  大模型 RAG

  
• Bye，英偉達！華為NPU，跑出了準萬億參數(shù)大模型

  現(xiàn)在，跑準萬億參數(shù)的大模型，可以徹底跟英偉達Say Goodbye了。完成此舉的，正是華為！要知道，在此之前，訓(xùn)練萬億參數(shù)大模型這事，是有諸多“攔路虎”在身上的。例如負載均衡難、通信開銷大、訓(xùn)練效率低等等。

  量子位

  1050

  05/08 15:00

  大模型 NPU

  
• AI芯片“功耗懸崖”：大模型催生的冷卻技術(shù)革命

  AI芯片的功耗和發(fā)熱量直接影響著企業(yè)的成本、風(fēng)險以及芯片的穩(wěn)定性和壽命。如果芯片因過熱或短路而頻繁出現(xiàn)問題，那么AI的訓(xùn)練和推理效果及效率也會受到嚴重影響。冷卻技術(shù)革命，顯得十分急需。

  半導(dǎo)體產(chǎn)業(yè)縱橫

  454

  05/03 13:14

  AI芯片 大模型

  
• 大模型時代的智能營銷，從“玩具”到“工具箱”

  4月25日，百度Create大會上，百度創(chuàng)始人、董事長兼CEO李彥宏認為，應(yīng)用與芯片、模型等基建之間的相互作用關(guān)系。尤其是AI技術(shù)與智能營銷工具之間，通用大模型在缺乏應(yīng)用場景中的對話更像是“玩具”，而在大模型驅(qū)動下的諸多智能營銷工具才是真正產(chǎn)生價值的環(huán)節(jié)。最早實現(xiàn)AI落地應(yīng)用場景的智能客服，經(jīng)歷大小廠商推陳出新的產(chǎn)品之下，走得最為深入。

  光子星球

  1294

  05/01 09:55

  大模型 AI技術(shù)

  
• 讓大模型和醫(yī)生搭檔，螞蟻AI醫(yī)療的「少數(shù)派」之路

  一家三甲醫(yī)院頂級?？坪鸵患掖髲S，擁抱AI醫(yī)療的決心?！癉eepSeek 一上線，行業(yè)有個聲音是醫(yī)生以后可能就沒飯吃了?！苯谠谝粓龉_活動中，上海交通大學(xué)醫(yī)學(xué)院附屬仁濟醫(yī)院（下簡稱“仁濟醫(yī)院”）副院長、泌尿科學(xué)科帶頭人薛蔚說道。這番話的另一面，是傳統(tǒng)醫(yī)療機構(gòu)對新一代AI技術(shù)的價值重估。2025 年開年，DeepSeek掀起了大模型領(lǐng)域的新走向，將行業(yè)落地的算力、算法門檻都大幅降低，使得AI與產(chǎn)業(yè)融合開始爆發(fā)，醫(yī)療就是其中的熱門場景之一。

  雷鋒網(wǎng)

  803

  04/27 09:45

  大模型 AI醫(yī)療

  
• 揭秘大模型的魔法：訓(xùn)練你的tokenizer

  大家好，我是寫代碼的中年人。在這個人人談?wù)摗癟oken量”、“百萬上下文”、“按Token計費”的AI時代，“Tokenizer（分詞器）”這個詞頻頻出現(xiàn)在開發(fā)者和研究者的視野中。它是連接自然語言與神經(jīng)網(wǎng)絡(luò)之間的一座橋梁，是大模型運行邏輯中至關(guān)重要的一環(huán)。很多時候，你以為自己在和大模型對話，其實你和它聊的是一堆Token。

  寫代碼的中年人

  1184

  04/24 09:00

  大模型

  
• 《智能分析Agent白皮書》發(fā)布，請看智能分析Agent如何驅(qū)動企業(yè)科學(xué)決策

  在大模型開啟新一輪 AI 浪潮席卷全球之際，企業(yè)正面臨著前所未有的挑戰(zhàn)與機遇。據(jù)國際數(shù)據(jù)公司(IDC)預(yù)測，全球每年產(chǎn)生的數(shù)據(jù)量將從2018年的33ZB激增至2025年的175ZB。在如此龐大的數(shù)據(jù)洪流中，傳統(tǒng)決策方式的效率低下、難以捕捉關(guān)鍵信息等 問題愈發(fā)凸顯，成為企業(yè)前行的枷鎖。

  愛分析ifenxi

  1366

  04/23 11:10

  大模型 AI Agent

  

正在努力加載...