《科技創(chuàng)新板日報(bào)》2月8日訊(編輯 郭輝） “80元打造個(gè)人語音助手”、“150塊DIY豆包智能機(jī)器人”...隨著DeepSeek的爆發(fā)，個(gè)人用戶一夜之間部署了AI大模型“出圈”。
科技界圍繞人工智能降低成本的工作不是一蹴而就的。業(yè)內(nèi)人士表示，DeepSeek在算法層面的推理成本優(yōu)化為國內(nèi)計(jì)算能力芯片和計(jì)算集群網(wǎng)絡(luò)等硬件端的發(fā)展贏得了更多的空間，軟硬件成本的降低也將為國內(nèi)人工智能應(yīng)用帶來機(jī)遇，從而形成產(chǎn)業(yè)發(fā)展的積極循環(huán)。
越來越多的個(gè)人開發(fā)者部署低成本的人工智能模型實(shí)踐，讓公眾更清楚地認(rèn)識到人工智能包容性時(shí)代已經(jīng)到來，終端人工智能著陸箭在弦上。PC產(chǎn)品被認(rèn)為是終端人工智能模型著陸的第一站。接受采訪的供應(yīng)鏈人士認(rèn)為，目前更大的想象空間仍在智能眼鏡、人工智能玩具等智能身體的應(yīng)用中，DeepSeek帶來的輕型模型將對智能終端行業(yè)產(chǎn)生積極的影響。
個(gè)人用戶部署大模型很受歡迎 40元開發(fā)板月售萬件
“80元買一塊開發(fā)板，按照教程連接硬件和燒錄固件，就可以訪問DeepSeek等大型模型，打造個(gè)人語音助手系統(tǒng)。”在技術(shù)社區(qū)，一些開發(fā)者分享了部署人工智能的技術(shù)帖子。
不僅如此，《科技創(chuàng)新委員會日報(bào)》編輯還注意到，花150元建造一個(gè)豆袋智能機(jī)器人，358元建造一個(gè)接入大型模型和手勢識別、觸摸交互的機(jī)器人。可以說，最近的持續(xù)爆炸使得人工智能模型部署的知識交流也很熱，也使人工智能智能工具的低成本建設(shè)進(jìn)入了更廣泛的公眾視野。
“萬能淘寶”和技術(shù)開源貢獻(xiàn)加速了這一切進(jìn)入現(xiàn)實(shí)。
據(jù)了解，以上方案都是基于樂信科技的ESP系列芯片。在淘寶上搜索ESP32關(guān)鍵詞，可以看到很多商家賣開發(fā)板或者套件，包括樂信的官方企業(yè)店。不同套件的價(jià)格可以低至20元，屏幕、揚(yáng)聲器、麥克風(fēng)套件的價(jià)格可以高至340元。
《科技創(chuàng)新板日報(bào)》編輯注意到，一套價(jià)格80元的聊天機(jī)器人ESP32-S3開發(fā)套件，全網(wǎng)銷量已超過1000件；價(jià)格40元的ESP32-S3開發(fā)板顯示月銷量超過1萬件。
在評論區(qū)，大多數(shù)消費(fèi)者都是個(gè)人開發(fā)者。購買商品后，商家將附上教學(xué)視頻，并為用戶提供技術(shù)支持。
“新手小白也可以一站式操作”、“老板教我12:30(晚上)、“老板還在教我晚上10點(diǎn)燒錄”...很多買家反饋產(chǎn)品購買體驗(yàn)。
據(jù)樂信科技報(bào)道，其ESP32-S3芯片硬件具有加速神經(jīng)網(wǎng)絡(luò)計(jì)算和信號處理的向量指令，人工智能開發(fā)者通過ESP-DSP和ESP-使用這些向量指令，NN庫可以實(shí)現(xiàn)高性能的圖像識別、語音喚醒和識別。
一些開發(fā)者表示，ESP32-S3支持在本地離線運(yùn)行一些人工智能模型，如語音識別、人臉識別和移動檢測。然而，大多數(shù)自然語言對話交互仍然需要在線訪問大型語言模型。
恒玄科技、中科藍(lán)訊、聚芯科技等公司的SOC芯片除樂信科技外，還應(yīng)用于終端AI部署。
其中，恒玄科技應(yīng)用于可穿戴設(shè)備中的BECO嵌入式AI協(xié)處理器，可以與主CPU核心合作，完成基于神經(jīng)網(wǎng)絡(luò)AI算法的音頻處理，同時(shí)保持較低的功耗水平。
聚芯科技將低功耗人工智能加速引擎集成到最新一代產(chǎn)品中，采用基于SRAM的存儲計(jì)算技術(shù)，并逐步將產(chǎn)品升級為CPU、DSP加NPU三核異構(gòu)計(jì)算架構(gòu)，打造低功耗端AI計(jì)算能力。
產(chǎn)業(yè)鏈人士:看好DeepSeek對AI端側(cè)的積極影響
DeepSeek的誕生，進(jìn)一步為端側(cè)AI落地應(yīng)用開辟了想象空間。
據(jù)了解，通過蒸餾，大模型推理能力可以遷移到小參數(shù)模型，可以大大提高人工智能部署的靈活性。根據(jù)光大證券分析師劉凱2月6日發(fā)布的研究報(bào)告，蒸餾模型為1.5B、7B、8B、14B、32B、70B和其他版本，雖然蒸餾會失去一些能力，但更小的參數(shù)意味著更大的靈活性。第三方可以從DeepSeek-R1中蒸餾出更多版本的小參數(shù)模型，并部署到手機(jī)、筆記本電腦、智能家居產(chǎn)品等終端產(chǎn)品中。預(yù)計(jì)它將有助于提高硬件銷售，并出現(xiàn)更多基于人工智能服務(wù)的付費(fèi)點(diǎn)。
端側(cè)人工智能的落地來勢洶涌，其前景也得到了產(chǎn)業(yè)鏈人士的證實(shí)和樂觀。
一家存儲芯片制造商告訴《科技創(chuàng)新委員會日報(bào)》，DeepSeek對人工智能側(cè)存儲有積極的影響，目前對端側(cè)人工智能智能眼鏡產(chǎn)品的著陸特別樂觀。從行業(yè)的角度來看，海外公司Meta的人工智能眼鏡是32GB容量+2GB配置，大型模型可以作為本地化工具使用，未來智能眼鏡的存儲容量可能會增加。
該人士表示，“預(yù)計(jì)今年國內(nèi)智能眼鏡肯定會爆發(fā)，至少在2026年。”
國內(nèi)消費(fèi)電子配套芯片公司的一位人士告訴《科技創(chuàng)新委員會日報(bào)》，盡管他們的產(chǎn)品幾乎在產(chǎn)業(yè)鏈的頂端，但他們?nèi)匀豢梢愿惺艿紻eepSeek對智能終端行業(yè)的積極影響。”在人工智能降低成本后，終端應(yīng)用程序預(yù)計(jì)將大幅爆發(fā)，并繼續(xù)對眼鏡、玩具、人工智能手機(jī)持樂觀態(tài)度AI PC等消費(fèi)電子產(chǎn)品。
華安證券分析師陳耀波在2月6日發(fā)布的研究報(bào)告中表示，端側(cè)人工智能能力的實(shí)現(xiàn)需要端側(cè)人工智能模型的實(shí)施。從國內(nèi)手機(jī)制造商的角度來看，他們都推出了文檔摘要、人工智能修復(fù)等端人工智能功能，包括華為的盤古模型和小米的MiLM、基于DeepSeeekR1，vivo的藍(lán)心大模型在推理能力上表現(xiàn)出色。如果能進(jìn)入AI智能終端，就會推出AI功能強(qiáng)大的產(chǎn)品，有望提升用戶體驗(yàn)。
以人工智能眼鏡產(chǎn)業(yè)鏈為例，光大證券表示，對與日常需求相結(jié)合產(chǎn)生的巨大市場空間持樂觀態(tài)度。建議關(guān)注恒軒科技、中科藍(lán)訊、星辰科技、富漢微、云天勵飛-U、聚芯科技等SOC芯片制造商；以及普然股份、兆易創(chuàng)新、百維存儲、長盈精密等部件。
Deepseek為國內(nèi)硬件端的發(fā)展?fàn)幦「嗟目臻g
PC產(chǎn)品還包括兩個(gè)屬性：生產(chǎn)力工具和個(gè)人智能管家，被認(rèn)為是端側(cè)模型的第一站。在一些PC主機(jī)制造商的領(lǐng)導(dǎo)下，DeepSeek模型和國產(chǎn)計(jì)算芯片的適應(yīng)性進(jìn)展超出了許多人的想象。
《科技創(chuàng)新委員會日報(bào)》編輯了解到，最近配備龍芯中科3A6000處理器的新創(chuàng)PC宣布實(shí)現(xiàn)本地化部署。據(jù)成邁科技報(bào)道，實(shí)現(xiàn)本地部署后，DepSeek不需要依賴云服務(wù)器，避免了網(wǎng)絡(luò)波動或服務(wù)器過載造成的服務(wù)中斷，確保了信息安全。例如，在涉及大量敏感信息和個(gè)人隱私的場景中，用戶可以完成文檔處理、數(shù)據(jù)分析、內(nèi)容創(chuàng)建、圖片編輯和代碼生成，防止數(shù)據(jù)泄露。
國內(nèi)GPU制造商沐曦與聯(lián)想合作，推出DeepSeek智能一體機(jī)，解決快速部署的問題。該產(chǎn)品配備了聯(lián)想AI Force智能體開發(fā)平臺深度整合DeepSeek等主流大型模型庫，通過私有化部署實(shí)現(xiàn)安全合規(guī)、高度定制和再開發(fā)能力。測量數(shù)據(jù)顯示，在相同的并發(fā)條件下，沐曦Xin260 Qwen2GPU.5-14B模型推理實(shí)測性能達(dá)到NVIDIA L20 GPU的110%-130%可以支持DepSeek各種參數(shù)蒸餾模型推理的本地部署。
DeepSeeek作為開源模型，除了本地化部署外，還通過各大云計(jì)算平臺為中小企業(yè)和個(gè)人用戶提供人工智能服務(wù)資源。
一些業(yè)內(nèi)人士告訴《科技創(chuàng)新委員會日報(bào)》，從商業(yè)模式的角度來看，DeepSeek目前處于開源狀態(tài)，云計(jì)算平臺可以遵循開源協(xié)議。對于用戶來說，計(jì)算平臺可能會增加計(jì)算成本或相關(guān)服務(wù)成本，但考慮到算法模型公司的資產(chǎn)投資，云計(jì)算平臺作為一個(gè)“賣家”，仍然是一個(gè)相對高效和穩(wěn)定的選擇。事實(shí)上，“最近的熱點(diǎn)使得對計(jì)算平臺的需求顯著增加”。
該消息人士還表示，基于主流云平臺的異構(gòu)計(jì)算方案，DeepSeek也在一定程度上推動了國內(nèi)大型計(jì)算芯片和異構(gòu)計(jì)算方案被市場接受，進(jìn)一步降低了人工智能培訓(xùn)成本。
目前，阿里巴巴、騰訊、超級計(jì)算機(jī)互聯(lián)網(wǎng)等計(jì)算能力平臺已經(jīng)推出了DeepSeek系列模型。在算法和計(jì)算能力網(wǎng)絡(luò)的共同優(yōu)化下，云計(jì)算平臺適應(yīng)了DepSeek模型，并提供了服務(wù)，降低了終端訪問大型模型的成本和部署閾值。
以阿里云為例，用戶可以一鍵部署DeepSek-V3，無需編寫代碼。、DeepSeek-R1，實(shí)現(xiàn)了從模型培訓(xùn)到部署再到推理的整個(gè)過程，大大簡化了人工智能模型的開發(fā)過程。在價(jià)格成本方面，阿里巴巴云服務(wù)用戶可以選擇公共資源組來節(jié)省計(jì)劃，或購買預(yù)付費(fèi)EAS資源組來節(jié)省成本。超級計(jì)算互聯(lián)網(wǎng)平臺不需要用戶部署或復(fù)雜操作。它可以使用DeepSeek模型打開盒子，并提供無限的免費(fèi)體驗(yàn)服務(wù)。
“與本地部署相比，端側(cè)大模型的在線訪問更容易，但總的來說，DeepSeek確實(shí)降低了更多人工智能應(yīng)用程序的軟硬件成本。”一些計(jì)算能力行業(yè)人士表示，DeepSeek在算法層面的優(yōu)化為國內(nèi)硬件端的發(fā)展贏得了更多的空間，也為國內(nèi)人工智能應(yīng)用帶來了機(jī)遇，進(jìn)一步加強(qiáng)了國內(nèi)人工智能從算法、計(jì)算能力到應(yīng)用的生態(tài)閉環(huán)。
編輯：金杜
湘公網(wǎng)安備43010502001700號