笑看风云
DeepSeek又发新模型,小而美玩出新高度_我的网站

一 | 新华社北京8月21日电 题:暑期经济“热”力足 消费释放新动能 新华社记者王雨萧、戴锦镕、蔡馨逸 电子产品“焕新”火热,清凉商品走俏市场;文旅体验持续“上新”,“China Cool”(中国又酷又凉爽)圈粉全球游客;新业态蓬勃生长,个性化场景激活消费新动能……进入暑期以来,国内消费市场繁荣活跃,勾勒出活力十足、充满生机的经济图景。 暑期消费“热”力释放 位于北京南三环的京东MALL门店内,市民刘先生陪着即将进入大学的女儿选购新手机。

二 | 就在刚刚,DeepSeek开源了一个3B模型DeepSeek-OCR。

三 | 虽然体量不大,但模型思路创新的力度着实不小。“不少型号都有国补优惠,叠加门店补贴挺划算的。”刘先生说。 京东MALL相关负责人告诉记者,暑期以来“考后经济”持续升温,叠加近期开学季,手机、平板电脑等电子产品销售火热,7月份以来多个门店智能手机、蓝牙耳机销量同比增长超100%。 暑期多地高温带动清凉消费热度走高。 众所周知,当前所有LLM处理长文本时都面临一个绕不开的困境:计算复杂度是平方级增长的。

四 | 在广州石牌桥,今年暑期刚刚开业的“喜茶工艺”全国首店内,工艺茶特调等5个新品系列同步推出,为消费者带来别样的味蕾体验。序列越长,算力烧得越狠。 “我们的‘酸嘢’‘青柚子’等产品推出后很受欢迎,门店还打造了‘工艺长吧’,让顾客现场近距离观察制茶、烹茶、调茶等工艺环节。”门店经理吴佩妍说。 于是,DeepSeek团队想到了一个好办法。 在各大电商平台,清凉商品销售火热。天猫数据显示,近两个月家用制冰机、制冰净饮机等销量大幅增长,制冰冰箱成交额同比增长超80%。既然一张图能包含大量文字信息,而且用的Token还少,那不如直接把文本转成图像?这就是所谓的“光学压缩”——用视觉模态来给文本信息“瘦身”。 而OCR正好天然适合验证这个思路,因为它本身就是在做“视觉→文本”的转换,而且效果还能量化评估。快手平台“清凉暑季”活动期间,消暑降温类用品需求显著上升,冰垫、冰贴等订单量增长近30%。 围绕“吃住行游购娱”,各地打造多彩暑期消费场景:广东推出“暑假当然来广东”主题活动,构建全域夏日经济新生态;天津推出“水波荡漾”“夏日清凉”等八大系列特色活动;浙江启动“购在中国·浙夜好生活”2026暑期消费季,一站式串联全省特色美食、运动潮玩、夜间光影等资源…… “聚焦暑期亲子、休闲、家政等需求,我们引导生活服务平台企业打造‘8·8服务消费节’,以活动带人气、以人气聚商气,线上线下联动发展,实现数智赋能、提质惠民。

五 | ”商务部副部长鄢东说。

六 | 文旅市场亮点纷呈 在湖北省随州博物馆,戴上VR眼镜仿佛穿越历史:廊道上,宫人抬着铜鉴缶经过,编钟的铭文亮起流光,敲击正鼓、侧鼓位置,便能体验“一钟双音”的奥妙…… “此行最大的惊喜是解锁了数字文博体验,与之前逛博物馆很不一样。

七 | 论文显示,DeepSeek-OCR的压缩率能达到10倍,OCR准确率还能保持在97%以上。”体验“穿越青铜纪”VR项目后,来自武汉的大学生王松塬感到非常新奇。 去哪儿旅行数据显示,7月以来避暑游成为全国游客主要旅行选择,博物馆研学热度同比增长超七成,漂流、溯溪等亲水项目搜索量环比增加数十倍。 得益于240小时过境免签、离境退税等政策叠加效应,今年暑期,“China Cool”话题走红海外社交平台,全国多地入境旅游活力持续迸发,旅行平台上西安、香格里拉、锡林浩特等城市入境机票量实现翻倍增长。 “金甲武士”列队相迎,“仕女”挑灯引路……夜幕降临,哥伦比亚游客娜塔莉亚随着人流走向西安城墙南门文化礼仪广场,她的耳边同步传来英文播报。 啥意思呢?就是说,原本需要1000个文本Token才能表达的内容,现在只用100个视觉Token就搞定了。即使压缩率拉到20倍,准确率也还有60%左右,整体效果相当能打。“演出非常精彩,让我感受到了唐代的气象。 OmniDocBench基准测试结果显示: 只用100个视觉Token,就超过了GOT-OCR2.0(每页256个Token)的表现; 用不到800个视觉Token,干翻了MinerU2.0(平均每页超过6000个Token)。”娜塔莉亚说。 在实际生产中,一块A100-40G显卡就能每天生成超过20万页的LLM/VLM训练数据。20个节点(160块A100)直接飙到每天3300万页。 DeepSeek-OCR由两个核心组件组成: DeepEncoder(编码器):负责图像特征提取和压缩; DeepSeek3B-MoE(解码器):负责从压缩后的视觉Token中重建文本。 让我们来重点说说DeepEncoder这个引擎。 清华大学新闻与传播学院副院长蒋俏蕾表示,“China Cool”的走红,反映了外籍游客来华旅游正从传统的“打卡式”观光,转向对中国历史文化、现代科技和生活方式的沉浸式深度体验,更多外国人期待在近距离触摸中读懂更加真实可感的中国。

八 | 新业态激活消费动能 五彩零食搭起“梦幻长廊”、7万多根棒棒糖拼出巨幅人物画像……在湖南长沙的全新沉浸式零食体验空间“零食王国”里,极具视觉冲击力的场景引得游客举起手机打卡留念。 它的架构很巧妙,通过把SAM-base(8000万参数)和CLIP-large(3亿参数)串联起来,前者负责“窗口注意力”提取视觉特征,后者负责“全局注意力”理解整体信息。

九 | “我们在1.3万平方米的空间汇集了全球超3.5万款零食,打造集选购、打卡、互动于一体的探索式体验,暑期平均每天接待游客超3万人次。”鸣鸣很忙集团相关负责人梁笑介绍。 中间还加了个16×卷积压缩器,在进入全局注意力层之前把Token数量大幅砍掉。 随着消费者个性化、多样化、品质化消费需求上升,各地不断打造新业态新场景,以业态聚合、场景交融激活消费新动能。 吉林延边打造“赛事+文旅”“赛事+民俗”等模式,游客凭“东北超”票根可享免门票、半价游等;上海推出天文博物馆夜间观测等特色产品,打造暑期亲子消费新“夜”态;在湖南长沙,沉浸式互动戏剧、小剧场脱口秀等演艺项目人气火爆、座无虚席…… 近期发布的《扩大消费“十五五”规划》,明确要求“培育打造消费新业态新模式新场景”,提出推动零售、文化、旅游、健康、体育等消费业态深化技术应用、强化创意引领,提升和拓展消费体验。

十 | 举例而言,一张1024×1024的图像,会被切成4096个patch token。但经过压缩器处理后,进入全局注意力层的Token数量会大幅减少。

十一 | 这样的好处是,既保证了处理高分辨率输入的能力,又控制住了激活内存的开销。

十二 | 而且DeepEncoder还支持多分辨率输入,从512×512的Tiny模式(64个Token)到1280×1280的Large模式(400个Token),一个模型全搞定。 目前开源版本支持的模式包括原生分辨率的Tiny、Small、Base、Large四档,还有动态分辨率的Gundam模式,灵活性拉满。

十三 | 解码器用的是DeepSeek-3B-MoE架构。 别看只有3B参数,但采用了MoE(混合专家)设计——64个专家中激活6个,再加2个共享专家,实际激活参数约5.7亿。

十四 | “商务部将会同有关部门加力推进消费新业态新模式新场景试点,打造一批带动面广、显示度高的消费新场景,以新供给创造新需求、以新场景激活新消费。

十五 | ”鄢东说。这也让模型既有30亿参数模型的表达能力,又保持了5亿参数模型的推理效率。

十六 | 解码器的任务就是从压缩后的视觉Token中重建出原始文本,这个过程可以通过OCR风格的训练被紧凑型语言模型有效学习。 数据方面,DeepSeek团队也是下了血本。

十七 | 从互联网收集了3000万页多语言PDF数据,涵盖约100种语言,其中中英文占2500万页。 数据分两类:粗标注直接用fitz从PDF提取,主要训练少数语言的识别能力;精标注用PP-DocLayout、MinerU、GOT-OCR2.0等模型生成,包含检测与识别交织的高质量数据。 对于少数语言,团队还搞了个“模型飞轮”机制——先用有跨语言泛化能力的版面分析模型做检测,再用fitz生成的数据训练GOT-OCR2.0,然后用训练好的模型反过来标注更多数据,循环往复最终生成了60万条样本。

十八 | 此外还有300万条Word文档数据,主要提升公式识别和HTML表格解析能力。 场景OCR方面,从LAION和Wukong数据集收集图像,用PaddleOCR标注,中英文各1000万条样本。

十九 | DeepSeek-OCR不仅能识别文字,还具备“深度解析”能力,只需一个统一的提示词,就能对各种复杂图像进行结构化提取: 图表:金融研究报告中的图表可以直接提取为结构化数据; 化学结构式:识别并转换为SMILES格式; 几何图形:对平面几何图形进行复制和结构化解析; 自然图像:生成密集描述(dense captions)。 这在STEM领域的应用潜力巨大,尤其是化学、物理、数学等需要处理大量符号和图形的场景。 第一作者Haoran Wei此前曾供职于阶跃星辰,期间发布并开源了GOT-OCR2.0系统 值得注意的是,DeepSeek团队在论文里还提出了一个脑洞大开的想法——用光学压缩模拟人类的遗忘机制。 人类的记忆会随时间衰退,越久远的事情记得越模糊。DeepSeek团队想,那能不能让AI也这样?于是,他们的方案是: 1. 把超过第k轮的历史对话内容渲染成图像; 2. 初步压缩,实现约10倍的Token减少; 3. 对于更久远的上下文,继续缩小图像尺寸; 4. 随着图像越来越小,内容也越来越模糊,最终达到“文本遗忘”的效果。 这就很像人类记忆的衰退曲线,近期信息保持高保真度,久远记忆自然淡化。 虽然这还是个早期研究方向,但如果真能实现,对于处理超长上下文将是个巨大突破——近期上下文保持高分辨率,历史上下文占用更少计算资源,理论上可以支撑“无限上下文”。

| 简言之,DeepSeek-OCR表面上是个OCR模型,但实际上是在探索一个更宏大的命题:能否用视觉模态作为LLM文本信息处理的高效压缩媒介? 初步答案是肯定的,7—20倍的Token压缩能力已经展现出来了。 当然,团队也承认这只是个开始。单纯的OCR还不足以完全验证“上下文光学压缩”,后续还计划开展数字–光学文本交替预训练、“大海捞针”式测试,以及其他系统性评估。 不过不管怎么说,这在VLM和LLM的进化路上,又多了一条新赛道。 去年这个时候,大家还在卷怎么让模型“记得更多”。

| 今年DeepSeek直接反其道行之,不如让模型学会“忘掉一些”。

| 确然,AI的进化,有时候不是做加法,而是做减法。小而美,也能玩出大花样,DeepSeek-OCR这个3B小模型就是最好的证明。 GitHub主页:http://github.com/deepseek-ai/DeepSeek-OCR 论文地址:https://github.com/deepseek-ai/DeepSeek-OCR/blob/main/DeepSeek\_OCR\_paper.pdf 模型下载:https://huggingface.co/deepseek-ai/DeepSeek-OCR 本文来自微信公众号:APPSO (ID:appsolution)。
Current article:http://www.chenzhuaigecoupuhongyuntuizei.sbs/eixyf/g0xi.xls
Published on:09:08:25
