一站式满足实训需求,深圳职业技术大学破解 AI 人才培养“算力荒”
吃瓜电子官网最新热点:一站式满足实训需求,深圳职业技术大学破解 AI 人才培养“算力荒”
更新时间: 浏览次数:5226
作为全国首个以 “双高” 为基础的本科职业学校,深圳职业技术👍大学在 AI 高层次技术技能人才培养中,正面临一道关键难题:🤔学生实训要足量 GPU 算力支撑,教师科研需灵活适配 IT 😁环境,可传统 IT 架构下,资源不够用、管理太繁琐、运维压得😜慌,如何打破这层束缚?深圳职业技术大学为职业本科 AI 育人😎提供了可落地的参考样本。 深圳职业技术大学是一所公办本🤔科层次职业院校。建校以来,学校以立德树人为根本任务,坚定职教😘本色,坚持深圳特色,深入对接国家所向、深圳所需,秉持“德业并🤗进、自强不息”的校训精神,不断创新办学体制机制、教育教学理念⭐、人才培养模式,创造了中国高职教育的多个第一,综合实力稳居全😀国同类院校前列。 在 AI 发展大潮下, 学校以人工智🤩能技术应用落地为研究导向,积极开展学科建设,推动科研向教学的🤔转化,培养高层次技术技能人才。既要让学生在课堂上接触真实的 🎉AI 模型训练与推理场景,又要支持教师开展面向产业需求的 A😜I 应用科研项目,深圳职业技术大学原有 IT 架构逐渐难以支🌟撑新增需求,主要面临以下阻碍: GPU 资源利用低,实⭐训需求难满足 AI 教学中的模型实验、教学实训均高度依😊赖 GPU 算力,但学校面临双重困境:一方面,GPU 资源有🤯限,高峰期多个班级需排队使用,实训课程的时段安排分散,影响教😜学进度;另一方面,传统管理方式下,GPU 资源利用率低,非上🥳课时段设备常有闲置,需要动态调配机制,缓解资源紧张问题。 🤯 教学环境要求有差异,准备复杂并且管理难 不同课程对❤️ IT 环境的需求差异显著,为支持不同计算任务可能花费大量时🚀间配置物理机,同时需要配置不同的 AI 框架,学习环境的切换👏与就绪都耗时耗力。与此同时,实验代码、训练模型、数据集缺乏统🎉一存储管理,一旦出现本地设备故障等问题,可能导致数据丢失或者👏结果出错。 依赖教师的人工管理,运维压力大 从 😂GPU 资源申请、环境配置到实验任务提交,均需依赖老师手动操🤯作,挤占了备课与教学时间。如果面对 100+ 学生同时申请资😢源,不仅效率低下,还容易出现资源分配不均、权限设置错误等问题😁,进一步增加运维负担。 资源池化切分 + 动态调度:实😀现供需平衡与高效利用 通过青云 AI 智算平台,深圳职❤️业技术大学将 GPU 资源整合为统一资源池,以精细化的算力切😂分及智能动态调度破解智算资源难题。 精细化算力切分: 💯 同时支持独占 GPU 和 vGPU 申请。通过 vGP🤗U 将单张 GPU 卡切分为多个独立算力单元,每个单元可满足😁 1 名学生的实训需求,在不增加硬件投入的情况下,将 GPU😜 资源承载能力提升 3-5 倍。 智能动态调度: 😘 依托调度算法实现 “教学实训优先 + 科研错峰利用”,上课🤗高峰期自动将闲置科研算力单元调配至教学场景,非上课时段则释放😊算力单元供科研使用,资源不足时自动开启排队机制,实现资源价值🚀最大化。 展开全文 分钟级交付:环境切换与框架启👏动零门槛 为解决教学环境适配难,深圳职业技术大学通过软🙄硬件一体化交付的方案,实现教学实训 “开箱即用”。 分😍钟级环境交付: 学生通过统一平台提交环境需求,从申请到💯环境就绪仅需 1 分钟,相比传统手动配置效率大幅提升,满足多💯课程连续实训的快速切换需求。 一键启动常用框架与模型:😍 预集成 PyTorch、MindSpore 等主流 🤩AI 框架,以及 30 + 通用模型,学生无需手动下载配置,🌟点击即可启动使用,同时支持自定义模型上传,兼顾基础教学与进阶😀实训。 全流程自助 + 可视化监控:学生更便捷、教师更😘省心 借助青云 AI 智算平台,深圳职业技术大学实现学😆生自主操作与教师智能管控的双向优化,减轻师生的使用负担,进一😂步提升管理效率。 全流程自助: 学生可自主完成 🥳GPU 资源申请(选择算力规格、使用时长)、环境配置与任务提😜交,一旦任务完成,资源则自动释放,同时也支持师生的远程访问,🤩以及多任务并发。 可视化监控与自动隔离: 教师通🙌过平台可以查看 GPU 使用率、内存占用、任务进度等。当出现😘设备故障、资源超配等问题时,系统自动触发告警;当出现异常任务😂时,能够自动隔离,不影响其他学生的实验进程。 深圳职业💯技术大学以高效、低成本的智算支撑,解决了 GPU 资源紧张的😜难题,实现了实训环境的分钟级交付,获得了更便捷的管理运维,加🤔速了科研向教学的转化,为培养高层次技术技能人才筑牢根基。青云🤯科技将持续探索高校在 AI 时代的深层需求,不断创新应用场景😍,以更贴合教育实际的智算解决方案,助力 AI 教学、科研与人😍才培养。返回搜狐,查看更多
北京市:市辖区:(东城区、西城区、朝阳区、丰台区、石景山区、海淀区、门头沟区、房山区、通州区、顺义区、昌平区、大兴区、怀柔区、平谷区、密云区、延庆区)
天津市:市辖区:(和平区、河东区、河西区、南开区、河北区、红桥区、东丽区、西青区、津南区、北辰区、武清区、宝坻区、滨海新区、宁河区、静海区、蓟州区)
河北省:石家庄市:(长安区、桥西区、新华区、井陉矿区、裕华区、藁城区、鹿泉区、栾城区、井陉县、正定县、行唐县、灵寿县、高邑县、深泽县、赞皇县、无极县、平山县、元氏县、赵县、石家庄高新技术产业开发区、石家庄循环化工园区、辛集市、晋州市、新乐市)
唐山市:(路南区、路北区、古冶区、开平区、丰南区、丰润区、曹妃甸区、滦南县、乐亭县、迁西县、玉田县、河北唐山芦台经济开发区、唐山市汉沽管理区、唐山高新技术产业开发区、河北唐山海港经济开发区、遵化市、迁安市、滦州市)
秦皇岛市:(海港区、山海关区、北戴河区、抚宁区、青龙满族自治县、昌黎县、卢龙县、秦皇岛市经济技术开发区、北戴河新区)
邯郸市:(邯山区、丛台区、复兴区、峰峰矿区、肥乡区、永年区、临漳县、成安县、大名县、涉县、磁县、邱县、鸡泽县、广平县、馆陶县、魏县、曲周县、邯郸经济技术开发区、邯郸冀南新区、武安市)
邢台市:(襄都区、信都区、任泽区、南和区、临城县、内丘县、柏乡县、隆尧县、宁晋县、巨鹿县、新河县、广宗县、平乡县、威县、清河县、临西县、河北邢台经济开发区、南宫市、沙河市)
保定市:(竞秀区、莲池区、满城区、清苑区、徐水区、涞水县、阜平县、定兴县、唐县、高阳县、容城县、涞源县、望都县、安新县、易县、曲阳县、蠡县、顺平县、博野县、雄县、保定高新技术产业开发区、保定白沟新城、涿州市、定州市、安国市、高碑店市)
张家口市:(桥东区、桥西区、宣化区、下花园区、万全区、崇礼区、张北县、康保县、沽源县、尚义县、蔚县、阳原县、怀安县、怀来县、涿鹿县、赤城县、张家口经济开发区、张家口市察北管理区、张家口市塞北管理区)
承德市:(双桥区、双滦区、鹰手营子矿区、承德县、兴隆县、滦平县、隆化县、丰宁满族自治县、宽城满族自治县、围场满族蒙古族自治县、承德高新技术产业开发区、平泉市)
沧州市:(新华区、运河区、沧县、青县、东光县、海兴县、盐山县、肃宁县、南皮县、吴桥县、献县、孟村回族自治县、河北沧州经济开发区、沧州高新技术产业开发区、沧州渤海新区、泊头市、任丘市、黄骅市、河间市)
中国大模型,首登Nature封面。 9月17日,在最新😍一期的国际权威期刊Nature(自然)中,DeepSeek-😊R1推理模型研究论文登上了封面。该论文由DeepSeek团队😅共同完成,梁文锋担任通讯作者,首次公开了仅靠强化学习就能激发👏大模型推理能力的重要研究成果。这是中国大模型研究首次登上Na💯ture封面,也是全球首个经过完整同行评审并发表于权威期刊的🙄主流大语言模型研究,标志着中国AI技术在国际科学界获得最高认🎉可。 Nature在其社论中评价道:“几乎所有主流的大🤔模型都还没有经过独立同行评审,这一空白终于被DeepSeek😆打破。” 中国AI大模型的“Nature时刻” 😆自大模型浪潮席卷全球以来,技术发布、性能榜单层出不穷,但始终😘缺乏一个权威的“科学认证”机制。OpenAI、谷歌等巨头虽屡😅有突破,但其核心技术多以技术报告形式发布,未经独立同行评审。🚀 DeepSeek以其公开性和透明性打破了这一局面。D🥳eepSeek-R1模型的研究论文最早于今年年初发布在预印本⭐平台arXiv上。自今年2月14日向Nature投递论文至今😀,历经半年,8位外部专家参与了同行评审,DeepSeek-R🙄1推理模型研究论文终获发表,完成了从预印本到Nature封面🙄的“学术跃迁”。审稿人不仅关注模型性能,更对数据来源、训练方❤️法、安全性等提出严格质询,这一过程是AI模型迈向更高的透明度😀和可重复性的可喜一步。 因此,Nature也对Deep⭐Seek的开放模式给予高度评价,在其社论中评价道:“几乎所有😀主流的大模型都还没有经过独立同行评审,这一空白终于被Deep⭐Seek打破。”全球知名开源社区Hugging Face机器😡学习工程师Lewis Tunstall也是DeepSeek论😊文的审稿人之一,他强调:“这是一个备受欢迎的先例。如果缺乏这🤔种公开分享大部分研发过程的行业规范,我们将很难评估这些系统的🤗潜在风险。” 据了解,DeepSeek本次在Natur🤯e上发表的论文较今年年初的初版论文有较大的改动,全文64页,🙌不仅首次披露了R1的训练成本,而且透露了更多模型训练的技术细🎉节,包括对发布初期外界有关“蒸馏”方法的质疑作出了正面回应,😂提供了训练过程中减轻数据污染的详细流程,并对R1的安全性进行🤩了全面评估。 其中,在训练成本方面,R1-Zero和R🥳1都使用了512张H800GPU,分别训练了198个小时和8💯0个小时,以H800每GPU小时2美元的租赁价格换算,R1的😂总训练成本为29.4万美元(约合人民币209万元)。不到30👏万美元的训练成本,与其他推理模型动辄上千万美元的花费相比,可💯谓实现了极大的降本。 关于R1发布最初时所受到的“蒸馏💯”质疑,DeepSeek介绍,其使用的数据全部来自互联网,虽😂然可能包含GPT-4生成的结果,但并非有意而为之,更没有专门😅的蒸馏环节。所谓“蒸馏”,简单理解就是用预先训练好的复杂模型🎉输出的结果,作为监督信号再去训练另外一个模型。R1发布时,O💯penAI称它发现DeepSeek使用了OpenAI专有模型😂来训练自己的开源模型的证据,但拒绝进一步透露其证据的细节。 🤩 R2何时问世引发关注 自今年年初发布R1以来,D😆eepSeek在全球树立了开源模型的典范,但过去数月,外界对⭐于R2何时发布始终保持高度关注,相关传言一直不断。不过,R2🙄的发布时间一再推迟,外界分析R2研发进程缓慢可能与算力受限有😆关。 展开全文 值得注意的是,今年8月21日,D🙌eepSeek正式发布DeepSeek-V3.1,称其为“迈🎉向Agent(智能体)时代的第一步”。据DeepSeek介绍🤩,V3.1主要包含三大变化:一是采用混合推理架构,一个模型同😆时支持思考模式与非思考模式;二是具有更高的思考效率,能在更短🤩时间内给出答案;三是具有更强的智能体能力,通过后训练优化,新🤯模型在工具使用与智能体任务中的表现有较大提升。 由于R😢1的基座模型为V3,V3.1的升级也引发了外界对于R2“在路😘上”的猜测。V3.1的升级更深刻的意义在于,DeepSeek🙌强调DeepSeek-V3.1使用了UE8M0 FP8 Sc😊ale的参数精度,而UE8M0 FP8是针对即将发布的下一代💯国产芯片设计。这也表明未来基于DeepSeek模型的训练与推😅理有望更多应用国产AI芯片,助力国产算力生态加速建设。这一表🙌态一度带动国产芯片算力股股价飙升。 中国银河证券研报指💯出,DeepSeek从V3版本就开始采用FP8参数精度验证了🤯其训练的有效性,通过降低算力精度,使国产ASIC芯片能在成熟💯制程(12-28nm)上接近先进制程英伟达GPU的算力精度,🥳DeepSeek-V3.1使用UE8M0 FP8 Scale❤️参数精度,让软件去主动拥抱硬件更喜欢的数据格式,“软硬协同”😜的生态技术壁垒逐渐成为AI浪潮下新范式,未来国产大模型将更多😊拥抱FP8算力精度并有望成为一种新技术趋势,通过软硬件的协同😎换取数量级性能的提升,国产算力芯片将迎来变革。 责编:😉万健祎 校对:王朝全 版权声明 " Typ😁e="normal"@@--> 证券时报各平台所有原创😡内容,未经书面授权,任何单位及个人不得转载。我社保留追究相关😀行为主体法律责任的权利。 转载与合作可联系证券时报小助😉理,微信ID:SecuritiesTimes " Ty🤔pe="normal"@@-->返回搜狐,查看更多
推荐阅读
如何做品牌
2341
英伟达1000亿美元投资OpenAI,人类超级计算资源正走向垄断
2371
千亿巨人网络,凭什么?
2043
即时零售闪电仓加盟:风口上的伪命题?
4024
朱兴明再送女儿7.7亿元股份,身家较高点缩水超50亿
7210
BBA的纯电焦虑,中国市场解不了
7979
2.4秒造1部手机、70天建厂投产,“望城速度”如何再造一个千亿级产业?
8975
【钛晨报】吴清最新发声,透露资本市场四大未来路线;鼎信通讯连续两涨停,再次澄清与平头哥合作;科创成长层首家新发行企业来了
9945
当虹科技战略升级 迈向“AI多模态+空间视频+行业”全新发展阶段
8315
极致产品参数vs降低创作门槛:大疆和影石谁能赢得未来
1084
在中国做关系必须理解江湖
3880
留给石头科技的赛道不多了
9105
售价数万、毛利超90%,AI玩具跑出下一个泡泡玛特?
8327
英伟达50亿投英特尔,图啥?
8236
市场开始对碳化硅“刮目相看”
5260
国产存储,“黄金窗口” 已至
3246
关于户晨风被封,我所想到的二三事
7970
始祖鸟品牌的绿色谎言
8386
【钛晨报】国家医保局:第十一批药品集采遵循稳临床、保质量、防围标、反内卷原则;国务院食安办等部门积极推进预制菜国家标准制定和餐饮环节使用明示;摩尔线程科创板IPO将于9月26日上会
9675
百元餐饮品牌的悲歌
9253
西贝陨落全景图
8800