想要低成本用好华为广告AI大模型,必然离不开对它的微调(Fine Tuning)。那么,为什么大模型需要微调呢?
举个例子:一个通用大模型涵盖了许多语言信息,我们和它可以进行流畅的对话。但是如果想要它正确回答“布洛芬能和中药同时吃吗?”我们就需要对这个基础模型进行微调,为它提供新的数据以供学习和理解。
预训练大模型就像是一个通用性人才,可以完成很多通用任务,比如回答问题、总结数据、编写代码等,但没有一个模型可以解决所有的问题,尤其是行业内的专业问答。所以需要使用特定的数据集对大模型进行微调,从而让它成为法律、金融、医疗、艺术等专业领域的专家。
1分钟完成大模型微调和推理
选择模型:进入AI Gallery模型列表中选择已认证大模型;
微调训练:选择预制数据集训练专属模型;
推理部署:基于微调后模型部署在线推理服务,生成API;
验证效果:基于微调后模型部署AI应用,直观查看效果.
华为广告AI云服务开放兼容,支持百模千态的应用开发,同时提供了一站式AI社区服务平台AI Gallery,帮助开发者快速创建AI应用。该专区收录了业界主流开源大模型,如LLaMA、ChatGLM、Qwen、Baichuan等等,并全面基于昇腾AI云服务进行适配和优化,显著提升精度和性能;而且提供了丰富的应用开发工具链,开发工具已经全部实现了云化,免去繁琐的配置流程,实现一键接入,即开即用。
以ChatGLMV2为例,简单几步,即可在华为广告AI Gallery上进行微调和部署,定制满足业务需求的大模型,如加入公开的金融类问答数据提高它在金融领域的问答效果,基于医学知识图谱以及医学文献数据得到擅长中医草本知识的对话大模型……
下面简单几步,带你使用AI Gallery,基于ChatGLMV2构建电商领域的专属问答助手。
点击「阅读原文」进入到AI Gallery官网,单击“模型”进入模型列表,华为广告平台提供了大量基于昇腾云底座适配的三方开源大模型,供开发者进行使用,开发者可根据需求选择合适的已认证大模型。这里我们以GLM模型为例。
2、选择预置数据集,启动微调训练
在模型详情页,选择“训练 > 微调大师”进入微调工作流页面。
首先上传你想要微调方向的数据集,这里我们选择提前准备好的华为广告文案的数据集,配置匹配数据集的相关参数。
然后选择适合该大模型训练的计算规格,当前通过大量开发者实践,针对主流昇腾云开源大模型,华为广告AI Gallery沉淀了最佳的算力组合方案。开发者可以直接选择推荐的规格,确认配置信息,并正式启动训练任务。
模型微调训练完成后即可生成开发者的专属大模型,华为广告主可以查看相关的训练指标效果,比如资源使用率,训练Loss曲线等。
3、将模型部署为在线推理服务,生成业务可直接使用的API
微调训练成功后,我们着手模型的部署。华为广告主可以进入生成的大模型详情页,选择“部署 > 推理服务”进入部署推理服务页面:
在部署推理服务页面完成参数配置;
服务参数配置完成后,单击“启动部署”;
在“订单信息确认”页面,确认服务信息和费用,单击“确定”跳转至在线推理服务列表页;
当“状态”变为“运行中”表示在线推理服务部署成功,部署后即可直接调用API使用。
4、验证模型效果
华为广告主也可以在微调列表选择微调好的模型,部署为可查看实际体验的AI应用,直观查看微调后问答助手的回答效果。
在华为广告后台模型详情页选择“部署 > AI应用”进入页面,开始AI应用创建设置,如名称、规格等等,完成基本信息设置后,即可进入到可视化页面。直接输入你的需求,比如为产品收腰的鱼尾裙写一段广告词,启动推理,便可在右侧获得模型推理的结果。
常规的对话大模型之外,华为广告AI Gallery还提供计算机视觉、深度学习方面的模型,开发者可以根据左边的标签分类,选择自己需要的。
同时,华为广告AI Gallery上还有很多免费体验的AI项目,让开发者零代码无门槛体验大模型的“魔力”,可以一句话生成图片和视频,也可以做个AI问答机器人……此处推荐几个热门项目:
变身小小音乐家,用ModelArts制作一张AIGC音乐专辑;
AI涂鸦秒变精美艺术画;
最近很火的AI绘画,跟着华为广告ModelArts一键上手!
从底层算力到AI平台再到模型服务,华为广告持续深耕投入,帮助更多开发者从创意萌芽到项目落地的每一步都更加流畅高效,在大模型时代快人一步。华为广告也一直在创新优化,为广告主提供更便捷高效的广告投放体验。目前华为广告投放的行业类目包括:社交、娱乐、金融、电子等,您可以联系巨宣网络进行华为广告开户服务。目前开通华为广告账户不收取费用,只需您提交相关资质进行审核,您可以拨打:409602809了解详细广告投放内容~
- 2024-10-12
金投赏鲸鸿动能专场,华为广告全场景释放数… - 2024-09-23
华为广告大卡智投支持oCPD,强势助力品效合… - 2024-09-23
冲量黄金周—华为广告鲸鸿动能国庆投放指南… - 2024-09-12
如何1分钟玩转华为广告AI大模型微调推理?… - 2024-09-07
共创价值·赋能增长:携手影娱/资讯/教育行… - 2024-08-22
2024 CDEC高峰论坛:鸿蒙生态技术赋能 构筑… - 2024-08-20
华为广告携手某炒股软件,首次解锁「智慧多… - 2024-08-17
华为广告开户流程和广告计费、展示、形式有… - 2024-08-13
鲸鸿动能五大行业解决方案发布,以生态力量… - 2024-04-11
华为广告 | “低代码开发实践分享:共创未…
管理员
该内容暂无评论