由中国汽车技术研究中心有限公司、中国汽车工程学会、中国汽车工业协会、中国汽车报社共同主办,天津经济技术开发区管理委员会特别支持,日本汽车工业协会、德国汽车工业协会、中国汽车动力电池产业创新联盟、新能源汽车国家大数据联盟联合协办的第二十届中国汽车产业发展(泰达)国际论坛(以下简称“泰达汽车论坛”)于2024年8月29日至9月1日在天津滨海新区举办。本届论坛以“风雨同舟二十载 携手并肩向未来”为年度主题,邀请重磅嘉宾展开深入研讨。
在9月1日“科技生态方向圆桌论坛一:20年新引擎,深化人工智能技术的垂直化应用”中,智谱AI副总裁吴玮杰发表了题为“大模型赋能AI汽车,智能座舱新质生产力”演讲。
智谱AI副总裁 吴玮杰
以下为演讲实录:
尊敬的各位嘉宾,大家早上好!我是智谱AI的吴玮杰,我今天给大家分享《大模型赋能AI汽车,智能座舱新质生产力》。
在开始之前我想先展示一段昨天我自己拍的视频。大家可能已经了解到,就在3天前在西班牙巴塞罗那我们推出了最新的大模型,同时我们也将视频通话功能加入到大模型中。
大家可以简单看一看,这是我昨天在走进这个会场的过程中拍的一短视频。
刚刚这段视频最后的推荐仅仅是大模型的推荐,不代表我的个人选择,大家可以从这段视频中看出我们最新的技术已经可以把多模态,甚至全模态融合。如果这样的能力用到车里面,我相信这会是一种全新的体验。
我们简单介绍一下智谱AI,智谱AI成立于2019年,应该是在整个大模型领域最早开始从事大模型的公司,尤其是在中国。从这张图可以看出来,早期大模型还没有火的时候,2022年12月ChatGPT发布之前,我们已经在持续迭代我们的模型。
大家可以发现我们模型的发布以及各项能力的提升是以月为单位,每个月都会有好几个模型的发布,从原来的大语言模型、代码模型到多模态模型等等。具体来看一下,今天智谱已经拥有了业内非常完善的模型矩阵,已经有21个开源模型在市场上被应用,其中下载量最大的一个开源模型至今已经有1600多万次的下载,同时我们也有大量的闭源模型在市场上提供商业的服务。大家看我们的端侧模型,这样的模型大量用于我们的汽车、PC和手机。
随着目前端侧算力的提高,已经不仅仅是在15亿参数、30亿参数,中间云侧大模型90亿参数,甚至100多亿参数的模型也逐步在PC上不断地在被使用。我们的云侧大模型,包含了开源模型9B模型,9B模型是由原来6B模型升级过来的,上周国内发布了GLM4的Flash,全免费给到我们的用户使用。我们做这件事是为了中国大模型应用的平权和普惠,目前欢迎大家能够来使用我们GLM4的Flash版本,除此之外我们也发布了GLM4的PLUS版本。再看多模态,我们最早做的是图生文、图生任务,后来又文生视频、图生视频等,现在通过智能体对话,包括我们刚刚上线一周左右已经突破了100多万个视频的生成。再往后是代码模型,应用场景也非常多,尤其是以研发为主导的公司。目前代码模型的成熟度在一些非常多的重复性代码、代码注释等得到了广泛的应用。大模型的应用场景,是超拟人模型,它更多地用于我们的一些情感类、拟人类,包括游戏公司智能NPC的场景,下面还推出了最新的emoha,这是一个心理诊疗类的模型。在模型之上我们架了一层MaaS模型,通过它来实现模型的体验、模型的开发、模型的应用一整条完整的服务链,使得我们今天哪怕是通过API也能够有一个全参微调或者是Rora微调。
智谱也是深度参与了大模型行业标准的共建,在这个过程中,我们目前是国家首家通过端侧大模型技术与应用评估方法评估,并且获得了当前最高评级—四级的大模型企业。
这里我要提一下智能座舱端云一体的解决方案,这套方案也是智谱给到多家主机厂商在提供现有的能力。我们的端侧模型目标是能够有一个高可用性和隐私性、急速性的服务。它可以保障离网可用、随时在线,同时端侧的推理也能够有一个非常高的响应。
同时,为了让模型具备最高的算力、发挥最大的性能,希望我们云侧模型也能够帮助到所有的汽车或者智能座舱的方案,提供最强大的能力。
智谱AI端侧大模型目前已经完成与Intel、高通等多个产品的适配,以非常好的推理效率来领跑整个行业。目前我们的解码速度是又快又强,在最高的一款解码速度达到每秒钟88Token,相当于我们每秒能够有160个汉字左右的推理速度,首响最快达到了23毫秒。
再来说一下目前我们在下一代智能座舱中做的一些应用。首先在以上四端的应用,是目前相对比较主流,以及比较常见的应用。包括了复杂车控、车书问答、闲聊陪伴和生活服务等等。除了这些比较常见的智能座舱的应用以外,同时也在通过我们多模态的系统,使得用户的使用场景能够更加丰富。包括一些车辆识别、路牌识别、用车提醒、多模态哨兵、警务闲聊、个性化识别、手势指令等等,也能够实现更多的体验。
这里我给大家带来一段视频。这段视频也是目前与国内一家正在使用智谱大语言模型来赋能智能座舱的客户联合开发的解决方案。
刚刚看到的是我们目前已经在一些主机厂实现的应用场景,已经上了非常多的新能源汽车。同时智谱致力于汽车行业与广大的主机厂,包括与广大合作伙伴一起深耕,一起探索AI汽车的未来。
目前我们也有一些相对前沿性的探索,也与一些汽车的科技公司,包括主机厂在推进联合实验室,推动各项能力的研究。其中包括了我们的端云一体的解决方案,更多地是把车机和手机更好地协同起来。不仅仅是包括应用的一些适配,同时也能够共享更多的算力。通过CubeAgent这样一个智能体的场景应用,我们可以更好地赋能智能座舱,使用更多更复杂的一些应用场景。
这是我今天的分享,谢谢大家!