星光麒麟端侧AI大模型应用“星语对话”惊艳亮相RKDC2024

AI每日新闻2个月前发布 shen
188 0
AI旋风聊天

在近日举行的第八届瑞芯微开发者大会(RKDC2024)上,星光麒麟端侧AI大模型应用“星语对话”迎来首次亮相。这款创新性的应用已完成技术路线验证,并在RK3588平台上成功部署,为端侧用户带来了前所未有的本地化生成式人工智能(AIGC)能力。

在本次大会的软件技术分论坛上,麒麟软件专题分享了星光麒麟云边端的AI框架,展现了其在人工智能领域的深厚积累和前瞻布局。其中,“星语对话”作为端侧AI大模型的杰出代表,不仅展现了强大的智能问答、逻辑生成和多语言处理能力,更彰显了星光麒麟在云边端灵活协同方面的卓越能力。星光麒麟端侧AI大模型应用“星语对话”惊艳亮相RKDC2024

“星语对话”的智能问答功能通过先进的自然语言处理技术,能够模拟人与人之间的对话过程。当用户提出问题时,系统能够迅速理解问题核心,通过检索或推理相关信息,以自然语言的形式回复用户,实现了高度智能化的问答体验。星光麒麟端侧AI大模型应用“星语对话”惊艳亮相RKDC2024

在逻辑生成方面,“星语对话”通过数据清洗和预处理,结合模型训练,自动调整权重和参数,以确保生成的文本结果准确、合理且连贯。这一功能在逻辑推理、文本生成等复杂场景中表现出色,为用户提供了更加精准、流畅的对话体验。

多语言特性则是“星语对话”的另一大亮点。通过训练不同语言的数据,该应用实现了跨语言的智能对话体验。无论用户使用何种语言,都能得到高质量、智能化的回复,为全球化应用提供了有力支持。

除了端侧AI大模型的布局外,星光麒麟AI框架还在不断提升云边端灵活协同的能力。其提出的面向万物智联操作系统的云边端AI架构,通过RAG技术结合行业知识库提高计算结果准确度,同时根据不同场景灵活切换Agent能力、模型编排框架模块组织调度管理多个机器学习模型等,实现了云端、边缘端和终端设备的协同计算,为用户提供了更加高效、便捷的AI服务。星光麒麟端侧AI大模型应用“星语对话”惊艳亮相RKDC2024

在云端部署方面,星光麒麟利用Paddle开源平台、讯飞语音SDK、星火大模型SDK等技术手段,实现了语音识别、语音播报、语音翻译、问题回答、文章生成、语言翻译、代码生成、创造性写作等多种功能,为云端用户提供了丰富的AI应用选择。

在边缘侧部署方面,星光麒麟通过软总线组网进行数据传输,在边侧设备完成模型推理并获取结果,实现了任务和算力的合理分配,提高了整体系统的运行效率。

在端侧部署方面,星光麒麟利用Whisper语音模型、高性能通用部署解决方案MLC等技术,将AI应用部署在移动设备上,实现了离线的语音识别、问题问答、语言翻译等功能,为用户提供了更加便捷、高效的AI服务体验。

AI旋风认为,随着人工智能技术的不断发展,操作系统融入AI技术已成为行业发展的必然趋势。星光麒麟通过不断提升云边端灵活协同的能力,利用AI技术提高操作系统的资源管理和调度能力,为用户提供了更加智能、高效和安全的服务体验。未来,星光麒麟将继续深化在AI领域的布局和创新,为人机物融合泛在计算提供更加全面、高效的技术支撑。

© 版权声明
AI资料包

相关文章

暂无评论

暂无评论...