助力企业打造新质生产力,大模型与AI Infra平行论坛精彩回顾

2024-06-20 15:51:37 来源: 星环科技官微

  5月30-31日,2024向星力·未来数据技术峰会在上海隆重举办。大模型与AI Infra平行论坛邀请来自金赛数字研究院、新网银行等的行业大咖与星环科技的专家们齐聚一堂,分享大模型时代下新的生产力工具和行业实践,助力企业打造新质生产力,探索产业发展新未来。

  星环科技首席科学家伊人发表了《Transwarp Knowledge Hub——为企业和个人构建知识库》主题演讲。星环科技整个大模型产品基于检索增强生成技术RAG,TKH是一款集成了从语料到模型再到应用的完整AI Infra工具集的产品,旨在为企业打通从人工智能基础设施建设到大数据、人工智能等研发应用的完整链条,加速人工智能对产业赋能进程。TKH星环知识平台基于无涯大模型打造了无涯·问知、无涯·问数等知识应用,可广泛应用于金融、能源、制造、工程等多个领域,通过精准的数据分析和知识管理,满足企业不同类型的知识应用需求,从而提升企业业务效率和竞争力。

  星环科技人工智能产品部高级产品经理童欣欣带来《Sophon LLMOps加速企业大模型落地:从类GPTS应用搭建到语料-算力-模型-应用全流程管理》主题演讲。大模型开发核心目标是让数据、模型、应用和实际业务效果对齐,提升大模型落地效率,围绕这个目标,实施路径包括快速场景构建、精准信息检索、设计参数模版、行业模型微调、企业内部署。星环科技企业级大模型运营平台Sophon LLMOps助力企业资产积累,加速企业大模型和应用更加敏捷、精准和稳健的落地。Sophon LLMOps 1.3版本覆盖语料、模型、算力、应用四大核心要素;具备完善的企业级功能和优化的性能表现;面向多类型用户,全方位降低使用门槛。

  星环科技产品研发中心研发总监许喆分享了《无涯·问数,心中有数——星环科技智能数据分析洞察平台》。无涯·问数集合了LLM(Large Language Models,大型语言模型)、AI(人工智能)和BI(商业智能)的能力,使得非专业用户也能通过自然语言轻松查询数据,无需掌握数据库编程语言,有效解决取数需求开发链路长、指标二义性、缺乏数据挖掘能力、数据分析高度依赖人工经验等传统数据分析痛点,实现大模型驱动下的大数据分析。产品具备灵活适配客户场景、私有化部署容易、覆盖完整周期拓展性强、性能指标优秀的优势,让决策者/管理者实现全景数据探索;业务分析人员实现对话即分析;数据开发人员可以快速整合多种数据。

  金赛数字研究院算法中心负责人袁豪磊发表了《大语言模型在医药领域的应用与思考》主题演讲。药物研发具备周期长、内在/外在不确定因素多;多学科多领域交叉、各细分领域科研进展迅速,商业决策信息量巨大的特点,人工智能及其相关技术适合作为加速临床科研的新质生产力——数据+情报+LLM。目前金赛数字研究院正在跟星环科技探索基于星环科技TKH一体机的企业级解决方案,企业自有的数据库、知识库、方法论再结合TKH一体机方案,期望在靶点评估、BD评估以及其他药企相关的生命科学相关的机制扫描研究上面为企业提供海量信息获取能力和决策能力。

  星环科技高级产品经理谭力鸣分享了《Transwarp Hippo2.0:企业级向量数据库加速企业大模型应用》。大模型时代下,向量数据库迎来新机遇,星环科技分布式向量数据库Transwarp Hippo支持文本、图片、音视频等转化后的百亿级向量数据的存储、索引和管理,支持多种索引,具有全文检索+向量检索以及稀疏向量+稠密向量的混合检索等能力。Hippo 2.0可以实现百亿级向量存储,提供灵活索引支持、20倍内存成本下降和向量全文混合检索等特性。

  新网银行科技部副总经理陈思成分享了《新网银行大模型及AI原生应用探索与实践》。各个银行在大模型应用场景中的探索方向,整体看形成规模化应用的三大场景为智能客服、智能办公以及智能研发。大模型驱动新的应用模式诞生,AI原生即一切从AI出发,以AI为核心驱动力,AI原生不只是一种技术方案,更是一种思维方式。新网银行拥抱大模型,制定适合于新网银行发展的AI原生实施原则,建立大模型、小模型、AI原生应用的审核与校验机制。从数字原生到AI原生,新网银行形成了客服数字员工实践降低客户服务智能化成本;营销线索挖掘助手提升电销人员外呼效率;科技数字员工提升系统研发运营效率等成功实践经验。

  星环科技人工智能产品部高级研发经理谭锋镭发表了《贯穿大模型预训练、微调和应用阶段的TCS语料平台建设和实践》主题演讲。语料在模型能力提升的过程中扮演至关重要的角色,星环科技语料开发工具TCS是一套强大的语料开发工具集,覆盖了语料获取、清洗、加工、治理、应用和管理的全生命周期,该工具集具备多种灵活的接入和加工方式,能够分布式地高效处理海量语料,满足不同行业和应用场景的需求。TCS内置了丰富的智能化语料加工能力,包括通用性或具有行业特殊性的清洗、转换、标注、增强、质检、合规检查等。这些功能不仅提高了语料处理的效率,也确保了语料的质量和适用性。

关注同花顺财经(ths518),获取更多机会

0

+1
  • 上海贝岭
  • 国民技术
  • 佳缘科技
  • 大众交通
  • 东方中科
  • 惠程科技
  • 飞力达
  • 恒锋信息
  • 代码|股票名称 最新 涨跌幅