大模型应用 - 主题 - twt企业IT交流平台

动态

大语言模型·3天前

金融大模型应用的机遇和挑战

Steven

steven 擅长领域：云计算, 容器, 容器云

77 会员关注

金融行业积极进行金融科技转型，大模型无疑是一个高效的赋能工具。大模型的应用也面临着数据、算力、合规和安全、人才、架构等问题和挑战。大模型应用场景在于生成式AI场景，需要强大、专业的知识库的支持，甚至是跨领域知识库的支持。...(more)

赞同

大语言模型·4天前

端侧大语言模型原理与应用

与啡喵浙商证券擅长领域：大语言模型, 人工智能

感谢分享，对端侧关键技术的描述简介明了。微软苹果都发布了端侧开源大模型，今后的大模型领域将更加细化和轻量化。等真正能够在手机上运行的时候才是质变的阶段。

赞同3

专栏: 趋势观点

大语言模型·2024-04-23

基于开源大模型快速构建本地知识库应用

menglunyang

中国银行擅长领域：云计算, 容器, 容器云

11 会员关注

这是一篇很有价值的文章,内容丰富且实用。文章首先介绍了大模型技术的背景和现状,阐述了构建本地知识库问答应用的需求。然后详细分析了基于检索增强生成(RAG)技术路线的实现思路,对处理过程进行了清晰的阐释。接着对目前主流的开源大模型进行了横向对比,为模型选型提供...(more)

赞同2

专栏: 趋势实践

银行大语言模型· 2024-02-28

金融行业大模型大规模训练数据时在庞大而复杂的数据面前有那些最佳实践？xxx

大模型需要大规模的训练数据，金融行业的数据通常庞大而复杂。确保数据的质量和完整性，以及数据的合规性和准确性，是一个挑战。同时，数据的准备和清洗也需要耗费大量的时间和资源。请业内各位大咖分享一些最佳实践经验。...(more)

回答

关注2

大模型应用·2024-02-26

大模型应用设计与实现指南

ufpstarhawk 浙商证券擅长领域：人工智能, GPU, 服务器

很好的大模型应用入门介绍，之前对于提示词工程不甚了解，现在了解到已经有很多prompt框架和prompt agent去优化提示词表达；另外作者提到利用agent来让大模型感知和执行，而不再局限于文本对话生成，这可能是未来非常热的一个方向；对于金融领域，目前大模型推广应用主要面临合规问题...(more)

赞同5

银行大模型应用· 2024-01-28

在安全与隐私保护，如何考虑大模型与数据仓库结合过程中的数据安全和隐私保护？xxx

大模式如何与原有架构（如数据湖、湖仓一体、数据仓库）相结合，成为了企业架构中需要考虑的问题。企业需要对现有的数据架构进行全面的评估，了解其功能、数据处理能力、存储容量、查询性能等，有助于确定大模型与原有架构结合的方式和可行性。企业还需定义统一的集成接口标准，使大...(more)

回答

关注4

银行大模型应用· 2024-01-25

数据传输及准备？xxx

waring_id 某公司擅长领域：服务器, 数据库, 存储

10 会员关注

除了前面给出的建议外，最简单的方式是升级数据传输网络，例如将数据传输网络更换为40G或是100G的光纤网络

赞同

回答

关注3

银行大模型应用· 2024-01-19

模型与数据仓库结合过程中所需的计算资源和存储资源的成本和管理，如何合理配置和优化资源？xxx

mxin 上海宝信软件股份有限公司擅长领域：存储, 服务器, 灾备

481 会员关注

在模型与数据仓库结合的过程中，合理配置和优化资源是降低运营成本的关键。以下是一些方法和建议：需求分析：首先，需要对业务需求进行详细分析，了解模型的复杂度、数据量以及查询频率等因素。这有助于确定所需的计算资源和存储资源的量级。弹性伸缩：利用云服务提供的弹性伸缩功能...(more)

赞同1

回答

关注2

银行大模型应用· 2024-01-15

企业的大模型技术与原有架构的技术选型，如何将大模型与原有架构进行有效的集成？xxx

mxin 上海宝信软件股份有限公司擅长领域：存储, 服务器, 灾备

481 会员关注

在进行技术选型与集成方案时，企业需要考虑以下几个方面：大模型技术选择：企业需要根据自身业务需求和技术实力选择合适的大模型技术。常见的大模型技术包括分布式计算框架（如Hadoop、Spark）、分布式数据库（如HBase、Cassandra）和分布式存储系统（如HDFS、GlusterFS）等。原有架构分析...(more)

大语言模型·2023-10-27

匿名用户

金币1