大模型（Large Model）是指具有数百万或数十亿个参数的深度神经网络模型，这种模型经过专门的训练过程，能够对大规模数据进行复杂的处理和任务处理。
大模型需要占用大量的计算资源、存储空间、时间和电力等资源来保证它的训练和部署。相比之下，小模型（Small Model）是指具有较少参数的深度神经网络模型。小模型常常运行速度更快，也更加轻便，适用于一些计算资源和存储空间较少的设备或场景，例如移动设备或嵌入式设备。
在实际应用中，选择大模型或小模型取决于需要解决的问题和可用资源。大模型通常在自然语言处理、计算机视觉、推荐系统等方面表现良好，它们通常需要高性能计算资源的支持，例如标准的GPU或云端集群。
小模型适合解决一些简单的、小规模的问题，例如信用卡欺诈检测等，它们具有更快的推理速度，可以在低功耗设备上运行，例如智能手机或物联网设备。
大模型能解决的问题
大规模预训练可以有效地从大量标记和未标记的数据中捕获知识，通过将知识存储到大量的参数中并对特定任务进行微调，极大地扩展了模型的泛化能力。在应对不同场景时，不再从0开始，只需要少量的样本进行微调。
再比如BERT已经训练好了，我们要做下游任务，做一个句子的情感分析。那么就会在BERT的输入token中加入一个class token，这个和vit的做法一样，encoder以后用class token的向量做一下linear transoformation和softmax和gt做损失训练，所以这一步可以直接初始化BERT模型的预训练参数做finetune，效果要更好。收敛的又快，loss又低。
以上内容参考百度百科-大模型
大模型是指模型具有庞大的参数规模和复杂程度的机器学习模型 。
优质数据是未来大模型的核心竞争力。景联文科技是大语言模型数据供应商，致力于为不同阶段的模型算法匹配高质量数据资源。
世界知识类书籍、期刊、论文及高价值社区文本数据：
l 中文书籍 250万本
l 高质量外文文献期刊 8500万篇
l 英文高质量电子书 200万本
教育题库：
l K12教育题库 1800万
l 大学题库 1.1亿,800万带解析
l 英文题库 500万
专业知识类期刊、专利、代码：
l 中文数字专利 4000万
l 程序代码（代码注释） 20万
多轮对话：
l 文本多轮对话 1500万
l 中英文剧本（电影、电视剧、剧本杀） 6万
音频数据：
l 普通话 65万小时
图片生成及隐式/显示推理多模态数据：
l 图文复杂描述 600万
l 图文推理问答对 600万
生物数据：
l 核酸库 4000万
l 蛋白库 50万
l 蛋白结构库 19万
l 通路库 1000万
l 生信工具
药学数据：
l 药物研发数据库 1300万
l 全球上市数据库 80万
l 一致性评价数据库 25万
l 生产检验数据库 40万
l 合理用药 300万
l 多维文献 1亿
l 原料药数据库 1100万
化学数据：
l 化合物数据库 1.6亿
l 反应信息数据库 4100万
l 物化性质数据库 1.6亿
l 谱图数据库 20万
l 晶体信息数据库 100万
l 安全信息数据库 180万
l 商品信息数据库 740万
材料数据：
l 金属材料数据 20万
l 纳米材料数据 30万
l 相图数据 6万
l 材料性能数据 20万
l 材料腐蚀数据
l 表面处理数据
l 焊接材料数据
专利数据：
l 全球专利基础著录数据 1.3亿
l 全球专利原文数据 1亿
l 全球专利附图数据
l 全球专利法律状态数据
l 全球专利法律状态数据
l 全球专利引文数据
l 全球专利分类索引数据
l 全球专利重点申请人工商关联数据
l 全球生化医药专利深加工数据
l 全球专利全文数据
医疗器械数据：
l 国内政策法规数据 3k条
l 行业标准数据
l 中国医疗器械审评数据 20万条
l 中国医械临床试验数据 5K条
l 全球医械临床试验数据 7万
l 医用耗材中标数据 1400万
l 医用耗材带量采购数据 400万
l 医用设备招投标数据38万
同时景联文科技提供大模型训练数据的标注服务，致力于为全球数千家人工智能从业公司和高校科研机构交付海量、高质量的多模态大模型训练数据。
景联文科技｜数据采集｜数据标注｜大语言模型训练数据
助力人工智能技术，赋能传统产业智能转型升级