百川智能是一家由王小川和茹立云联合创立的中国公司，专注于研发并提供通用人工智能服务。融合了意图理解、信息检索以及强化学习技术，结合有监督微调与人类意图对齐，在知识问答、文本创作领域表现突出。该公司旨在打造中国版的OpenAI基础大模型及颠覆性上层应用。百川智能的发展历程非常迅速。自2023年4月10日王小川官宣创办以来，公司已经在人工智能领域取得了显著的成果。公司核心团队由来自搜狗、百度、华为、微软、字节、腾讯等知名科技公司的AI顶尖人才组成，成员构成中技术人士占比高达70%~80%，其中来自搜狗的旧部大概占到30%~40%。在技术方面，百川智能先后发布了多款大模型产品，包括70亿参数的baichuan-7B、130亿参数的baichuan-13B，以及530亿参数的大模型baichuan-53B等。这些模型在多个领域都展现出了强大的能力，包括文本生成、问答、搜索推荐等。此外，百川智能还非常注重技术的开放性和可商用性。公司先后宣布开源微调后的Baichuan 2-7B、Baichuan 2-13B、Baichuan 2-13B-Chat与其4bit量化版本，并且均为免费可商用。这些举措有助于推动人工智能技术的发展和应用，同时也为学术界、开发者和企业用户提供了更多的选择和便利。在商业化方面，百川智能也取得了积极的进展。公司宣布发布了超千亿参数的大语言模型Baichuan 3，并推出了首款AI助手“百小应”。此外，百川智能还发布了最新一代基座大模型Baichuan 4，并开放了Baichuan 4、Baichuan3等模型供用户使用。这些举措将有助于推动公司在人工智能领域的进一步发展。
官网入口：https://www.baichuan-ai.com/
主要功能特点：
- 通用人工智能服务：百川智能致力于提供通用人工智能服务，这意味着其技术和服务可以广泛应用于多个领域和行业，为用户提供智能化解决方案。
- 基础大模型开发：公司专注于开发基础大模型，这些模型是构建更复杂人工智能应用的基础，可以为各种上层应用提供强大的语言理解和生成能力。
- 颠覆性上层应用：百川智能不仅提供基础模型，还致力于开发颠覆性的上层应用，这些应用可能会改变人们的工作和生活方式。
- 开放合作：百川智能与学术界和工业界合作，例如设立CCF-百川-大模型科研基金，支持大模型技术的研发和应用。
- 社区参与：公司通过举办AI黑客马拉松等活动，鼓励开发者社区的参与和创新，同时也为开发者提供算力支持和奖励。
- 搜索增强：百川智能的AI应用如百小应，强调了“懂搜索、会提问”的特点，这表明公司在搜索技术方面的专长被整合到了其AI产品中。
- 高质量数据处理：在数据处理方面，百川智能构建了大规模的去重和聚类系统，能够快速有效地处理和分析海量数据。
- 模型透明度：百川智能首次公开了训练过程的全部参数模型，这有助于学术界进行研究和改进，提高了模型的透明度和可信度。
如何使用？
百川智能是一家专注于人工智能技术的公司，它提供了多种产品和服务，包括大规模预训练模型和AI助手。以下是关于如何使用百川智能的一些基本信息：
微调百川Baichuan-13B模型：
- 如果你想要对Baichuan-13B模型进行训练和推理，你需要按照以下步骤操作：
- 安装环境：确保你已经安装了Python、CUDA、Git等必要的编程环境和工具。
- 准备训练集：收集并准备好你的训练数据集。
- 配置训练参数：设置适当的训练参数，如学习率、批次大小等。
- 启动训练：开始模型的训练过程。
- 合并权重：在训练完成后，你可能需要将新训练的权重与预训练模型的权重合并。
- 模型推理：使用训练好的模型进行推理或预测。
使用百川模型：
- 百川智能提供了Baichuan2-7B-Chat和Baichuan2-7B-Base模型，你可以在ModelScope的Notebook环境中运行这些模型。例如，你可以通过访问modelscope.cn网站，进入“我的Notebook”，选择GPU环境，然后新建一个Notebook来使用这些模型。
百川智能AI助手：
- 百川智能还提供了一个AI助手，名为Baichuan 4。这个AI助手支持Code interpreter、RAG内建工具，还支持自定义工具调用，方便企业接入各种丰富复杂的API。新用户还可以获得1000万免费token。
部署百川7B开源大模型：
- baichuan-7B是一个由百川智能开发的开源大规模预训练模型，支持中英双语，上下文窗口长度为4096。你可以在CentOS 7.8.2003系统上，使用2张NVIDIA GeForce RTX 3090显卡（每张24GB显存）来部署这个模型。