MAXSO AI 专注于为企业交付开箱即用的大模型基础设施软件套件。我们专注于解决企业在落地大语言模型（LLM）时的核心工程挑战：

• 私有化模型定制微调的工程复杂度
• 接口安全与合规治理门槛

为什么选择 MAXSO AI

在推进企业大模型落地的过程中，企业往往面临安全风险不可控、工程链路断裂与开源组件碎片化的问题。MAXSO AI 具备以下核心优势：

• 100% 私有化与物理断网交付：支持完全离线部署，系统零外部遥测通信，严格遵循零信任（Zero Trust）安全架构，核心业务数据与提示词永不出机房。
• 开箱即用，降低 80% 落地门槛：告别晦涩的分布式命令行脚本与复杂的防护代理编写，提供全图形化、流程化的工业级软件系统。
• 标准协议兼容与透明接入：安全网关原生兼容 OpenAI API 规范，现有业务系统与开源框架（LangChain 等）仅需修改服务接入地址即可秒级接入，零业务改造负担。

核心产品矩阵

MAXSO AI 核心软件系统聚焦于企业级安全代理与无代码模型微调：

典型落地场景

场景一：业务部门专属大模型训练与知识沉淀

• 挑战：通用大模型缺乏行业专业术语与企业内部规范认知，但算法工程微调工具门槛过高。
• 方案：使用 MAXSO 可视化训练系统 上传业务问答对，一键启动训练，直观监控收敛曲线并完成效果评测。

场景二：企业全员接入公网模型的安全泄密防范

• 挑战：员工在工作中使用外部商用大模型，容易无意识输入客户真实资料、代码秘钥或财务数据。
• 方案：统一部署 MAXSO 安全网关，所有外发请求自动进行 PII 识别并替换为安全占位符，返回结果自动还原或保持脱敏，阻断数据外泄。

场景三：私有化内网大模型的合规代理与配额管控

• 挑战：企业内部已有 vLLM 或 Ollama 搭建的开源模型，但缺乏部门级访问权限、速率限制、成本核算与越狱日志审计。
• 方案：将 MAXSO 安全网关作为内网统一入口，分配不同的 API 密钥进行限流、Token 消耗统计及安全审计。

后续指引

• 查看 快速上手指引 体验安全网关容器启动与可视化训练流程。
• 查看 大模型可视化训练系统 了解训练语料规范与实战技巧。
• 查看 大模型安全网关系统 了解防护策略规则。

MAXSO AI 提供面向企业级场景的私有化大模型基础设施软件。您可以根据业务诉求，直接跳转至对应产品文档了解全貌，或访问对应产品详情介绍页面了解并立即体验产品。

大模型可视化训练系统

• 产品文档：前往 大模型可视化训练系统文档 查看产品文档
• 产品详情与在线体验：前往 大模型可视化训练系统产品页 了解功能特性与界面演示，并可立即体验

大模型安全网关系统

• 产品文档：前往 大模型安全网关系统文档 查看产品文档
• 产品详情与在线体验：前往 大模型安全网关系统产品页 了解防护机制与应用架构，并可立即体验

更多支持

如有部署规划、硬件适配或技术接入疑问，欢迎查看 支持与问答 (FAQ) 或联系我们的技术支持团队。

1. 产品概述与定位

1.1 产品定位

企业推进大模型落地并不缺少业务设想，缺的是一个能快速回答“这批业务数据能否微调出可用模型”的低成本验证路径。ProtoFlow 是面向企业团队的 AI 模型可视化训练平台，将数据准备、LoRA 微调与效果对比整合到浏览器中的三步流程（准备 → 训练 → 测试），帮助业务负责人、AI 负责人和技术团队以最小试错成本形成判断、推进项目落地。

核心定位：通过原型去创造 —— 用“准备 → 训练 → 测试”三步，完成一次可理解、可比较、可复核的模型微调验证闭环。

1.2 核心价值主张

从已有数据或业务文档出发，选择模型与配置，直观观察训练收敛过程，并将基座模型与微调模型放在同一对话界面进行并排效果对比。

1.3 传统微调与 ProtoFlow 差异

传统微调往往要求团队同时配置 Python 环境、CUDA 驱动、分布式训练框架、超参数调优、GPU 算力资源和单独的评测脚本。ProtoFlow 将全套工程能力产品化与图形化：

2. 核心功能与能力

2.1 数据准备与智能处理

从已有 JSON / JSONL 数据集直接导入，或将 PDF、DOCX、Markdown、Excel、PPT 等文档导入文档库。平台可自动解析文档结构、按语义分块，并调用大语言模型批量生成问答对（Q&A）数据集，极大降低标注成本。

• 数据集管理与上传：支持已有数据集选择与 JSON / JSONL 格式上传，单文件最大支持 100MB。
• 文档智能生成数据集：支持多格式文档解析、语义分块、问答对智能生成与批量清洗。
• 数据质量管理：支持重复样本检测、长度过滤、格式归一化、LLM 质量评分、多数据集合并与记录审计。

2.2 模型配置与轻量微调

选择预置模型与业务场景，借助场景模板和推荐超参数快速开始训练。平台深度适配主流开源模型体系（如 Qwen3、DeepSeek-R1 等），并提供学习率、训练轮数、批次大小、截断长度、LoRA 秩等交互式配置项。

• 预置模型与场景模板：提供 Qwen3、DeepSeek-R1 等主流开源模型，内置智能客服、知识问答、文档摘要等典型场景模板。
• 灵活的微调超参数：支持学习率（Learning Rate）、训练轮数（Epochs）、批次大小（Batch Size）、截断长度（Cutoff Length）、LoRA Rank、Weight Decay 及预热比例等精细调节。
• 训练监控与生命周期管理：实时展示任务执行状态、Loss 收敛曲线、梯度范数；支持任务中止、检查点管理与模型权重一键导出。

2.3 效果评估与并排对比

训练完成后即可一键拉起推理服务，在同一对话界面中与基座模型和微调模型进行双栏多轮对话评测，实时观察输出差异。

• 双栏效果对比：基座模型与微调模型并排对话，支持流式输出与多轮上下文交互。
• 推理参数即时调优：在对话测试中动态调整 Temperature、TopP、TopK、MinP 等采样参数，支持展示模型能力允许时的深度思考过程。
• 多维度评测：直观对比专业知识掌握度、回复风格一致性与指令遵从能力。

2.4 3D 等距流程回放与教学实训

针对需要理解深度学习微调机理的团队和学员，ProtoFlow 提供专有的 3D 等距微调流程教学回放视图：将 LoRA 的数据准备、前向传播、损失计算、反向传播与低秩权重更新等 7 个关键阶段以三维立体动画形式解构呈现。

• 阶段拆解呈现：清晰展现模型各层参数冻结与 LoRA 旁路矩阵微调的交互过程。
• 交互控制：支持从头回放、单步步进、播放与暂停，让非算法背景的技术与业务人员直观理解大模型训练底层逻辑。

3. 适用场景与用户画像

3.1 目标用户画像

• 企业决策者与业务负责人：将历史客服问答、产品白皮书或业务文档快速转化为可测试的模型原型，用真实对话回答“是否值得立项”与“下一步投入资源”。
• AI 与技术团队：快速验证数据集质量、模型选型与超参数可行性，消除反复搭建开发环境与编写脚手架代码的开销。
• 培训与教育机构：利用完整可视化的操作链路与 3D 原理回放讲解大模型微调，使学员在免配环境的前提下透彻理解数据与模型调优关系。
• 个人开发者与 AI 爱好者：在具备相应计算资源的环境中，获得开箱即用的微调验证环境，快速实践领域特定小模型的微调对齐。

3.2 典型业务落地场景

4. 技术优势与部署方式

4.1 安全与身份接入

• 多模式身份认证：支持标准账号密码登录与基于 OIDC 的企业级单点登录（SSO）。
• 安全防护机制：采用 PKCE、state、nonce 等机制防止鉴权劫持与重放攻击。
• 精细角色控制：内置管理员与普通用户角色，所有操作均受后端严格鉴权保护。

4.2 本地与弹性云端推理

• 高性能推理引擎：本地环境支持 Docker 容器化运行 vLLM 高性能推理引擎。
• 弹性资源接入：支持无缝对接云端 GPU 实例算力，按需弹性扩缩容。
• 实时流式传输：采用 Server-Sent Events (SSE) 协议实现低延迟流式打字机响应。

4.3 部署选择

[!NOTE] 在私有化部署场景下，业务数据、训练任务与推理服务均运行在企业内网环境中。正式交付范围、硬件算力选型与网络配置方案可通过演示咨询具体评估。

5. 环境与兼容性建议

• 推荐屏幕分辨率：1920×1080 及以上，以获得最佳双栏对比与 3D 流程回放视觉体验。
• 推荐浏览器：Chrome、Edge、Safari 等主流浏览器的最新稳定版本。
• 算力硬件要求：轻量级模型（1.5B～7B）在合理量化与 LoRA 配置下可在 8GB～16GB 显存环境中验证；更大模型或生产级微调建议配置多卡或集群资源。

6. 技术支持与服务

如需了解产品功能详情、获取技术支持或咨询企业专属交付方案，请查阅 常见问题解答 (FAQ) 或通过官方支持渠道联系我们。

1. 产品定位

LLM Security Gateway（大模型安全网关）是面向企业大模型调用场景的统一安全入口与治理控制台。产品位于业务应用、开发平台与模型供应商之间，统一承载模型接入、组织与项目归属、API Key 管理、配额与费用、安全策略、意图识别、请求审计和运营分析。

产品目标不是替代具体模型，而是在多模型、多供应商、多团队共同使用大模型时，提供一套可管理、可审计、可追踪的控制平面，帮助企业把模型调用从“分散接入”提升为“集中治理”。

2. 适用背景与解决的问题

企业在引入多个大模型服务时，常见问题包括密钥分散、调用口径不一致、费用难以归因、安全事件缺少上下文、请求失败难以定位，以及不同团队重复建设基础治理能力。LLM Security Gateway 通过统一控制台和审计数据链路解决这些问题。

3. 目标用户与职责

4. 产品工作模式

4.1 请求治理数据链路

产品围绕一次模型请求建立统一的数据链路，核心关系如下：

业务应用 / 客户端
  -> API Key
  -> 项目
  -> 组织
  -> 用户 / 角色
  -> 统一接入层
  -> 安全策略 / 意图检测
  -> 模型渠道 / 模型
  -> 请求日志 / 审计日志 / Token 与费用 / 运营看板

这条链路用于保证列表、详情、筛选和导出范围内的组织、项目、用户、API Key、请求来源和检测结论保持一致。管理与审计人员可以从任一维度进入，再通过请求 ID、API Key、项目、用户或模型信息交叉核对。

4.2 核心对象

5. 产品组成

6. 核心功能

6.1 组织、项目与访问治理

• 以组织和项目承载用户、API Key、预算、配额和请求归属；
• 管理用户、角色和权限范围，控制后台入口和操作权限；
• 创建、查看、归档和管理 API Key，跟踪 Key 的状态和使用情况；
• 在请求、审计和费用视图中保持组织、项目、用户和 Key 关系一致。

6.2 模型渠道与模型目录

• 维护模型供应商、基础地址、支持模型、渠道状态和探测信息；
• 管理模型目录、能力标签、上下文能力、价格信息和每日流量趋势；
• 在模型详情中查看渠道关系、异常状态和使用分布；
• 降低多供应商、多模型并行接入时的配置和排障成本。

6.3 安全防护与意图识别

• 配置安全策略、规则、模板、安全模型和安全 Agent；
• 展示安全事件、风险等级、策略命中、意图分类和处理状态；
• 将检测结论与请求上下文、使用者、模型、渠道和来源关联；
• 为安全复核、误报分析和策略优化提供依据。

6.4 请求审计、链路追踪与系统日志

• 支持按时间、状态、模型、渠道、组织、项目、用户、API Key 和风险维度查询；
• 使用请求 ID 关联请求详情、检测结果、处理链路和系统日志；
• 支持请求审计、安全审计、意图审计和安全链路等多入口复核；
• 帮助定位失败请求、异常延迟、集中报错、策略拦截和来源异常。

6.5 配额、账单与运营分析

• 展示请求量、Token、费用、延迟、成功率和活跃度趋势；
• 支持按组织、项目、用户、模型、渠道和 API Key 分析使用分布；
• 通过配额、预算池和账单视图辅助资源控制；
• 识别高成本、低活跃、异常增长、失败集中和模型流量变化。

7. 能力矩阵

8. 界面示例

以下截图展示主要页面的信息层级和控制台风格。

8.1 运营总览

运营总览聚合请求、Token、费用、成功率、风险和趋势信息，适合快速判断系统整体状态、近期波动和需要进一步复核的区域。

8.2 组织与项目治理

组织和项目页面用于维护资源归属。项目是 API Key、请求、配额、费用和审计证据的关键连接点，用于建立组织、项目、用户和 Key 的层级关系。

8.3 模型与 API Key 管理

模型页面展示模型目录、供应商关系、能力标签和流量趋势。API Key 页面展示调用凭据的状态、项目归属、使用范围和用量信息，是访问治理和问题定位的重要入口。

8.4 配额与账单

配额和账单页面用于查看预算池、Token 消耗、费用趋势和成本归因。

8.5 安全、意图与请求审计

审计页面面向安全、运维和平台管理员。用户可以围绕风险等级、意图类型、请求状态、模型、渠道、组织、项目、使用者和来源进行复核，并通过请求详情补充证据。

9. 典型使用场景

10. 环境与兼容性

• 推荐分辨率：1920×1080；
• 目标浏览器：Chrome、Edge、Safari 最新稳定版；
• 正式部署可根据交付方案使用容器、内网部署或其他企业环境方案。

11. 数据安全与合规说明

• 安全策略、意图识别和内容检测能力需要结合实际模型、规则和业务场景配置并验证；
• 生产环境的数据留存、访问控制、日志脱敏和审计导出范围以交付方案及合规要求为准；
• 费用、预算与 Token 数据用于分析和资源控制，实际结算以企业采购合同与服务提供商口径为准。

12. 技术支持与服务

如需了解产品功能详情、获取技术支持或咨询企业交付方案，请通过官方支持渠道联系我们。

大模型可视化训练系统 (ProtoFlow)

1. 是否需要算法背景？

不需要先掌握训练脚本。平台通过可视化流程、模板和训练监控降低首次验证门槛；模型选择和结果判断仍建议结合业务与技术人员共同完成。

2. 数据是否可以不离开内网？

可以。私有部署场景下，数据、训练和推理可在企业环境内运行，具体网络与权限方案需结合部署环境确认。

3. 需要什么 GPU？

取决于模型、量化方式、序列长度和批次配置。轻量模型可在满足相应量化与 LoRA 配置的 8GB 显存环境中尝试；也可按部署配置使用云 GPU。

4. 可以从文档构建数据集吗？

可以。平台支持导入多种常见文档格式，解析并生成问答数据集；具体支持格式以部署版本为准。

5. 支持哪些模型？

平台预置 Qwen3、DeepSeek-R1 等系列模型。可用模型清单以实际部署版本和计算资源为准。

联系我们

如果您对文档有任何疑问或需要获取帮助，请通过以下方式与我们联系：

• 官方邮箱：contact@maxso.ai
• 在线演示：欢迎访问 ProtoFlow 在线静态演示 快速了解产品界面与核心流程。