一、硬件要求 1、CPU处理器:(略) 2、AI处理器:(略) 3、内存:(略) 4、硬盘:(略) 5、阵列卡:(略) 6、网卡:(略) 7、维保:(略) 8、具有BMC管理系统支持国产自研管理芯片; 9、CPU和AI处理器使用同厂家国产自研芯片; (略)、支持AI处理器直出(略)GE光。 二、软件平台要求 1、适用于Linux操作系统进行部署; 2、支持x(略)和arm架构; 3、能够适配CUDA架构(如NAVIDA)和CANN架构(如Ascend)显卡; 4、支持集群化和容器化,支持横向扩展; 5、提供集群资源监控界面,用于监控算力资源使用情况; 6、具备私域微调数据的生成和上传能力,可用于SFT微调; 7、具备SFT无代码微调能力,创建微调任务时,支持可视化的配置基础模型、训练方法、模型参数、数据集、资源信息; 8、具备不同租户下推理资源隔离能力; 9、支持CMMLU、BFCL的测评能力,新开源模型或内部微调训练模型可以进行标准能力测评; (略)、具备测评结果报告输出能力,用于横向比较模型能力; (略)、支持word excel pdf png mp3 mp4 等多种文件类型上传或同步,也支持内外部网站页面接入,并能够成功召回和使用; (略)、高阶知识治理功能,平台应支持复杂文档的版面识别,导入后能够自动拆分文本、图片、表格、公式等模块; (略)、支持文档切分方式和算法可选择、切分参数可配置; (略)、支持对接MySQL SQLServer Oracle Postgre HadoopHive等数据库,从数据库里通过生成SQL进行查询; (略)、在应用端提供内容审查能力,如涉及到敏感信息应及时识别并提醒、脱敏或拒止。 三、服务要求 1、软、硬件保修三年; 2、安排专业调试人员、测试工具,开展软件测试支撑工作、大模型训练,并持续维护服务器稳定运行。在技术服务期限(三年)内提供及时的响应服务,做到“2小时内响应,8小时内解决问题”。 |