企业如何以开源的方法将AI带入企业

　　红帽全球副总裁兼大中华区总裁曹衡康表示，尽管AI的应用日益普及，但很多企业依然处于探索和测试阶段。红帽研究显示，94%的企业正在进行生成式AI的测试或试点，尽管很多企业已经开始部署生成式AI，但他们预计要到未来3到5年才能真正实现AI投资的回报。AI技术的挑战不仅是技术本身，更重要的是如何将AI应用到实际生产环境中，尤其是企业的核心应用上。

　　事实上，企业在采用生成式AI的过程中，主要面临成本、复杂度和灵活性三方面的挑战。“红帽的AI战略始终围绕着‘开源和混合AI’的原则展开。红帽通过混合云架构，提供灵活的AI部署和运维支持。无论是GPU计算，还是在数据中心或云平台的部署，都能提供一致的体验和高效的支持。此外，红帽还强调数据安全和隐私保护，确保企业在使用AI技术时的安全性。”曹衡康如此说道。

　　由此来看，企业可以通过开源的方法引入AI，例如，利用开源AI框架降低开发成本，借助开源社区的力量获取技术支持与经验分享，基于开源数据集进行模型训练优化。同时，结合自身业务需求对开源AI技术进行定制化改造，从而高效地将AI融入企业运营的全过程。

　　定制小型专有模型降低应用成本

　　生成式AI的应用正在逐步扩展，尤其是在不同行业和业务领域。不同于通用AI，行业专用的生成式AI模型将会根据具体业务需求进行定制。举例来说，医疗行业、汽车行业和零售行业都需要专门针对各自行业特点定制AI模型，而不是采用通用大模型。红帽通过小而专业的模型，帮助企业降低成本，同时提高模型的应用效率。

　　“这里所提到的小模型，不仅要在数量级上缩小模型，还要根据特定领域来定制小型专有模型。例如，一个聊天机器人与酒店客服机器人和医疗行业机器人肯定是完全不同的。因此，我们需要的小模型不仅要小，还要是专有的、针对特定领域的。”红帽大中华区解决方案架构部高级总监王慧慧进一步解释道。

　　然而，企业如何才能有效利用自己的数据来定制专有小模型呢?对此，王慧慧表示，尽管企业都知晓用自己的数据来对开源模型进行调优，但企业本身往往缺乏足够的专业人才以及整理高质量数据的能力。为此，红帽提出了“用私有数据进行企业数据生成并调用”的工具。通过将InstructLab和RAG进行结合，能够帮助客户更高效地调优模型。同时，利用该工具，客户可以通过AI生成合成数据，从而减少对大量高质量数据的需求。

　　打造统一平台降低应用复杂度

　　在AI应用落地的过程中，一方面，AI 技术本身的复杂性，如模型训练、调优等需要专业技能，企业面临人才短缺和技术门槛高的问题;另一方面，AI 与企业现有业务系统的集成难度大，涉及数据对接、流程适配等复杂工作。为此，企业需要一个统一平台快速实现 AI 功能的集成与部署，从而降低应用复杂度，加速 AI 在企业中的落地。

　　对此，红帽的解决方案是打造一个从下到上的统一平台，涵盖从基础架构到应用的各个层面。王慧慧表示，在基础架构层面，无论是物理、虚拟，还是私有云、公有云，甚至是边缘计算，都能支持AI的应用。在操作系统层面，RHEL(红帽企业Linux)也进行了升级，增加了数据生成、获取和训练等AI工具和算法。通过这些工具，不仅可以运行自己的AI工具，还支持开源的小型模型以及第三方开源模型，能够为企业的大规模运算和推理提供广泛支持。

　　增加了AI工具及算法的红帽企业Linux已经演变为Red Hat AI(红帽AI平台)。该平台与传统的操作系统不同，它不仅是一个操作系统，还是一个一体化底层平台，包含了模型、调用工具、开发工具和推理算法。在这个平台之上，红帽OpenShift AI可以提供从数据处理到应用部署所有环节的AI服务，从而满足企业不同生命周期的AI模型和应用需求。

　　“可以说，无论是模型的开发和调优，还是应用的上线和监控，在红帽AI平台上都有完善的工具予以支持。”王慧慧如是说。

　　支持多种环境下的灵活部署

　　企业在AI应用时需要实现多种环境下的灵活部署，以满足不同业务场景和数据安全需求。在这一过程中，企业需考虑本地部署以保障数据隐私和高安全性，同时利用云端部署实现弹性扩展和降低成本。此外，还需支持边缘部署，将AI模型推送到边缘设备，实现实时智能决策。通过采用混合部署方案，企业可以兼顾灵活性、成本效益和安全性，确保AI应用在不同硬件平台和业务流程中高效运行。

　　红帽AI平台的混合云部署适用于不同的硬件加速器、本地OEM服务器和云环境，同时，还支持从单一服务器到大规模扩展的灵活部署。据了解，如今，红帽已经成为行业内唯一一家同时支持NVIDIA、AMD、Intel等GPU的厂商。

　　“如果从单台设备扩展到多个设备，使用OpenShift AI时，无需进行任何额外调整，一切都可以平滑迁移。此外，灵活部署不仅支持硬件或软件环境，也包括不同规模上的部署。我们可以支持单台服务器的训练，也可以支持大规模的推理。客户无需担心环境变动，所有平台上的操作和体验都是一致的。”王慧慧解释说。

　　不仅如此，红帽AI平台还支持各种模型。同时，也能够保障客户在进行数据处理、清洗、调优等时的数据安全。此外，在应用开发过程中，无论是开发智能助手，还是其他类型的AI应用，红帽都可以帮助企业客户高效管理并完成应用开发和运维。“因此，从多个角度来看，红帽的独特优势在于，通过降低成本、降低复杂性、提高灵活性，帮助企业客户最高效地获取AI价值。”王慧慧表示。

(本文不涉密)
责任编辑：路沙

转载：感谢您对网站平台的认可，以及对我们原创作品以及文章的青睐，非常欢迎各位朋友分享到个人站长或者朋友圈，但转载请说明文章出处。