扫码阅读
手机扫码阅读
微软发布 OpenAI 端到端聊天参考架构基线
![](/theme/default/default/images/main/eye-open.png)
我们非常重视原创文章,为尊重知识产权并避免潜在的版权问题,我们在此提供文章的摘要供您初步了解。如果您想要查阅更为详尽的内容,访问作者的公众号页面获取完整文章。
![](/theme/default/default/images/main/icon-jing.png)
InfoQ
扫码关注公众号
微软发布了OpenAI端到端聊天参考架构基线,为部署和运行解决方案提供了参考实现。该架构基线集成了多个Azure服务,包括Azure Machine Learning、Azure Storage和Azure Container Registry,用于训练、部署和管理机器学习模型以及存储数据。Azure OpenAI服务还提供了对大型语言模型和企业功能的访问。
架构基线特别强调网络安全和基于身份的访问控制。它涵盖了安全入口点、网络流量过滤和传输中数据的TLS端到端加密。私有链接的使用减少了数据泄露风险,而资源的逻辑分段和隔离则确保了网络流程的健壮性。架构还包括了安全措施,以确保聊天UI与PaaS服务的安全通信。
在监控方面,微软配置了所有服务以捕获日志,特别是Azure Machine Learning和Azure App Service的详细诊断日志。Azure OpenAI服务还提供内容过滤和滥用监控,以防止有害内容的传播。
在社交媒体上,Balz Zuerrer询问是否可以在Azure AI Studio上构建此解决方案,Tobias Kluge指出,AI Studio适用于测试和体验,但不适于在安全的生产环境中部署整个应用程序。Rishi Nikhilesh赞赏微软在网络隔离和安全通信方面的努力。
想要了解更多内容?
![](/theme/default/default/images/main/icon-jing.png)
InfoQ
扫码关注公众号
InfoQ的其他文章
Grab 改进 Kubernetes 集群中的 Kafka 设置,无需人工干预就可轮换 Broker 节点
Grab 更新其Kubernetes集群中的Kafka设置以提高容错性,并完全避免在Kafka Broker意外终止时需要进行人工干预。
LinkedIn 解释为什么选择用 gRPC+Protobuf 替代 Rest.li+JSON
LinkedIn 宣布将转向使用 gRPC 和 Protocol Buffers 作为其微服务平台的服务间通信,替代之前的开源框架 Rest.li。
Kubernetes 1.29 增强了 KMS V2 并提供对 nftables 的支持
云原生计算基金会(CNCF)发布了代号为Mandala的Kubernetes 1.29。最新版本引入了一些新特性,比如Service负载均衡器的IP模式、Windows容器的可变Pod资源以及基于nftables的kube-proxy。
2023 年 InfoQ 研究中心十大必读报告
本篇文章用十份必读报告,带你总结2023年,迎接2024年的到来。
挑战 Spark 和 Flink?大数据技术栈的突围和战争|盘点
未来的大数据架构将更加重视智能化、操作简化和数据隐私,为企业在数据和AI应用方面提供竞争优势。
加入社区微信群
与行业大咖零距离交流学习
![](https://cdn.easycorp.cn/rongpm/upload/202312/f_39217d624bb2b42ce8f6322ebd7e573a.png)
![](https://cdn.easycorp.cn/rongpm/upload/202312/f_39217d624bb2b42ce8f6322ebd7e573a.png)
软件研发质量管理体系建设
白皮书上线