当前位置: 首页 > 应用工具

微软发布首份 AI 透明度报告:2023 年创建 30 个负责任的 AI 工具
2024-05-06   阅读:109次  点击下载

微软发布人工智能透明度报告:积极发展健康安全的人工智能


微软公司近日发布了新的透明度报告,该公司此前曾于2023年7月签署自愿协议,承诺每年定期公布人工智能透明度报告。这份报告详细介绍了微软在安全部署人工智能产品方面取得的成就。

报告显示,微软共创建了30个负责任的人工智能工具,并扩大了其负责任的人工智能团队。同时,该公司要求开发生成式人工智能应用程序的团队在整个开发周期中衡量和绘制风险。

此外,微软还在其图像生成平台中添加了内容凭证功能,该功能可以为照片添加水印并标记为由人工智能模型制作。Azure AI客户现在可以使用检测仇恨言论、性内容和自残等问题内容的工具,以及评估安全风险的工具。

另外,微软还正在扩大其红队(渗透测试团队)工作范围,包括内部红队故意尝试绕过其人工智能模型中的安全功能,并且正在开发红队应用程序以允许在发布新模型之前进行第三方测试。

这些举措表明微软正致力于建立一个健康、安全发展的人工智能系统,并以此来实现更加负责任的业务模式。