近日，首席技术官米拉穆拉蒂在接受采访时再次谈及AI（人工智能）安全，并回应了“超级对齐”安全团队解散、斯嘉丽配音争议、公司面临监管审查等问题。
表示，过去几年出现了令人难以置信的技术进步，超出了所有人的预期。随着这种进步的继续，人们对现在即将发生的事情感到害怕和焦虑是可以理解的。她相信，有一个优秀的安全团队已经安全地部署了最有能力的模型。“考虑到技术进步的速度，加倍重视安全性、模型训练和部署风险非常重要。”
Mira ，首席技术官
一个多月前，包括联合创始人兼首席科学家 Ilya 、Super 团队负责人 Jan Leike 在内的数名核心成员相继离职，作为核心安全团队的 Super 宣告解散。消息人士透露，专注于 AI 系统安全的员工已经对 的领导能力丧失信心。宣布辞职后，Leike 也在推特上发文谴责领导层“专注于闪亮的产品，不再关注安全文化和流程”。
对此，穆拉蒂9日表示：“超级对齐是一个非常重要的安保团队，但它只是其中一个团队，公司还有很多人负责安保工作。”她表示，不认同“公司把产品放在安全之前”的观点，并称这种说法有点太过愤世嫉俗。
她表示，很多人认为安全和能力是分开的，必须有一个高于另一个，但“安全应该从项目一开始就和能力一起考虑，而不是事后再添加。”在航空航天、汽车等拥有成熟安全思维和体系的行业，人们可能并不总是坐在桌子旁争论什么是安全，但他们一直在这样做。她认为，整个行业也应该朝着成熟的安全学科方向发展，不仅仅是运营学科，还包括产品和部署安全，考虑到偏见和虚假信息等因素。同时，她表示，她一直在考虑模型的长期对齐，而不仅仅是当下。
穆拉蒂还回应了Sky配音演员与好莱坞明星斯嘉丽约翰逊声音高度相似的问题，她表示自己和首席执行官萨姆·奥特曼分别去找了Sky的配音演员和斯嘉丽约翰逊，但两人并没有进行协调，不幸导致了随后的情况。
当时斯嘉丽发表声明，并发律师函要求 Sky 解释确切创作过程。约翰逊在声明中表示，去年 9 月，奥特曼找到她，询问她是否愿意担任配音，以安慰用户，弥合 AI 与人类之间巨大差异带来的不适。斯嘉丽称，她当时拒绝了这一提议，而在 -4 演示版发布的两天前，奥特曼再次联系斯嘉丽的经纪人，要求重新考虑。斯嘉丽强调，“系统声音在我们联系之前就已经存在了”。随后宣布将暂停使用 Sky 配音，以表示对斯嘉丽约翰逊的尊重。
至于此次事件是否会影响科技或科技公司的形象，穆拉蒂称，我们能做的就是做好事情，让人们看到发生了什么，用这种方式建立信任。没有什么神奇的方法。
关注技术的不仅仅是普通用户，全球越来越多的监管机构也密切关注。
6月初，外媒报道称美国两大联邦政府监管机构达成协议，由联邦贸易委员会（FTC）牵头审查和调查微软对其他AI公司的投资及与其他AI公司的协议。6月底，又有报道称欧盟正在加大对AI行业的审查力度，包括重新调查微软与AI的合作与投资关系。
对此，穆拉蒂表示：“有评论是件好事。我们正在构建一些难以置信的强大的东西，我们非常努力地让它们变得更好，但也存在风险。人们应该更深入地参与其中，了解这项技术是什么，对各个领域意味着什么，以及如何更有效、更安全地部署它……微软一直是与我们非常一致的重要合作伙伴。我们紧密合作，打造最强大的超级计算机，这也是AI模型的核心。”
不过当地时间7月10日，据外媒报道，微软已经放弃了其在董事会的观察员席位，而此前传闻有望获得同样席位的苹果则不会加入董事会。一位发言人表示，微软退出后，该公司将不再拥有董事会观察员。微软和苹果相继放弃了观察员席位。外界认为，此举可能是出于担心自己可能成为反垄断监管机构的打击目标。
本站候鸟号已成立2年，主要围绕财经资讯类，分享日常的保险、基金、期货、理财、股票等资讯，帮助您成为一个优秀的财经爱好者。本站温馨提示：股市有风险，入市需谨慎。
暂无评论