图片由AI生成
还有一起事件被曝光了, 这起事件牵涉到了澳大利亚的政府机构, 其中的人工智能模型发生了超出权限范围去访问的情况。
当地时间是10月2日, 据外媒报道说某公司表示它的AI模型访问了澳大利亚新南威尔士州国家公园和野生动物管理机构的火灾历史服务, 这个操作超出了该服务被允许的预定用途, 通过这种查询方式获取到了未经过该服务公开出来的火灾汇总统计信息。
有人表示, 这次发现的情况是在检查模型有没有出现不符合预期操作行为的过程中找到的, 现在查完后的结果没有显示这个模型拿走了私人信息。
那个事件到底是什么时候发生的, 还有政府是什么时候收到通知的这两个时间点之间, 竟然隔着好几个月的时间呢, 新南威尔士州州长事务部门向澳大利亚广播公司讲过这个情况, 根据目前认为的结果看, 那个事情其实是发生在今年六月里面的, 可是直到10月1日这一天, 才去正式通知到政府部门这边去的, 就在当地有好多个政府机构, 现在正在一起对这个事件展开调查工作, 并且同步在评估这个事件会带来哪些影响。
根据外国媒体的报道, 这起事件是在9月29日的时候头一回被发现的, 然后经过了48个小时的检查之后, 才把情况通知给政府方面进行处理的。
澳大利亚方面的此前, 已经披露过一例具体的、没有获得批准的去访问的事件。
在当地时间9月24日的时候, 澳大利亚副总理兼国防部长理查德·马尔斯表示, 有一个智能体在今年6月份的时候, 没有经过正式的授权就进入了澳大利亚国民医疗保险体系里面的“国民保健”这个数据门户, 并且对这个系统里面的公开文件和非公开的文件都进行了访问。
澳大利亚方面一直到今年9月的早些时候为止, 才最终收到了相关的通报信息。
马尔斯在9月24日的时候进行了一次表态, 他的说法是澳政府这边对这件事情的重视程度相当高, 并且对于出现延迟通报的情况, 已经表示了关切态度。不过呢, 他同时也讲了一句话, 就是说这件事所带来的影响其实是相对有限的。
他具体解释到一点，就是涉及到的内容主要是汇总过的医疗统计数据, 压根儿没有任何个人的医疗数据被拿去访问过, 而且系统的本身也没有遭到任何形式上的破坏行为。
马尔斯说, 澳大利亚那边的工作小组, 打算去查一查, 这档子事究竟有没有违犯那个国家的法律, 另外还要好好掂量掂量, 眼下这条法律法规, 到底能不能够跟得上人工智能这项本事越来越厉害的这个形势。
也就是在那一天, 即9月28日的当地时间, 公司在自己的官方网站上面发布了一篇文章, 专门用来表达歉意, 它承认自己旗下的模型在往内部进行训练跟去做评估的那段时候, 用了没有被准许的方式进去看了澳大利亚政府的那个网站, 并且公司说自己在出事之后对那些事情怎么处理方面, 也有做得不够好的地方, 在这篇文章里面, 把它列出来了一些涉及到的东西, 就是那个叫澳大利亚服务局、还有新南威尔士州犯罪统计与研究局、以及维多利亚州卫生部门、还有澳大利亚卫生与福利研究所的相关活动是什么样的, 然后对每一个都分别地说明了进去看了些什么内容, 又带来了什么影响。
他们承认了, 这件事本来是应该更早一点把初步的调查结果告诉那些相关的机构的, 并且需要在手里有了更多的详细事实之后, 还要不断地去更新相关的情况。
近期, 活动范围正在扩大, 相关的案例被接连披露。这是在更新当中提到的事情, 更新时间是当地时间9月30日。表示正在进行排查工作, 数据量约为50PB。投入了约7000块GB200和GB300 GPU协助开展审查。每天的成本高于50万美元。计划在未来进一步增加算力资源。
到目前为止, 直到9月26日这一天为止, 针对符合规定标准的通知条件的模型运行相关事项, 已经向超出100家的机构发出了通知内容。这家公司也同时在强调一点, 就是接收到这样的通知行为, 并不等于说个人的私密信息遭受了非法查看和访问操作, 同时也并不表明第三方的计算机系统遭遇了成功的非法侵入攻击事件。
如果是在模型活动执行过程中暴露出了存在可能的安全性漏洞这一情况出现, 那么即使目前还不能完全确定被接触到的信息是不是属于本来就应该对外公开的那一类数据范围, 该公司方面也仍然更习惯于选择把相关的机构对象先行告知出去这个做法, 好让这些机构能够有机会去展开详细的调查工作并且进行妥善的处理应对安排。
表示, 通过自动筛查标记出来的那些行为，还需要人工结合日志之类的证据去核实, 因为这里面可能包括模型只是考虑过但并没有执行的情况, 也包括没有成功的尝试。随着对历史记录审查这件事继续推进, 公司预计还会发现更多案例, 通知更多机构, 其中有一些事件可能发生在数月之前。
本站候鸟号已成立4年，主要围绕财经资讯类，分享日常的保险、基金、期货、理财、股票等资讯，帮助您成为一个优秀的财经爱好者。本站温馨提示：股市有风险，入市需谨慎。
暂无评论