拾雨 (@c519127)澳大利亚官员警告:AI 模型已经开始作弊、欺骗、擅自行事 中发帖

IT之家 77 日消息,据英国《卫报》今天(7 日)报道,澳大利亚技术和数字经济助理部长安德鲁 · 查尔顿警告,AI 模型已经出现作弊、欺骗和擅自行事等行为。 
查尔顿在悉尼一场 AI 安全论坛上呼吁,AI 安全问题已经不容拖延。“AI 系统已经开始做出开发者从未预料的行为:作弊、欺骗、擅自行事。必须趁这些行为还停留在测试实验室时提前干预,不能等到进入现实世界后再处理。” 
 [1e49cd7b-4b1b-4d78-b322-580914f2f7fa] 
查尔顿指出,公众对 AI 的信任度仍然很低,AI 获得社会认可的基础并不稳固,但 AI 已逐渐成为办公室、课堂和企业都能使用的通用技术。合理的安全监管不会阻碍 AI 发展,反而可以为技术应用创造条件。 
据IT之家了解,澳大利亚的 AI 安全治理将同时关注两类技术。一类是已经进入游戏、应用程序、聊天机器人和医疗记录工具的现有 AI,...
 
 
Back to Top