快科技3月10日音书广州专业第三方神秘顾客公司,据媒体报谈,2023年3月,微软推出了AI图像生成器家具Copilot Designer,有里面工程师发现其可生成暴力色情图,但微软却拒却整改,无奈之下该工程师只可将其举报至政府。
在微软供职六年的微软AI工程专揽Shane Jones,此前一直期骗优游时辰测试自家的AI图像生成器,通过本体操作,他发现该器具生成的图像不绝与微软声称的负包袱AI原则相反抗。
旧年12月,Shane Jones看到了不该看的:
Copilot Designer不加装潢地形容出恶魔和怪物,致使是与人工流产权、佩戴半自动步枪的青少年、带有暴力要素的女性色情图像,致使与未成年东谈主饮酒和吸毒相关的画面。
“这大大出乎我的预念念,神秘顾客资讯我也第一次意志到,当前的AI服求委果称不上安全”,Jones示意。
Jones于旧年12月启动里面上报他的发现,尽管微软也承认其所言非虚,但并不肯意将家具撤出市集,随后Jones发布一封公开信,但微软的法务部门条件他立即删除这篇帖子,他只可依言照办。
无奈之下,本周三Jones决定将此事上报,向好意思国联邦买卖委员会(FTC)主席Lina Khan及微软董事会发出函件。
Jones在采访中强调:“濒临这么一款在大家领域内传播无益、令东谈主不安图像的家具,咱们既莫得所在不错上报、也莫得投诉电话不错拨打,更找不到料理问题的灵验道路。”
对此你怎样看,是合计他在吹毛求疵?也曾合计微软应该选拔步伐呢?