首页 > 生活知识 > 生活知识 > OpenAI员工发表公开信,警示人工智能监管缺失风险

OpenAI员工发表公开信,警示人工智能监管缺失风险

发布时间:2024-06-06 17:09:57来源: 15210273549

美国开放人工智能研究中心(OpenAI)和谷歌旗下“深层思维”公司的13名现职员及前员工4日发表联名公开信,对人工智能行业在缺乏对“吹哨人”法律保护的背景下快速发展表达担忧。


据多家外媒援引信件报道,这些员工认为,人工智能企业受利益驱使缺乏有效监管,现有企业治理架构不足以改变这一点。而不受监管的人工智能会触发虚假信息传播、人工智能系统丧失独立性和社会阶层不平等深化等多重风险。

信件指出,外部人士对上述风险中的大部分不知情,因为人工智能企业“目前只承担与政府分享部分相关信息的微弱义务,也没有义务与公民社会分享信息”,“我们不认为能全然依靠企业自愿分享信息”。

信件还指出,一般的法律保护对人工智能行业“吹哨人”而言“不够”,因为不少引人担忧的风险在法律监管方面仍属空白。另外,人工智能企业员工受制于保密协议,通常不得对外实质性披露企业所掌握的人工智能实力。

联名信签署人中,2人与“深层思维”有关,4名OpenAI现员工要求匿名。组织者包括OpenAI前工程师丹尼尔·齐格勒和前员工丹尼尔·科科塔耶罗。

齐格勒4日告诉美联社记者,他2018年至2021年在OpenAI工作时参与聊天机器人ChatGPT部分技术研发,当时不担心在企业内部讲出他发现的问题,但他现在担心,行业内企业竞相将相关技术迅速商业化会让它们承受忽视风险的压力。“相较于责备OpenAI,我更感兴趣的是借此机会让全部人工智能前沿企业切实投入,强化监管和透明度,增进公众信任。”

科科塔耶罗则发表书面声明说,他今年早些时候离职,是对OpenAI“能采取负责任行为丧失希望”,特别是在企业尝试打造通用人工智能系统之后。对于这类功能强大、却又鲜为人熟知的技术,企业“快速出手、打破常规”,行事方式与所需“恰恰相反”。

OpenAI同一天回应联名信时强调,已设立匿名举报热线和安全委员会保护“吹哨人”,相信能以科学方法应对风险。

生活知识更多>>

2024年黑龙江中医药大学佳木斯学院招聘工作人员公告 2024年宁波市奉化区卫生健康系统招聘编外工作人员公告 2024年威海市中医院招聘合同制工作人员简章 2024年聊城市临清市大学生乡村医生专项计划招聘有关事项通告 2024年厦门市集美区双岭小学非在编教师招聘简章 2024年厦门市集美区杏东中学非在编(产假顶岗)教师招聘简章 2024年宣恩县园投人力资源服务有限公司公开招聘工作人员的公告(2人) 2024年南充市顺庆区考调工作人员公告 看到“自主三强”10月的销量,合资车企有没有瑟瑟发抖? 国内豪华车市场:合资品牌几乎都在降,凯迪拉克快跌没了 蔚来的增程混动只在海外卖,是不是死要面子活受罪? 虽然很赚钱,但从销量情况来看,长城汽车还是有点危险 全新奥迪A5 Avant PHEV谍照曝光,3.0T+电机,纯电120km 比亚迪又又又叒叕刷新纪录!10月销量破50万 奔驰GLE谍照曝光,搭全新三叉星尾灯,25年发布 新款高尔夫要来了,外观动力均调整,11月7日首发 循序渐进讲解负载均衡vivoGateway(VGW) vivo摆脱“厂妹机”,100万跑分+6000mAh,12+256GB跌至1458元 性价比不讲武德,荣耀Magic6跌到3169元,高端机沦为中端机 3000+荣耀200Pro与荣耀Magic6应该怎么选? 双十一力荐,近乎“零差评”的四款手机,轻松流畅用五年 6000元预算内,Miniled背光电视:海信、创维、TCL谁更胜一筹? 宾利首次进军电动汽车领域将于 2026 年亮相 定价多少能接受?2025款宝骏悦也Plus将于广州车展上市 长安出手“王炸”!起售价9万多,满满黑科技,年轻人掀背轿跑! 2025 款福特 Explorer ST——运动型 SUV 奔驰确认,AMG将独立研发高性能纯电SUV 丰田北美高管抨击美国加州电动化转型新政:目前来看几乎不可能 奥迪新品牌 AUDI 发布,电动化浪潮下胜算几何? 酷比魔方掌玩mini2 Ultra平板电脑公布,骁龙7+Gen 3处理器