首页 > 财税学习 > 财税学习 > OpenAI员工发表公开信,警示人工智能监管缺失风险

OpenAI员工发表公开信,警示人工智能监管缺失风险

发布时间:2024-06-06 17:09:57

美国开放人工智能研究中心(OpenAI)和谷歌旗下“深层思维”公司的13名现职员及前员工4日发表联名公开信,对人工智能行业在缺乏对“吹哨人”法律保护的背景下快速发展表达担忧。


据多家外媒援引信件报道,这些员工认为,人工智能企业受利益驱使缺乏有效监管,现有企业治理架构不足以改变这一点。而不受监管的人工智能会触发虚假信息传播、人工智能系统丧失独立性和社会阶层不平等深化等多重风险。

信件指出,外部人士对上述风险中的大部分不知情,因为人工智能企业“目前只承担与政府分享部分相关信息的微弱义务,也没有义务与公民社会分享信息”,“我们不认为能全然依靠企业自愿分享信息”。

信件还指出,一般的法律保护对人工智能行业“吹哨人”而言“不够”,因为不少引人担忧的风险在法律监管方面仍属空白。另外,人工智能企业员工受制于保密协议,通常不得对外实质性披露企业所掌握的人工智能实力。

联名信签署人中,2人与“深层思维”有关,4名OpenAI现员工要求匿名。组织者包括OpenAI前工程师丹尼尔·齐格勒和前员工丹尼尔·科科塔耶罗。

齐格勒4日告诉美联社记者,他2018年至2021年在OpenAI工作时参与聊天机器人ChatGPT部分技术研发,当时不担心在企业内部讲出他发现的问题,但他现在担心,行业内企业竞相将相关技术迅速商业化会让它们承受忽视风险的压力。“相较于责备OpenAI,我更感兴趣的是借此机会让全部人工智能前沿企业切实投入,强化监管和透明度,增进公众信任。”

科科塔耶罗则发表书面声明说,他今年早些时候离职,是对OpenAI“能采取负责任行为丧失希望”,特别是在企业尝试打造通用人工智能系统之后。对于这类功能强大、却又鲜为人熟知的技术,企业“快速出手、打破常规”,行事方式与所需“恰恰相反”。

OpenAI同一天回应联名信时强调,已设立匿名举报热线和安全委员会保护“吹哨人”,相信能以科学方法应对风险。

财税学习更多>>

Win11 预览版意外播放 Windows Vista 开机声音,微软确认将修复 2025年真是小屏爆发年,从小平板到小屏手机,为啥今年大家这么喜欢小屏? 华硕ROG PG27UCDM电竞显示器限时特惠 新能源汽车下乡与基础设施投建良性互动 推动优质资源向乡村倾斜 解锁健康消费新主场!惠达进驻京东MALL,引领健康卫浴新生活 最新!湖州386个小区,二手房挂牌价曝光 广州直接取消限购,房价一夜暴涨还是暴跌,买房人到底该不该冲? iPhone 16 Pro体验:新一代钉子户神机预定 荣耀开启降价模式,Magic7跌至“新低价”,5650mAh+5000万三主摄 618各种补贴后,“最值得入手”的五款手机 华为openEuler+DeepSeek+Dify国产AI大模型【智能体】RAG应用指南 标杆企业华为如何用“AI”赋能生产力? 深入解析Go测试并行性优化:为何多核CPU无法加速你的测试? 万丽星云RTX 5070 OC 12G显卡图赏:外观全面革新,呈现流线型优雅美感 蹭图书馆的2k显示器,沉浸式双屏狂学计算机,效率爽飞 科技巨头争相布局“AI机器人赛道”,英伟达和三星据称都看上了它 人工智能“出屏” 机器人“登场” 爆款英剧《豺狼的日子》原著作者弗·福塞斯去世 青少年爱上阅读名著,如何选好一个译本? 王铎草书《为葆光张老亲翁书》 《德意志心灵》幽默笔触带你理解德意志文明的矛盾和复杂 CCTV5今日直播:07:55NBA总决赛第二场(步行者-雷霆) 二饼的直播之路:知名才艺主播的光环下,走了这么久,你变了没有 微信再上新 鸿蒙生态展现加速迭代强劲动力 商家必看!支付宝直付通如何让经营效率翻倍? 磁轴&机械轴随意切换?真正的毕业磁轴键盘!——CHERRY 双魔 B660主板最新CPU支持全名单:12/13/14代通吃,附BIOS提升技巧 柔性触觉感知公司获小米独家投资,已拿下头部主机厂、机器人企业订单 美的回应北美空调召回:系主动召回,不存在重大瑕疵和缺陷 阿尔特进军机器人产业 扩张智能科技版图