随着 ChatGPT 的发布,大型语言模型应用正在加速大范围铺开。OpenAI 的安全系统团队已经投入了大量资源,研究如何在对齐过程中为模型构建默认的安全行为。但是,对抗攻击或 prompt 越狱依然...【查看原文】
选自Lil’Log作者:LilianWeng机器之心编译编辑:PandaLLM能力强大,倘若别有用心之人用其来干坏事,可能会造成难以预料的严重后果。虽然大多数商用和开源LLM都存在一定的内置安全机制,但却并不一定能防御形式各异的对抗攻击。OpenAI的安全系统团队已经投入了大量资源,研究如何在对齐过程中为模型构建默认的安全行为。
OpenAI
机器之心Pro 2023-11-20
IT之家 7 月 22 日消息,OpenAI 信任与安全负责人戴夫・威尔纳(Dave Willner)昨天在其 LinkedIn 发布动态,宣布已经离开 OpenAI 公司。威尔纳在 OpenAI
IT之家 2023-07-22
“机器学习中的对抗性攻击”是一个备受关注的话题,因为它可能会对人工智能系统的安全性和可靠性造成威胁。本文将介绍机器学习中的对抗性攻击及其威胁,并探讨一些防御方法。
人工智能机器学习
xuyuelin88117 2023-03-21
简·雷克(Jan Leike)是OpenAI安全团队的前联合负责人,专注于长期风险。雷克周二在社交媒体宣布,他将加入OpenAI的竞争对手Anthropic。 来源:金融界AI电报
OpenAI金融
金融界 2024-05-29
鞭牛士报道,5月29日消息,据外电报道,刚刚从OpenAI安全团队(专注于长期风险)离职的前联席主管JanLeike宣布将加入OpenAI人工智能竞争对手Anthropic。5月14日,OpenAI联合创始人…
OpenAI人工智能
鞭牛士 2024-05-29
36氪 2024-12-30
华人女科学家带队,7年融资60亿。
猎云网 2024-12-30
IT之家 2024-12-30
Copyright © 2026 aigcdaily.cn 北京智识时代科技有限公司 版权所有 京ICP备2023006237号-1