OpenAI 安全系统负责人长文梳理：大模型的对抗攻击与防御

作者：机器之心发布时间：2023-11-20

随着 ChatGPT 的发布，大型语言模型应用正在加速大范围铺开。OpenAI 的安全系统团队已经投入了大量资源，研究如何在对齐过程中为模型构建默认的安全行为。但是，对抗攻击或 prompt 越狱依然...【查看原文】

相关资讯

OpenAI安全系统负责人长文梳理：大模型的对抗攻击与防御

选自Lil’Log作者：LilianWeng机器之心编译编辑：PandaLLM能力强大，倘若别有用心之人用其来干坏事，可能会造成难以预料的严重后果。虽然大多数商用和开源LLM都存在一定的内置安全机制，但却并不一定能防御形式各异的对抗攻击。OpenAI的安全系统团队已经投入了大量资源，研究如何在对齐过程中为模型构建默认的安全行为。

OpenAI

机器之心Pro 2023-11-20

OpenAI 信任与安全负责人 Dave Willner 宣布离职

IT之家 7 月 22 日消息，OpenAI 信任与安全负责人戴夫・威尔纳（Dave Willner）昨天在其 LinkedIn 发布动态，宣布已经离开 OpenAI 公司。威尔纳在 OpenAI

OpenAI

IT之家 2023-07-22

机器学习中的对抗性攻击：威胁与防御

“机器学习中的对抗性攻击”是一个备受关注的话题，因为它可能会对人工智能系统的安全性和可靠性造成威胁。本文将介绍机器学习中的对抗性攻击及其威胁，并探讨一些防御方法。

人工智能机器学习

xuyuelin88117 2023-03-21

OpenAI前安全负责人雷克将跳槽Anthropic

简·雷克（Jan Leike）是OpenAI安全团队的前联合负责人，专注于长期风险。雷克周二在社交媒体宣布，他将加入OpenAI的竞争对手Anthropic。来源：金融界AI电报

OpenAI 金融

金融界 2024-05-29

前OpenAI安全负责人加入竞争对手Anthropic

鞭牛士报道，5月29日消息，据外电报道，刚刚从OpenAI安全团队（专注于长期风险）离职的前联席主管JanLeike宣布将加入OpenAI人工智能竞争对手Anthropic。5月14日，OpenAI联合创始人…

OpenAI 人工智能

鞭牛士 2024-05-29

近期资讯

江西煜明智慧光电申请LED灯珠光效提升专利，提升无荧光粉LED灯珠的灯效

金融界2024年12月26日消息，国家知识产权局信息显示，江西煜明智慧光电股份有限公司申请一项名为“一种LED灯珠光效提升的控制方法及系统”的专利，公开号CN119183225A，申请日期为2024年11月。专利摘要显示，本发明公开了一种LED灯珠光效提升的控制方法及系统，涉及照明控制技术领域。

金融界 2024-12-26

性价比之选，美菱BCD-210L3CX：1099元到手的210升三门节能冰箱

根据用户评价和产品评测，美菱冰箱在满足日常冷藏和冷冻需求的同时，还提供了节能和低噪音的运行特性。此外，参与立减活动还可以享受额外的补贴和优惠，使得实际支付价格更低，进一步增强了其市场竞争力。-总容积：210L，其中冷藏室容积为121L，冷冻室容积为46L，中门容积为43L。

小米地瓜 2024-12-26

宇树“觉醒”，云深处“出海”：四足机器人批量化应用有望步入“iPhone”时刻｜2024年末出海观察

原地转体两周，再倒立转体三周半；跋山涉水下陡坡，稳定性和速度兼顾⋯⋯12月23日，宇树科技发布的一段不到2分钟的视频，展示其最新推出的UnitreeB2-W工业轮足机器人最新性能，收获了大量关注和好评，连马斯克也在社交平台X上转发。

每日经济新闻 2024-12-26

AMD Radeon RX 9070 XT 显卡被曝游戏测试中和 RTX 4080 区别不大

IT之家12月26日消息，Chiphell论坛消息人士zhangzhonghao今日表示，一张显卡的公版款式在游戏测试中“和4080区别不大，5%以内”。结合上下文内容，此处指的应是AMD"RDNA4"独立显卡旗舰型号RadeonRX9070XT。参考现有显卡天梯图，RX9070XT的性能有望强于上代次旗舰RX7900XT。

IT之家 2024-12-26

年轻人的电竞新机登场！荣耀GT全面评测：颜值在线性价无敌

2024年末，荣耀正式将GT系列独立，定位于游戏体验和高性价比市场。但其实荣耀GT并非荣耀首款主打游戏概念的手机，早在6年前，荣耀Play便首发了GPUTurbo技术，提升游戏性能，该系列不断更新，推出了多款机型，满足了不同用户的需求。

驱动之家 2024-12-26

3D打印机居然“进化”到了这种程度京东3D打印活动人气高涨

提起3D打印，你是否还停留在“科幻概念”的阶段?但在12月25日举行的京东“万物皆可打”3D打印活动现场，新款的3D打印机和众多3D打印作品却让用户大感震惊：原来3D打印机已经“进化”到了这种程度!现如今3D打印机所打印的玩具、手办、玩偶在细节、形象、逼真程度方面都十分出色，许多消费者日常生活中所购买的玩偶玩具等产品，也少不了3D打印技术...

中国财富网 2024-12-26

香港首航！C919新年起执飞沪港定期航班

记者12月26日获悉，中国东方航空计划自2025年元旦开始，使用国产大飞机C919，执飞“上海虹桥—香港”往返航班，正式开启国产大飞机在地区航线的商业运营，东航也将成为首家使用C919在香港执飞定期商业航班的航空公司。

北京日报 2024-12-26

1.0到2.0 看长虹模具中心传统制造到智能制造的“重生”之路

2020年实现数控设备数采上系统，2021年实施电火花半自动系统改造，2023年采用贵重物料自动称重系统、电极半自动装夹、AGV转运改造……6年以来，长虹模具中心不断在自动化改造的路上自我“折腾”、自我探索实践。

央广网 2024-12-26

小米MIX Flip 2明年上半年提档登场性能大幅提升

【CNMO科技消息】12月26日，知名爆料人士数码闲聊站透露，搭载高通骁龙8Elite移动平台的小米MIXFlip2小折叠屏手机将在明年上半年发布：“这代卖得太好了，大迭代直接提档登场。”

手机中国 2024-12-26

1168元起！极摩客推出G2 Plus/ G3 Plus迷你电脑

极摩客近日推出了两款新的迷你电脑产品，分别为G3Plus和G2Plus。这两款产品均搭载了英特尔N150处理器，并且在设计、接口等方面存在较大差异。G2Plus采用的是IntelN150处理器，配置为12GBLPDDR5内存，可选配M.22242SSD存储空间，最高可扩展至2TB。整机尺寸为87*87*39.5mm，重量约为0.21kg。

中关村在线 2024-12-26

OpenAI 安全系统负责人长文梳理：大模型的对抗攻击与防御

推荐体验

相关资讯

OpenAI安全系统负责人长文梳理：大模型的对抗攻击与防御

OpenAI 信任与安全负责人 Dave Willner 宣布离职

机器学习中的对抗性攻击：威胁与防御

OpenAI前安全负责人雷克将跳槽Anthropic

前OpenAI安全负责人加入竞争对手Anthropic

近期资讯

江西煜明智慧光电申请LED灯珠光效提升专利，提升无荧光粉LED灯珠的灯效

性价比之选，美菱BCD-210L3CX：1099元到手的210升三门节能冰箱

宇树“觉醒”，云深处“出海”：四足机器人批量化应用有望步入“iPhone”时刻｜2024年末出海观察

AMD Radeon RX 9070 XT 显卡被曝游戏测试中和 RTX 4080 区别不大

年轻人的电竞新机登场！荣耀GT全面评测：颜值在线性价无敌

3D打印机居然“进化”到了这种程度京东3D打印活动人气高涨

香港首航！C919新年起执飞沪港定期航班

1.0到2.0 看长虹模具中心传统制造到智能制造的“重生”之路

小米MIX Flip 2明年上半年提档登场性能大幅提升

1168元起！极摩客推出G2 Plus/ G3 Plus迷你电脑

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响