OpenAI 安全系统负责人长文梳理：大模型的对抗攻击与防御

作者：机器之心发布时间：2023-11-20

随着 ChatGPT 的发布，大型语言模型应用正在加速大范围铺开。OpenAI 的安全系统团队已经投入了大量资源，研究如何在对齐过程中为模型构建默认的安全行为。但是，对抗攻击或 prompt 越狱依然...【查看原文】

相关资讯

OpenAI安全系统负责人长文梳理：大模型的对抗攻击与防御

选自Lil’Log作者：LilianWeng机器之心编译编辑：PandaLLM能力强大，倘若别有用心之人用其来干坏事，可能会造成难以预料的严重后果。虽然大多数商用和开源LLM都存在一定的内置安全机制，但却并不一定能防御形式各异的对抗攻击。OpenAI的安全系统团队已经投入了大量资源，研究如何在对齐过程中为模型构建默认的安全行为。

OpenAI

机器之心Pro 2023-11-20

OpenAI 信任与安全负责人 Dave Willner 宣布离职

IT之家 7 月 22 日消息，OpenAI 信任与安全负责人戴夫・威尔纳（Dave Willner）昨天在其 LinkedIn 发布动态，宣布已经离开 OpenAI 公司。威尔纳在 OpenAI

OpenAI

IT之家 2023-07-22

机器学习中的对抗性攻击：威胁与防御

“机器学习中的对抗性攻击”是一个备受关注的话题，因为它可能会对人工智能系统的安全性和可靠性造成威胁。本文将介绍机器学习中的对抗性攻击及其威胁，并探讨一些防御方法。

人工智能机器学习

xuyuelin88117 2023-03-21

OpenAI前安全负责人雷克将跳槽Anthropic

简·雷克（Jan Leike）是OpenAI安全团队的前联合负责人，专注于长期风险。雷克周二在社交媒体宣布，他将加入OpenAI的竞争对手Anthropic。来源：金融界AI电报

OpenAI 金融

金融界 2024-05-29

前OpenAI安全负责人加入竞争对手Anthropic

鞭牛士报道，5月29日消息，据外电报道，刚刚从OpenAI安全团队（专注于长期风险）离职的前联席主管JanLeike宣布将加入OpenAI人工智能竞争对手Anthropic。5月14日，OpenAI联合创始人…

OpenAI 人工智能

鞭牛士 2024-05-29

近期资讯

Tauri 开源笔记(2) - 配合 Next.js + shadcn/ui 搭建项目

大家好，我是 codexu。从今天开始，我在撰写一个关于 Tauri 跨端开发的系列文章，分享我在开发笔记 APP 过程中所采用技术和遇到的问题。

codexu 2024-12-26

Koa2 响应中间件：从基础到进阶的 API 处理方案

在这篇文章中，我们将一起深入探索 Koa2 的响应中间件。我们将从基础概念开始，逐步走向更复杂的应用，确保你能够构建出既一致又易于维护的 API。

surewinT 2024-12-26

HarmonyOS: 跨模块访问 HSP/HAR 包资源

在HarmonyOS应用开发过程中，常常涉及到多个模块协同工作，尤其是当使用 HSP和 HAR包时，那么如何跨模块访问其 resources 目录下的各种资源文件?

i鸿蒙 2024-12-26

浅谈鸿蒙应用 Http Axios 请求组件泛型封装，支持 UI 响应式更新

前言市面上找了一圈关于这个得文章，也看了官方的社区和给出的解决方案，都没讲清楚怎么优雅的实现 class 反射需求当前在开发的应用是基于鸿蒙 API 13，具体依赖如下。众所周知，Axios

yangyj 2024-12-26

关于 Angular 应用错误日志 1 rules skipped due to selector errors

错误日志 1 rules skipped due to selector errors，可以翻译为“由于选择器错误，跳过了一条规则”。在 Angular 应用中，类似的日志通常与 CSS 选择器相关联

汪子熙 2024-12-26

React 标签页组件 Tab

标签页（Tab）组件是现代Web应用程序中常见的UI元素，用于在有限的空间内展示多个内容面板。React 提供了强大的工具来创建和管理这些交互式组件。本文将深入探讨如何在React中实现一个功能完善的

Jimaks 2024-12-26

Monorepo 项目实现子包的热更新

问题在 Monorepo 项目开发过程中，为了方便，我们一般都将当前仓库中的子包通过 workspace 的方式直接引用。但是子包对外的入口一般都是编译构建后的文件，我们用 workspace 方式

liub89 2024-12-26

纯前端使用 docx 和 html2canvas 库导出 Word 报告：从表格到图表的完整实现

作为一名前端开发工程师，搞事情是我的日常。今天的主题是：如何用 Ant Design 表格和 AntV/G2 图表实现一个 Word 文档导出功能！别急，听我慢慢道来，保证让你在 30 分钟内从菜

Surprisec 2024-12-26

ArkTs进阶之保姆教程

1.通用属性 1.1多态样式属性：stateStyles() 参数描述 normal 组件无状态时的样式（默认状态） pressed 组件按下状态的样式 disabled 组件禁用状态的样式 fo

梁林烁 2024-12-26

鸿蒙Next状态管理V2 - @Param装饰器总结

一、概述为增强子组件接受外部参数输入的能力，开发者可使用@Param装饰器。从API version 12开始，在@ComponentV2装饰的自定义组件中支持使用@Param装饰器。当前状态管理（

Freerain9 2024-12-26

OpenAI 安全系统负责人长文梳理：大模型的对抗攻击与防御

推荐体验

相关资讯

OpenAI安全系统负责人长文梳理：大模型的对抗攻击与防御

OpenAI 信任与安全负责人 Dave Willner 宣布离职

机器学习中的对抗性攻击：威胁与防御

OpenAI前安全负责人雷克将跳槽Anthropic

前OpenAI安全负责人加入竞争对手Anthropic

近期资讯

Tauri 开源笔记(2) - 配合 Next.js + shadcn/ui 搭建项目

Koa2 响应中间件：从基础到进阶的 API 处理方案

HarmonyOS: 跨模块访问 HSP/HAR 包资源

浅谈鸿蒙应用 Http Axios 请求组件泛型封装，支持 UI 响应式更新

关于 Angular 应用错误日志 1 rules skipped due to selector errors

React 标签页组件 Tab

Monorepo 项目实现子包的热更新

纯前端使用 docx 和 html2canvas 库导出 Word 报告：从表格到图表的完整实现

ArkTs进阶之保姆教程

鸿蒙Next状态管理V2 - @Param装饰器总结

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响