OpenAI破解对齐难题？超级对齐负责人Jan Leike采访实录：「可扩展监督」是良策

作者：优弧发布时间：2023-10-19

OpenAI

近期，OpenAI 超级对齐负责人 Jan Leike 讲解了如何利用可扩展监督来解决对齐难题。今年早些时候，OpenAI 宣布成立了一支专注于超级对齐的新团队，由 Jan Leike 和 IIya...【查看原文】

相关资讯

Jan Leike宣布加入Anthropic，继续负责超级对齐

JanLeike曾是OpenAI超级对齐（Superalignment）团队的联合负责人，他与Ilya等人一起离职。该团队原本由IlyaSutskever和JanLeike共同领导，并投入了公司20%的计算资…

OpenAI

猜想笔记 2024-06-09

Ilya官宣离职，超级对齐负责人Jan直接辞职，OpenAI还是走散了

「我对接下来发生的事情感到兴奋，会在适当的时候分享细节。」

OpenAI

机器之心 2024-05-15

近期资讯

印度发现“卡脖子”矿产，想偷师中方经验，摆脱对华依赖

近年来，国际舞台上演了一场不同寻常的博弈，这就是由美国主导的对中国科技领域的围堵，而中国则在关键矿产资源领域发起了反制。印度作为一个新兴经济体，在这场“科技战”中被迫重新审视自身的短板。但问题随之而来，如同一位刚刚找到宝藏却没有钥匙的探险者一样，印度面临着采矿技术和能力不足的重大挑战。

宏兵灼见 2024-12-30

稚晖君开源百万机器人真机数据集

百万真机数据集开源项目AgiBotWorld，也是全球首个基于全域真实场景、全能硬件平台、全程质量把控的大规模机器人数据集。该项目由稚晖君具身智能创业项目智元机器人，携手上海AILab、国家地方共建人形机器人创新中心以及上海库帕思联合发布。

量子位 2024-12-30

万象更新满足用户需求

#吉利银河E5#首次大版本OTA新增8大功能优化1项体验2025年1月陆续推送升级…

吉利汽车 2024-12-30

95后AI“天才少女”刷屏，雷军千万年薪挖角！人工智能ETF(159819)备受关注

消息面上，国产大模型DeepSeek在全球火了，并带火一个95后AI“天才少女”罗福莉。她曾在DeepSeek参与DeepSeek-V2的研发，是这款模型的关键开发者之一。在DeepSeek-V3发布前几天，媒体报道称小米创始人雷军已开出千万年薪，将罗福莉招至麾下，罗福莉将就职于小米AI实验室，领导大模型团队。

有连云 2024-12-30

金融国际标准跟踪研究工作组下设专题组第一次工作会议在京召开

探索AI标准，助力数字金融高质量发展2024年12月24日下午，金标委金融国际标准跟踪研究工作组下设金融业人工智能应用专题组第一次工作会议在北京举行，就“探索AI标准，助力数字金融高质量发展”主题深入交流。

金融电子化 2024-12-30

重达889吨！德国挖掘机为何如此厉害？一铲就能挖起一座房子

越大型越强劲的机械生产技术要求就越高，有一款德国生产的最大型的挖掘机，比塞洛斯RH400，这是一款专门为矿山设计的挖掘机。比塞洛斯RH400一个挖掘铲就有84吨的重量，它的臂推力达到了3300千牛，才能挥舞动这么重的挖铲，一次作业吊臂挖下一铲子，有45立方米的物料，大约是一铲子能挖起一个房间。

基建不倒翁 2024-12-30

保守派反对特朗普对TikTok宽容

鞭牛士报道，12月30日消息，据外电报道，美国候任总统唐纳德·特朗普曾经是保守派中对TikTok的直言不讳的批评者，但现在他对这款中国社交媒体应用的立场已经软化，引发了共和党盟友的强烈反对。目前，美国最高法院正准备于1月10日举行快速口头辩论，而九天后，TikTok必须出售给美国买家，否则将被主流应用商店封禁。

鞭牛士 2024-12-30

玩家晒罕见PC-FX游戏机 30年前的PS竞争炮灰

如今三大游戏主机鼎立各有特色，然而在30年前的日本游戏机市场，当时有这众多的品牌都在抢着蛋糕，日前有玩家筛出罕见PC-FX游戏机，在30年前也不可避免的成为了PS竞争的炮灰之一。

3DM游戏 2024-12-30

拉尼娜：极涡有45%概率震荡！冬季还会有多冷？我国给出整体趋势

这不，来自NOAA在12月发布了一份关于冬季天气扰乱者“极涡”的活动状态概率，这也让不少人看到了，接下来的气候变化可能会更加突出。因为它可能出现强烈的“震荡”，一旦出现了，这可能会改变寒冷的气候模式，那今年冬季还会有多冷呢？NOAA：极涡有45%概率震荡！

环球科学猫 2024-12-30

解锁AI时代手机拍照新玩法 vivo S20 Pro AI影像能力解读

在当今智能手机市场竞争日益激烈的环境下，vivoS20Pro凭借其强大的AI影像能力，成为拍摄生活中的得力助手。从柔光自拍到长焦特写，这款手机通过旗舰级传感器与自研算法，为用户提供了全方位的影像体验。这种动态变化的边框不仅提升了照片的趣味性和互动性，还完美融合了记录情感与动态美学，满足了年轻用户对于个性化和新颖内容的追求。

中关村在线 2024-12-30

OpenAI破解对齐难题？超级对齐负责人Jan Leike采访实录：「可扩展监督」是良策

推荐体验

相关资讯

Jan Leike宣布加入Anthropic，继续负责超级对齐

Ilya官宣离职，超级对齐负责人Jan直接辞职，OpenAI还是走散了

全球科技早参丨OpenAI超级对齐团队负责人离职

OpenAI超级对齐负责人：“驾驭”超级智能的四年计划

OpenAI痛失安全治理人才！前安全负责人Jan Leike高调加入竞争公司

近期资讯

印度发现“卡脖子”矿产，想偷师中方经验，摆脱对华依赖

稚晖君开源百万机器人真机数据集

万象更新满足用户需求

95后AI“天才少女”刷屏，雷军千万年薪挖角！人工智能ETF(159819)备受关注

金融国际标准跟踪研究工作组下设专题组第一次工作会议在京召开

重达889吨！德国挖掘机为何如此厉害？一铲就能挖起一座房子

保守派反对特朗普对TikTok宽容

玩家晒罕见PC-FX游戏机 30年前的PS竞争炮灰

拉尼娜：极涡有45%概率震荡！冬季还会有多冷？我国给出整体趋势

解锁AI时代手机拍照新玩法 vivo S20 Pro AI影像能力解读

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响