1000000000！微软改进Transformer一次能记住这么多token了

作者：量子位发布时间：2023-07-09

微软亚研院最新研究，有点震撼：他们开发了一个Transformer变体，居然将其token拓展到了10亿。什么概念？目前最强的GPT-4也才最大支持一次处理32k token，相当于50页文字。...【查看原文】

相关资讯

Stable diffusion 模型，竟然有这么多……

昨天发现 Stable diffusion 的模型有这么多，根本分不出优劣。希望将来有谁能做个视频，把各种有特色的，列个样张效果什么的，要不然真吃不准该下哪个…… 如果全部下载，就太疯狂了！仍然还得一个个测试。这密密麻麻的模型库，让人想起十多年前使用拼音加加那个时期。当时也下载了一堆各种特色的词库，自己调配得不亦乐乎，还亲自给它P了一堆浮标分享在论坛里……可惜加加论坛关闭很久很久了。

Stable Diffusion

奇葩革命 2023-02-14

支持100万token「大世界模型」火了，一次能分析1小时视频内容

这项研究为语言模型更好地理解物理世界铺平了道路。最近，谷歌发布的Gemini 1.5多模态模型和OpenAI的视频生成技术Sora引发了科技界的广泛讨论。Gemini 1.5以其处理百万级别上下文的能力受到赞誉，而Sora模型因能够理解物理运动中的世界而被誉为“世界模型”。尽管它们的技术成就令人瞩目，但仍有局限性，例如Sora模型在复现一些复杂场景，比如逆向跑步机上跑步的人时，就显得有些力不足。随着大模型技术的迅猛发展，我们也逐渐意识到了它们的局限性。例如，对于那些难以用语言描述的现实世界内容，

谷歌 OpenAI

格物时间 2024-02-19

ChatGPT回答提问：这么多乐器，为什么要选择钢琴？

选择钢琴作为学习的乐器有许多原因。以下是一些选择钢琴的理由：1. 多功能性：钢琴是一种非常多功能的乐器。它可以弹奏不同种类的音乐，包括古典音乐、流行音乐、爵士乐等等。钢琴还可以用来伴奏歌曲或合唱。2. 音乐基础：钢琴是一种非常基础的乐器，因为它可以教授音乐理论、节奏、和声和乐理等方面的知识。学习钢琴可以帮助培养学生的音乐基础，这对学习其他乐器或进行音乐创作都非常有帮助。3. 技术性：钢琴需要学生使用双手和双脚同时演奏，这需要很高的技术水平。学习钢琴可以帮助学生提高协调性、手眼协调能力和速度等方面的技术水平

ChatGPT

交子爱乐小陈老师 2023-04-23

在西安，这么多套路，想用ChatGPT不要被割韭菜

2023年5月19日（周五），西安创业社群活动品牌“聊易聊”第47期活动邀请了晁杨博为大家做《在西安，使用ChatGPT如何避免被割韭菜？》的主题分享。晁杨博是北辰三维视觉创始人，前西安维塑科技市场

ChatGPT

易旻昊 2023-05-20

奥特曼回到OpenAI了：第一次也是最后一次戴访客牌

」从照片可以看出，这是OpenAI今天的第四位访客，奥斯曼表情充满不屑，带着强烈的复仇暗示。尽管是以访客身份回到OpenAI，但很显然，这是一次谈判之旅。其中一位人士表示，奥特曼周五在没有任何通知的情况下被…

阿尔特曼 OpenAI

鞭牛士 2023-11-20

近期资讯

如何在Excel中设置密码以保护重要数据安全

在日常工作中，我们常常需要处理一些重要的文件，尤其是像Excel这样的电子表格软件。它不仅仅用于数据的处理和分析，还经常存储着许多敏感信息，比如财务数据、客户资料等等。接下来，我就来跟大家聊一聊怎么在Excel中设置密码，保护好我们的数据。

新报观察 2024-12-28

如何有效清理微信存储空间，提升使用体验的方法总结

微信是我们日常生活中不可或缺的一部分，大家都知道，它不仅仅是一个聊天工具，还是一个社交平台和支付工具。如果你已经决定清理聊天记录，进入你想要清理的聊天窗口，长按某条消息，选择“删除”，然后选择其他想要删除的消息，一键删除即可。

新报观察 2024-12-28

如何在不同设备上正确打出顿号及其语法知识解析

你只需切换到中文输入法，然后输入拼音“dunhao”，或者直接按“Option+Shift+7”，顿号就会轻松出现。

新报观察 2024-12-28

如何有效恢复丢失视频：技巧与工具大揭秘，保障珍贵回忆不再流失

在我们的生活中，视频已经成为了记录美好时光的重要方式。无论是家庭聚会、朋友聚餐，还是旅行中的点滴，这些珍贵的瞬间都被我们用视频记录下来。值得一提的是，恢复视频的成功率和视频丢失后的操作有很大关系。

新报观察 2024-12-28

如何在苹果手机上轻松发朋友圈，分享生活点滴的实用指南

“录”、“发现”和“我”。我们要发朋友圈，所以点击“发现”这个选项。在“发现”页面中，你会看到“朋友圈”这个选项，点击它就可以进入朋友圈的界面。进入朋友圈后，你会看到朋友们分享的动态，滑动屏幕可以浏览他们的生活点滴。如果你想发自己的动态，界面右上角有一个相机图标，点击它就可以开始发朋友圈了。

新报观察 2024-12-28

如何有效锁定电脑以保护隐私数据，确保安全使用的实用技巧与建议

在日常生活中，电脑已经成为我们工作、学习和娱乐中不可或缺的一部分。可是，有时候我们可能需要暂时离开电脑，而不想让别人随意查看我们的屏幕或者文件。这时候，锁定电脑就是一个非常实用的小技巧。今天，我就来聊聊怎么锁电脑，以及一些相关的小知识。锁电脑其实是一个很简单的操作。大部分操作系统都提供了方便的锁定功能。

新报观察 2024-12-28

合理规划共享电脑，提升家庭与朋友的使用体验

共享电脑的方式有很多，今天我们就来聊聊怎么让这台电脑更好地服务于你和你的朋友、家人。明确了目的，接下来的步骤就会简单很多。

新报观察 2024-12-28

选购空调指南：解读型号、能效、噪音与品牌的全面考虑

在炎热的夏天，空调成了我们生活中不可或缺的“好朋友”。不过，面对市场上各种型号的空调，很多人可能会感到无从下手。那么，空调型号到底该怎么看呢？今天我们就来聊聊这个话题。首先，空调的型号通常包含了很多信息。一台空调的型号，像是它的身份证，里面藏着很多你需要了解的关键点。

新报观察 2024-12-28

内存卡使用指南：选择、管理与保养的全面解析与技巧分享

在这个数字化的时代，内存卡已经成为我们生活中不可或缺的一部分。无论是摄影爱好者、手机用户，还是需要存储数据的工作族，内存卡都在默默地发挥着重要的作用。今天，我们就来聊聊内存卡的那些事儿，看看它是怎么运作的，以及在使用过程中需要注意些什么。内存卡的速度通常由"写入速度"和"读取速度"来衡量。

新报观察 2024-12-28

如何设置PPT自动播放功能，让演示更流畅专业

在现代的工作和学习环境中，PPT（PowerPoint）已经成为了一个不可或缺的工具。无论是做报告、教学还是展示项目，PPT都能帮助我们有效地传达信息。接下来，我会详细介绍如何设置PPT的自动播放，让你的演示更加流畅和专业。只需要在“切换”选项卡中勾选“在此之后”后，输入你希望的时间，PPT就会按照你的设置自动播放。

新报观察 2024-12-28

1000000000！微软改进Transformer一次能记住这么多token了

推荐体验

相关资讯

Stable diffusion 模型，竟然有这么多……

支持100万token「大世界模型」火了，一次能分析1小时视频内容

ChatGPT回答提问：这么多乐器，为什么要选择钢琴？

在西安，这么多套路，想用ChatGPT不要被割韭菜

奥特曼回到OpenAI了：第一次也是最后一次戴访客牌

近期资讯

如何在Excel中设置密码以保护重要数据安全

如何有效清理微信存储空间，提升使用体验的方法总结

如何在不同设备上正确打出顿号及其语法知识解析

如何有效恢复丢失视频：技巧与工具大揭秘，保障珍贵回忆不再流失

如何在苹果手机上轻松发朋友圈，分享生活点滴的实用指南

如何有效锁定电脑以保护隐私数据，确保安全使用的实用技巧与建议

合理规划共享电脑，提升家庭与朋友的使用体验

选购空调指南：解读型号、能效、噪音与品牌的全面考虑

内存卡使用指南：选择、管理与保养的全面解析与技巧分享

如何设置PPT自动播放功能，让演示更流畅专业

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响