1000000000！微软改进Transformer一次能记住这么多token了

作者：量子位发布时间：2023-07-09

微软亚研院最新研究，有点震撼：他们开发了一个Transformer变体，居然将其token拓展到了10亿。什么概念？目前最强的GPT-4也才最大支持一次处理32k token，相当于50页文字。...【查看原文】

相关资讯

Stable diffusion 模型，竟然有这么多……

昨天发现 Stable diffusion 的模型有这么多，根本分不出优劣。希望将来有谁能做个视频，把各种有特色的，列个样张效果什么的，要不然真吃不准该下哪个…… 如果全部下载，就太疯狂了！仍然还得一个个测试。这密密麻麻的模型库，让人想起十多年前使用拼音加加那个时期。当时也下载了一堆各种特色的词库，自己调配得不亦乐乎，还亲自给它P了一堆浮标分享在论坛里……可惜加加论坛关闭很久很久了。

Stable Diffusion

奇葩革命 2023-02-14

支持100万token「大世界模型」火了，一次能分析1小时视频内容

这项研究为语言模型更好地理解物理世界铺平了道路。最近，谷歌发布的Gemini 1.5多模态模型和OpenAI的视频生成技术Sora引发了科技界的广泛讨论。Gemini 1.5以其处理百万级别上下文的能力受到赞誉，而Sora模型因能够理解物理运动中的世界而被誉为“世界模型”。尽管它们的技术成就令人瞩目，但仍有局限性，例如Sora模型在复现一些复杂场景，比如逆向跑步机上跑步的人时，就显得有些力不足。随着大模型技术的迅猛发展，我们也逐渐意识到了它们的局限性。例如，对于那些难以用语言描述的现实世界内容，

谷歌 OpenAI

格物时间 2024-02-19

ChatGPT回答提问：这么多乐器，为什么要选择钢琴？

选择钢琴作为学习的乐器有许多原因。以下是一些选择钢琴的理由：1. 多功能性：钢琴是一种非常多功能的乐器。它可以弹奏不同种类的音乐，包括古典音乐、流行音乐、爵士乐等等。钢琴还可以用来伴奏歌曲或合唱。2. 音乐基础：钢琴是一种非常基础的乐器，因为它可以教授音乐理论、节奏、和声和乐理等方面的知识。学习钢琴可以帮助培养学生的音乐基础，这对学习其他乐器或进行音乐创作都非常有帮助。3. 技术性：钢琴需要学生使用双手和双脚同时演奏，这需要很高的技术水平。学习钢琴可以帮助学生提高协调性、手眼协调能力和速度等方面的技术水平

ChatGPT

交子爱乐小陈老师 2023-04-23

在西安，这么多套路，想用ChatGPT不要被割韭菜

2023年5月19日（周五），西安创业社群活动品牌“聊易聊”第47期活动邀请了晁杨博为大家做《在西安，使用ChatGPT如何避免被割韭菜？》的主题分享。晁杨博是北辰三维视觉创始人，前西安维塑科技市场

ChatGPT

易旻昊 2023-05-20

奥特曼回到OpenAI了：第一次也是最后一次戴访客牌

」从照片可以看出，这是OpenAI今天的第四位访客，奥斯曼表情充满不屑，带着强烈的复仇暗示。尽管是以访客身份回到OpenAI，但很显然，这是一次谈判之旅。其中一位人士表示，奥特曼周五在没有任何通知的情况下被…

阿尔特曼 OpenAI

鞭牛士 2023-11-20

近期资讯

俊泰行 2024-12-27

从内容玄学到“标签科学”：如何用“内容标签七步法”让ROI翻倍？

内容营销在全域营销的重要性已不言而喻。根据相关数据显示，2023 年 618 之前，品牌全平台货架场和内容场的投入占比约为 55% ：45% ，但在双11 之后，内容场占比升至 60%。 Nint任拓对近四十位 CMO 及品牌负责人的访谈，68% 的品牌操盘手将继续增加内容种草平台的投入。这一变化，揭示了内容第一，货架第二将成为不可逆的营销趋势。 [图片] 在这种营销趋势下，品牌如何制定有效策略让ROI翻倍提升？任拓内容策略方法论——内容标签七步法，带领品牌从内容玄学走入“标签科学”。 1.全域营销时代，

Nint任拓-数字零售专家 2024-12-27

如何防止数据泄露？2024超好用的十款数据防泄漏软件分享，DLP厂商推荐！

数据泄漏事件频发，不仅威胁企业的竞争力，还可能导致巨额经济损失和声誉受损。为保护敏感数据免受内部和外部威胁，选择一款强大的数据防泄漏（DLP）软件尤为重要。本文精选了十款优质的数据防泄漏软件，它们功能强大、各具特色，适合不同规模和类型的企业。 [图片] 1. Ping32 - 国内领先的数据防泄漏解决方案 Ping32 是国内广受好评的数据防泄漏软件，专为满足中国企业的多样化需求而设计。关键功能：敏感数据识别：基于规则和AI识别敏感文件，自动分类。终端行为控制：限制外接设备、网络传输和打印操作，防止

安在软件 2024-12-27

宽博地铁交通条形屏突然失灵，可能的原因有哪些？

# 地铁交通条形屏在地铁交通系统中，地铁交通条形屏作为重要的信息显示工具，其稳定性和可靠性至关重要。然而，有时我们可能会遇到宽博地铁交通条形屏失灵无反应的情况，这时需要迅速采取措施进行排查和解决。首先，检查地铁交通条形屏的电源连接是否稳定。电源不稳或供电不足是导致屏幕失灵的常见原因之一。确保电源插头和连接线牢固连接，没有松动或损坏现象。同时，使用万用表测量电源电压，确保电压在设备规定的范围内。其次，检查信号线是否连接正常。信号线连接不良或损坏也可能导致地铁交通条形屏无法接收信号，从而出现失灵现象。确

宽博显示屏厂家 2024-12-27

施诺斯真空脱泡机：新材料行业的技术引领与应用优势

在新材料行业的发展中，产品的质量和性能往往决定了企业的竞争力和市场地位。而作为新材料生产过程中关键的工艺环节之一，脱泡工艺的优化和改进对产品质量的提升至关重要。施诺斯真空脱泡机作为一款领先的脱泡设备，其在新材料行业的应用优势凸显，为企业带来了诸多技术引领和生产效益。先进的脱泡原理与技术：施诺斯真空脱泡机采用了先进的真空脱泡原理，结合行星式搅拌技术，能够在真空环境下将浆料中的气泡完全排除。通过公转自转的搅拌方式，将浆料充分混合，从而确保产品的均匀性和稳定性。这种先进的脱泡原理和技术，使得施诺斯真空脱泡机能够

搅拌脱泡机 2024-12-27

gb28181视频监控系统/视频汇聚融合平台Liveweb视频云解决方案

GB28181视频监控国标平台Liveweb是基于国标GB28181协议、支持多路设备同时接入的视频监控/视频云服务平台，支持对多平台、多终端分发RTSP、RTMP、FLV、HLS、WebRTC等格式的视频流。国标GB28181平台Liveweb可提供视频直播监控、云端录像、云存储、检索回放、智能告警、语音对讲、平台级联等视频能力与服务，可应用在多样化场景中。 [图片] 可扩展性该系统采用模块化结构设计，可轻松进行扩容以满足当前和未来的需求。系统支持动态添加存储节点，而无需停止服务，最大容量受元数据内存

好游云联 2024-12-27

1000000000！微软改进Transformer一次能记住这么多token了

推荐体验

相关资讯

Stable diffusion 模型，竟然有这么多……

支持100万token「大世界模型」火了，一次能分析1小时视频内容

ChatGPT回答提问：这么多乐器，为什么要选择钢琴？

在西安，这么多套路，想用ChatGPT不要被割韭菜

奥特曼回到OpenAI了：第一次也是最后一次戴访客牌

近期资讯

当AI遇见大数据：决策优化的下一个风口

电动缸螺杆直径对负载要求的适应性分析

【java毕设 python毕设大数据毕设】基于web的快递物流信息查询系统的设计与实现

A10技术的应用与未来发展趋势分析

Rim Drive电动无轴推进系统 | 电动游船应用

从内容玄学到“标签科学”：如何用“内容标签七步法”让ROI翻倍？

如何防止数据泄露？2024超好用的十款数据防泄漏软件分享，DLP厂商推荐！

宽博地铁交通条形屏突然失灵，可能的原因有哪些？

施诺斯真空脱泡机：新材料行业的技术引领与应用优势

gb28181视频监控系统/视频汇聚融合平台Liveweb视频云解决方案

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响