当前位置：首页|资讯|GPT-4|Claude

比标准Attention提速5-9倍，大模型都在用的FlashAttention v2来了

作者：机器之心发布时间：2023-07-31
GPT-4Claude

近来，几种长上下文语言模型陆续问世，包括 GPT-4（上下文长度为 32k）、MosaicML 的 MPT（上下文长度为 65k）Anthropic 的 Claude（上下文长度为 100k）。长文档...【查看原文】

相关资讯

Attention提速9倍！大模型都在用的FlashAttention

近来，几种长上下文语言模型陆续问世，包括 GPT-4（上下文长度为 32k）、MosaicML 的 MPT（上下文长度为 65k）Anthropic 的 Claude（上下文长度为 100k）。长文档查询和故事写作等新兴用例已经表明扩展语言模型上下文窗口是非常必要的。 然而，扩大 Transformer 的上下文长度是一个挑战，因为其核心的注意力层在时间复杂度和空间复杂度与输入序列长度的平方成正比。 一年前，来自斯坦福大学、纽约州立大学布法罗分校的研究者共同提出一种快速、内存高效的注意力算法 ——Flas

GPT-4Claude斯坦福

人工智能AI课程 2024-01-15

颜水成/程明明新作！Sora核心组件DiT训练提速10倍，Masked Diffusion Transformer V2开源

DiT作为效果惊艳的Sora的核心技术之一，利用Difffusion Transfomer 将生成模型扩展到更大的模型规模。

Sora

新智元 2024-03-18

Midjourney V5来了！实体版杂志也来了！

Midjourney V5已正式发布！快来看看多了哪些新特性可以体验！一、如何使用：1、后缀加入 --v 5 2、或直接输入 /settings ，选择 MJ version 5 即可settings界面二、新特性速览1、自动高清。现在输入 /imagine 生成的初始的4张图片，已经自动高清化。按钮“U1~U4”仅起到将这张图单独发给你的作用，无法再继续放大。现在，按下按钮“U1~U4”之后，高清图片会直接发给你，无需等待重新生成，也不会再额外消耗你的可使用次数。2、图片质量更高。V5生成的图片质量更高

Midjourney V5Midjourney

AI边缘 2023-03-17

Midjourney V1、V2、V3、V4、V5各版本区别详细介绍

Midjourney V1、V2、V3、V4、V5有什么区别？V1、V2、V3、V4、V5代表不同的版本，每个版本生成的图片在风格上有一些禅意如果使用相同的提示词，V1、V2、V3、V4、V5版本生成的结果如下：从上图中，你可以看到 这是Midjourney 不同版本的演变过程：生成的内容越来越详细和真实。V1 和 V2 本质上是涂鸦。在V2中，第四张图像中前景和背景的处理相当粗糙。在V3中，背景和视角变得更加合理，到了V4，已经处于可用状态。更高的分辨率。V1到V3图像为256 x 256，而在V5中，

Midjourney提示词

百万CCC 2023-10-19

Playground V2与SDSL风格效果对照

之前做了 Playground AI（Playground (playgroundai.com)）在线Stable Diffusion XL平台不同风格和第三方模型的效果比较：第一部分第二部分 第三部分12月，Playground AI推出了Playground V2，与之前的SDXL相比，仅保留了自带的若干风格，测试下来发现，效果有非常大的不同，故再次做了Playground V2与SDSL风格效果对照的测试，SDXL部分沿用了之前测试的第一部分，Playground V2部分用同样的Prompt：“a

Stable Diffusion XLStable Diffusion提示词

空了一格S 2023-12-17

近期资讯

imec 展示 NbTiN 超导数字电路关键结构，可实现百倍能效提升

IT之家12月27日消息，比利时imec微电子研究中心表示，在本月7~11日于美国举行的IEEEIEDM2024国际电子器件会议上，该机构展示了基于NbTiN（氮化钛铌）超导材料的三类超导数字电源关键模块：互联（电线和通孔）、约瑟夫森结和MIM电容器。

IT之家 2024-12-27

日航遭网络攻击致航班延误后恢复正常

：据“路透社”12月26日报道，日本航空当日表示，在网络攻击延迟了部分国内和国际航班后，其系统恢复正常，当日机票销售恢复。网络袭击开始于12月26日早上7点24分，影响日本航空内部和外部系统，日本航空早些时候表示，已暂时关闭一个导致故障的路由器，并暂停26日起飞航班的机票预售。

看航空 2024-12-27

高天伟：2024年我国航天发射次数为何不及预期？

2024年12月27日上午09时03分31秒，中科宇航力箭一号遥6火箭在东风商业航天创新试验区发射，这也是我国航天年度入轨发射任务收官之战。点火升空后，火箭一、二级飞行正常，但遗憾的是，三级发动机点火约3秒后姿态失稳，箭上自主安全控制系统实施自毁，发射任务失利。对于重大试验，如何平衡风险管控与企业自主？

观察者网 2024-12-27

谭蔚泓：以基础科学驱动医学研发和临床实践 助力健康中国建设

中国科学院杭州医学研究所（以下简称“杭州医学所”）作为首个以医学命名的中国科学院直属研究机构，如何在医学科研领域发挥“国家队”的优势作用？一、以“所院融合”为抓手助力健康中国建设《中国科学院院刊》：中国科学院杭州医学研究所（以下简称“杭州医学所”）作为国家战略科技力量的组成部分，在履行建设科技强国的使命责任中承担着怎样的重要角色？

中国科学院院刊 2024-12-27

数据字典功能设计

数据字典是产品经理在写需求文档中经常要做的数据定义。这篇文章，我们来学习一下这个部分该如何写。数据字典在后台管理系统中用于存储和管理系统内各类数据的定义、属性及相关信息，确保数据的一致性、准确性和规范性，提升系统的可维护性与可扩展性，并为开发、测试、运维及业务人员提供统一的数据标准参考。

人人都是产品经理 2024-12-27

工信部：预计全年规上工业增加值同比增长5．7％左右

人民网北京12月27日电(记者申佳平)12月26日至27日，全国工业和信息化工作会议在京召开。会议指出，2024年，工业经济运行总体平稳、稳中有进，高质量发展扎实推进，新型工业化迈出新的坚实步伐，工业体系全、品种多、规模大的优势进一步巩固。预计全年，规模以上工业增加值同比增长5.7%左右，制造业增加值占GDP比重保持基本稳定。

金台资讯 2024-12-27

NASA，“圣诞秀”引发质疑！

照片中，宇航员们头戴圣诞装饰，周围摆放着圣诞树和节日装饰品，似乎所有的“节日气氛”都像是在地球上一模一样的家庭团聚中。问题来了，太空里哪来这些圣诞装饰品？威尔莫尔和威廉姆斯是照片中的两位“主角”，他们原本只是计划在空间站停留8天，但由于飞船的推进器故障和氦气泄漏等技术问题，他们的归期一再推迟，最终滞留在国际空间站数月之久。

陆弃 2024-12-27

我国首个海洋油气全生命周期智能装备制造基地机械完工

12月25日，海油发展天津海洋装备智能制造基地（下称基地）顺利完成机械完工检查，标志着基地从现场安装调试阶段转入试生产阶段。

国际船舶网 2024-12-27

可灵AI推出可图1.5模型，支持一键生成高质量AI模特

12月27日，可灵AI全球发布可图1.5图像模型，新模型画面质量、人像美感提升，在构图、光影、色彩还原和层次感上均有较好表现，人像更加真实自然。同时新增AI模特功能，支持一键生成高质量AI模特，结合AI换装、图生视频等能力可为服装等商品展示提供全流程解决方案。此外，可灵1.5模型还带来全新增尾帧生成能力和对口型功能增强等。

新京报 2024-12-27

数字蚂力用AI帮客服、研发人才找工作，上支付宝搜“蚂上就业”可体验

12月27日消息，蚂蚁集团旗下数字蚂力公司推出AI就业平台“蚂上就业”，个人就业者登陆支付宝搜“蚂上就业”，在完成注册及认证后，可享受到“工作找人”的便捷体验。该平台涉及客服、审核、标注、研发和设计等多个领域，计划提供万余个就业机会。

猎云网 2024-12-27

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响

Copyright © 2026 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1