米博体育网站版Gemini Ultra训练烧掉近2亿美元！斯坦福迄今最全AI报告发布中国AI专利数遥遥领先

2024-04-22 07:08:57

　　米博体育网站版Gemini Ultra训练烧掉近2亿美元！斯坦福迄今最全AI报告发布中国AI专利数遥遥领先智东西4月16日报道，最新的501页《2024斯坦福AI指数报告》刚刚发布，披露了其迄今最全面的AI指数，提供从2010年至今涉及AI研发专利、开源趋势、技术性能、训练成本、经济影响、投融资、监管进程变化的数据与图表。

　　根据报告，产业界继续主导前沿AI研究，先进AI模型的训练成本突破亿级大关，其中烧钱最猛的谷歌Gemini Ultra达到了惊人的1.91亿美元。

　　2023年生成式AI投资数量大幅增长，相比2022年接近翻倍，总额达到252亿美元。而全球AI私人投资则连续第二年呈下降趋势。

　　就开源与闭源路线而言，新发布的基础模型中，开源模型占比超过6成。但从平均性能表现来看，闭源模型要优于开源模型。从2011年到2023年，GitHub上AI相关数量从845个一路暴增到181万个，仅是去年数量就飙涨59.3%。

　　报告广泛研究了包括语言处理、编程、计算机视觉（图像与视频分析）、推理、音频处理、自主agents、机器人与强化学习，还聚焦过去一年显著的AI研究突破，探讨了通过提示、优化和微调来改进大语言模型的方法。

　　各行各业的企业正在以不同方式利用AI。报告研究了企业对AI的采用情况，以及与AI相关的劳动力需求、招聘趋势、技能渗透率和人才可用度，评估了AI当前和预计的经济影响。

　　2023年，被调研的专业开发者中，ChatGPT是最受欢迎的AI搜索工具，GitHub Copilot是最受欢迎的AI开发工具，AWS是最流行的云平台。

　　同时，报告分析了隐私与数据治理、透明度与可解释性、安全性与公平性等负责任AI的关键议题，并探讨了AI对进程的潜在影响。

　　据AI指数估计，先进AI模型的训练成本已经达到了前所未有的水平。例如，OpenAI的GPT-4花了约7800万美元的计算成本进行训练，谷歌Gemini Ultra更是在计算上花费了1.91亿美元。

　　2023年，工业界生产了51个知名机器学习模型，而学术界只贡献了15个。2023年产学研合作产生的知名模型也达到21个，创历史新高。

　　在这些新发布的模型中米博体育网站版，65.7%是开源的，而2022年和2021年分别只有44.4%和33.3%。

　　出于对风险控制等因素的考虑，基础模型们采用了不同的开放策略，像BLOOM、GPT-J等完全开源，PaLM、Imagen等则完全闭源。

　　在10个AI基准测试中，闭源模型的表现优于开源模型，平均性能优势为24.2%。闭源模型和开源模型的表现差异对AI政策辩论具有重要意义。

　　自2011年以来，GitHub上与AI相关的项目数量持续增长，从2011年的845个增加到2023年的181万个。仅在2023年，GitHub AI项目总数就急剧增长了59.3%。

　　从地理分布来看，美国GitHub AI项目占比最多，约为22.93%，中国占3.04%。

　　GitHub上AI相关项目的star总数也在2023年大幅增加，从2022年的400万增加到1221万，增加了2倍多。

　　从2021年到2022年，全球AI专利授权量大幅增长62.7%。自2010年以来，AI专利授权数量增长了31倍以上。

　　2010年至2022年间，AI出版物的总数几乎增加了2倍，从2010年的约8.8万篇增加到2022年的24万多篇。2022年同比增幅放缓。

　　2022年，AI开始推动科学发现。023年，我们看到了更重要的与科学相关的AI应用推出——从提高算法排序效率的AlphaDev，到促进材料发现过程的GNoME。

　　2023年有几个重要的医疗系统问世，包括增强大流行预测的EVEscape和协助AI驱动的突变分类的AlphaMissence。AI越来越多地被用于推动医学进步。

　　过去几年，AI系统在评估AI临床知识的关键基准测试MedQA上取得了显著进步。2023年的突出模型GPT-4 Medprompt的准确率达到了90.2%，比2022年的最高分提高了22.6%。自2019年推出该基准以来，MedQA上的AI性能几乎增长了2倍。

　　2022年，FDA批准了139种与AI相关的医疗设备，比2021年增加了12.1%。自2012年以来，FDA批准的AI相关医疗器械数量增加了45倍以上。

　　AI在图像分类、视觉推理、英语理解等基准上的表现超过了人类。但在更复杂的任务上，比如竞赛水平的数学、视觉常识推理和规划，它就落后了。

　　传统AI系统的适用范围有限，语言模型在文本理解方面表现出色，但在图像处理方面表现不佳，反之亦然。而多模态模型正在兴起，例如谷歌的Gemini和OpenAI的GPT-4。这些模型展示了灵活性，能够处理图像和文本，在某些情况下甚至可以处理音频。

　　AI模型在ImageNet、SQuAD和SuperGLUE等既定基准上的性能已经达到饱和，促使研究人员开发更具挑战性的模型。2023年出现了几个具有挑战性的新基准，包括用于编码的SWE-bench、用于图像生成的HEIM、用于通用推理的MMMU、用于道德推理的MoCa、用于基于agent的行为的AgentBench和用于幻觉的HaluEval。

　　随着生成模型产生高质量的文本、图像和更多内容，基准测试已经慢慢开始转向像Chatbot Arena排行榜这样的人工评估，而不是像ImageNet或SQuAD这样的计算机化排名。在跟踪AI的进展时，公众对AI的感受正成为一个越来越重要的考虑因素。

　　SegmentAnything、Skoltech等新兴AI模型正被用于生成图像分割和3D重建等任务的专门数据。数据对于AI技术的改进至关重要。使用AI创建更多数据增强了当前的能力，并为未来的算法改进铺平了道路，特别是在更难的任务上。

　　语言模型与机器人技术的融合产生了更灵活的机器人系统，如PaLM-E和RT-2。除了改进的机器人能力之外，这些模型还支持问答，这标志着机器人向能够更有效地与现实世界互动的方向迈出了重要一步。

　　长期以来，创造能够在特定环境中自主运行的AI Agent一直是计算机科学家面临的挑战。新兴研究表明，自主AI Agent的性能正在提高。Agent现在可以掌握像《我的世界》这样的复杂游戏，并有效地处理现实世界的任务，比如在线购物和研究协助。

　　尽管去年AI私人投资总体下降，但对生成式AI的投资却大幅增长，比2022年增长了近2倍，达到252亿美元。

　　2023年，美国在AI领域的私人投资达到672亿美元，是第二名中国的近8.7倍。自2022年以来，中国和欧盟（包括英国）的AI领域私人投资分别下降了44.2%和14.1%，而美国在同一时间段内显着增长了22.1%。

　　2023年，AI在财报电线次有显著增加。自2018年以来，《财富》500强企业财报电话会议中提到AI的次数几乎翻了一番。最常被提及的主题是生成式AI，占所有财报电线、全球范围内AI工作岗位减少2022年，AI相关职位占美国所有招聘职位的2.0%，到2023年，这一数字降至1.6%。AI职位列表的下降是由于领先的AI公司发布的职位减少，以及这些公司的技术职位比例减少。

　　包括OpenAI、Google和Anthropic在内的领先开发人员主要针对不同的负责任的AI基准测试他们的模型。这种做法使系统地比较AI模型的风险和局限性的努力变得复杂。

　　以前，红队AI模型的大多数努力都集中在测试对人类直观有意义的对抗性提示上。今年，研究人员发现了让大语言模型表现出有害行为的不太明显的策略，比如要求模型无限重复随机单词。

　　许多研究人员已经表明，受欢迎的大语言模型的生成输出可能包含受版权保护的材料，比如《纽约时报》的节选或电影中的场景。这种输出是否构成侵犯版权正成为一个核心的法律问题。

　　新引入的基金会模型透明度指数显示，AI开发者缺乏透明度，特别是在训练数据和方法的披露方面。这种开放性的缺乏阻碍了进一步理解AI系统的稳健性和安全性。

　　在过去的一年里，AI学者和从业者之间出现了一场关于关注即时模型风险（如算法歧视）与潜在的长期存在威胁的实质性辩论。区分哪些主张是有科学依据的，应该为政策制定提供信息，已经变得具有挑战性。与存在威胁的理论性质形成对比的是，已经存在的短期风险的实际性质使这一困难更加复杂。

　　根据追踪与AI滥用相关事件的AI事件数据库，2023年报告了123起事件，比2022年增加了32.3%。自2013年以来，AI滥用事件增长了20多倍。一个值得注意的例子包括在网上广泛分享的由AI生成的泰勒斯威夫特（Taylor Swift）露骨的深度伪造照片。

　　研究人员发现，ChatGPT对美国党和英国工党存在明显的偏见。这一发现引发了人们对该工具可能影响用户观点的担忧。