resources 24 2 AI in the EnterpriseA new way 
 to work As an AI research and deployment company, OpenAI prioritizes partnering with global companies because our models will increasingly do their best faster and with greater buy-in from 
 users and stakeholders. Our approach: iterative development OpenAI is organized around three teams. Our Research Team advances the foundations of AI, developing new into production. 6 AI in the EnterpriseHow it’s going Today, 98% of Morgan Stanley advisors use OpenAI every day; access to documents has jumped from 20% to 80%, with dramatically reduced search time;

guidelines and guardrails defining how the 
 agent behaves Here’s what this looks like in code when using OpenAI’s Agents SDK. You can also implement the same concepts using your preferred library or building larger models with smaller ones 
 where possible You can find a comprehensive guide to selecting OpenAI models here. 8 A practical guide to building agents Defining tools Tools extend your agent’s capabilities the diagram below, we combine LLM-based guardrails, rules-based guardrails such as regex, and the OpenAI moderation API to vet our user inputs. Respond ‘we cannot process your message. Try again!’ Continue

large language models (LLMs) that – in effect – found freedom with the November 2022 launch of OpenAI’s ChatGPT with its extremely easy-to-use / speedy user interface. In addition, relatively new AI (Indexed to Year 0) Note: Per-token inference costs shown. Source: Richard Hirsh; John McCallum; OpenAI Details on Page 138 0 Years 72 Years Electric Power Computer Memory AI Inference AI Monetization improvements are making new tech advances increasingly more powerful, accessible, and economically viable. OpenAI’s ChatGPT – based on user / usage / monetization metrics – is history’s biggest ‘overnight’ success

推理和服务的快速且易于使用的框架。以 下，我们将展示如何使用 vLLM 构建一个与 OpenAI API 兼容的 API 服务。 首先，确保你已经安装 vLLM>=0.3.0 ： pip install vllm 运行以下代码以构建 vllm 服务。此处我们以 Qwen1.5-7B-Chat 为例： python -m vllm.entrypoints.openai.api_server --model Qwen/Qwen1 ], }' 或者您可以按照下面所示的方式，使用 openai Python 包中的 Python 客户端： from openai import OpenAI # Set OpenAI's API key and API base to use vLLM's API server. openai_api_key = "EMPTY" openai_api_base = "http://localhost:8000/v1" "http://localhost:8000/v1" client = OpenAI( (续下页) 1.2. 快速开始 5 Qwen (接上页) api_key=openai_api_key, base_url=openai_api_base, ) chat_response = client.chat.completions.create( model="Qwen/Qwen1.5-7B-Chat", messages=[

成到Meta全线VR/AR产品中。
iii. 强化学习⽅⾯。团队成员作为⼀作提出了基于关系学习的少样本⽅法，得到斯坦福⼤学、 Google、MIT、Amazon等团队的使⽤和扩展，并获得过OpenAI
RL联创及负责⼈John
Schulman亲⾃邀请加盟。
iv. 基础设施⽅⾯。团队核⼼成员曾带领数⼗⼈从零开发世界领先的深度学习框架，也具备数千 卡集群全⾃动化硬件运维告警、数百亿 引领⼤模型的“⽆损⻓上下⽂”时代。2023年10⽉上旬，在产品
Kimi
智能助⼿中实现“⽆损 ⻓上下⽂窗⼝（Lossless
Long
Context
Window）”，⽀持
20
万汉字输⼊，实现对⻓⽂本的⽆ 损记忆。OpenAI
和
Anthropic
到
11
⽉才在
Context
Length
上追上来，且在精度（⽆损记忆） 和中⽂能⼒上
Kimi
智能助⼿依然领先。
b. 聚焦底层技术创新，不⾛技术捷径。 long
context
is
everything
3.
Kimi智能助⼿的中⽂实⼒强、增⻓速度快、⼝碑好
a. 在投资机构和⼤⼚的内部综合评测中，Kimi智能助⼿的中⽂实⼒直追
OpenAI。
b. 根据“AI产品榜aicpb.com”的统计数据，2024年1⽉Kimi智能助⼿的访问量
142
万，在⼤模型 创业公司的“AI
ChatBots”产品中排在第⼀；⽉环⽐增⻓率
94

AI GenAI 年。 一、 这自然要从 OpenAI 说起，前一年年底，ChatGPT 的横 空出世，标志着对话式 LLM 开始进入公众视野，为人们 提供了全新的人机交互方式。而 2023 年 3 月，同系 GPT-4.0 的发布则将 LLM 的规模和能力提升到一个新 的台阶，为 LLM 的广泛应用奠定了基础。再之后的 11 月份，OpenAI 再发力，GPTs 的到来，“用户自定义 ChatGPT”的能力，更是让世人领略了 OpenAI 作为 LLM 一哥的宏大叙事能力与强劲技术实力。 二、 New Bing（Bing AI）代表了微软在 LLM 领域的野心和 决心，它首次把当时世人能想到最有价值又可行的 LLM 应用场景——“智能对话+联网搜索”——无缝整合了起来， 大有干掉搜索行业和问答社区的趋势，而后事实证明，全 球 最 强 IT 问 答 社 区 Stack 长远的路途了。 而如何将更完备的解决方案给到用户，如何将更平台化、 体系化的生成解决方案的技术给到解决方案生产者，是后 续 LLM 应用与技术演进的重要路标。你看 GPTs，直接 革掉了多少拿 OpenAI API 去套壳的“创新应用”的命？ 十三、报告介绍 作为《2023 中国开源开发者报告》的引导，这里还是把 话题拉回来，简介一下整个报告。 前边讲到的 LLM 领域大放异彩，自然是会作为报告中的

的推理模型，擅长处理复杂任务且可免费商用，其性能 在多个基准测试中表现出色，对齐OpenAI-O1正式版，甚至在某些任务上表现更优。  DeepSeek发展节点 • DeepSeek发布后在1月27日迅速登顶美国下载榜首；截 至1月30日，DeepSeek在168个国家位居下载榜第一名。 • OpenAI的CEO奥特曼承认DeepSeek的技术实力，并表 示将继续加快自身模型的迭代。 教师模型生成数据 学生模型训练 微调与优化 策略优化：开源特性，成本优势  开源策略  成本优势 DeepSeek 通过技术创新和优化策略，大幅降低了模型训练和推理 成本，使其在性价比上远超 OpenAI 等竞争对手。  训练成本：DeepSeek V3 的训练成本仅为 557.6 万美元，远低于 其他国际大公司的训练成本。这种低成本策略使得更多企业和开发 者能够负担得起高性能 AI 模型的训练和使用。  调用成本：DeepSeek R1 的 API 服务定价为每百万输入 tokens 1 元（缓存命中）/4 元（缓存未命中），每百万输出 tokens 16 元， 输出 API 价格仅为 OpenAI o1 的 3%。这种低廉的 API 价格进一 步降低了使用门槛。 DeepSeek R1 采用 MIT 许可协议开源发布，允许全球的研究者和开 发者免费使用和修改模型。这种开放策略促进了

发者 运营为途径的软件产品推广策略。 我的观点是，开源策略是大模型最好的竞争策略。接下来让我们从头捋一捋推导过程。 我们先看大模型赛道的整体状况：  大模型是一项相对较新的技术。尽管 OpenAI 早在 2019 年就发布了第一个重要的 模型 GPT-2，但大模型的广受关注实际始于 2022 年 11 月发布的 ChatGPT。8 个月以后 Meta 就与微软合作发布了开源大模型 L 个时间点上的“技术先进性”更多是用于公关宣传 的素材。考虑到数据获取、加工的成本，模型训练的成本，这是一种相当昂贵的宣传方式。 C 端用户指那些把大模型当成智能个人助理来使用的普通个人用户。OpenAI 在 ChatGPT 上一个重要且成功的操作就是把大模型从学术界、工业界直接推向了普通个体，让 C 端用户切 实感受到了大模型的可能性与魅力。这一点被国内的大模型厂商广泛学习。在 B 站刷视频，国 API 云服务，对注册开发者进行一定的云资 源补贴；另一种是“开源”的方法，提供大模型免费下载，免费商用（一定条件下）。两种方法 各有支持者。闭源大模型一般会采用第一种方法，其中的代表有 OpenAI、Anthropic 等（为避 免麻烦，国内厂商的名字就不提了）。能用第二种方法的，必然是某种程度上的“开源”模型， 以 Meta 的 Llama 2、Llama 3 模型为首。 前段时间李彦宏在

integration in CloudBeaver Initial setup Data privacy AI settings and customization Credentials for OpenAI Credentials for Azure AI Preferences AI smart completion usage Accessing prompts history Disabling capability is achieved through integrations with both OpenAI's and GPT-3 language model Azure . OpenAI Note: CloudBeaver is not affiliated with OpenAI. Integration is achieved through the public API. To utilize this feature, register with OpenAI and obtain a secret key. With the feature, you can type queries in natural language and CloudBeaver will convert them AI smart completion into SQL statements

. . . 8 2.3 AI 视频工具 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8 2.3.1 Sora (OpenAI 公司) . . . . . . . . . . . . . . . . . . . . . 8 2.3.2 Runway . . . . . . . . . . . . . . . . . 大模型通常指的是大规模的人工智能模型，这类模型通过训练大量的数据来获 得广泛的知识和能力。这些模型通常具有庞大的参数数量，能够处理复杂的任 务，如自然语言理解、图像识别、语音识别等。 闭源大模型包括 OpenAI 的 GPT 系列和 Google 的 BERT。这些模型因其 高效的学习能力和强大的通用性而受到关注。 开源大模型以 Meta 的 Llama 系列，2024 年 4 月，Llama3 发布，包括 工具，分别包括：问答，图像，视频，AI 编程，AI 提 示词和 AI 大模型，一共梳理挑选共计 38 个 AI 工具，其中很多都是开源！ 2.1 问答 2.1.1 ChatGPT ChatGPT 是一个由 OpenAI 开发的大型语言模型，它基于 GPT（Generative Pre-trained Transformer）架构。这种模型通过分析大量的文本数据来学习语 言结构和信息，使其能够生成连贯的文本、回答问题、撰写文章、进行对话等。