夏歌-使用Rust构建LLM应用
第三届中国 Rust 开发者大会 使用 Rust 构建 LLM 应用 夏歌 SECTION TITLE SECTION TITLE 我们能不能直接用 Rust • 训练 • 推理 • AI 应用相关的工具 • WASI-NN spec • WasmEdge 已经支持 Pytorch 、 TensorFlow Lite • WASI-NN 2.0 比如 Langchain Rewrite 在系统编程已经取得了巨大成功 培养更广泛的 Rust 开发 围绕 LLM 生态封装相应的 Rust 框 架,让开发者能够使用简单的 Rust 写 应用 如何用 Rust 实现的 构建和部署 AI 相关工作流的 serverless 平台 • 上传 Rust function ,平台负责将 Rust 编译成 Wasm ,并运行在 WasmEdge 安全容 器中 • 平台封装了一些常用 LLM toml "0.1.0" 基于 ChatGPT 的 Telegram 机器人 telegram 机器人的基础设置 "0.1.0" 基于 ChatGPT 的 Telegram 机器人 Open AI 的基础设置 获取 chat_id "0.1.0" 基于 ChatGPT 的 Telegram 机器人 当 Telegram 收到 规定好的 Slash 开头的 telegram0 码力 | 36 页 | 38.31 MB | 1 年前3THE FIRST EXPLORATION OF PROJECT SPARROW
com/XianBeiTuoBaFeng2015/MySlides Recently, focus on infrastructure of Cloud/Edge Computing, AI, IoT, Programming Languages & Runtimes, Network, Virtualization, RISC-V, EDA, Rust related experiments… 2.4 Replace C++ with Rust in AI frameworks II. Practicing Sparrow Ideas Today, most of the main stream AI frameworks such like Tensorflow, PyTorch and MXNet you may refer to our previous talk "Ray – A Swiss Army Knife for Distributed Computing & AI" at COSCon 2022 (Online); Our new talk "The first exploration of Ray.Rust" will come soon.0 码力 | 68 页 | 13.14 MB | 1 年前3唐刚 - Use Rust to Develop the Decentralized Open Data Application - RustChinaConf2023
Data give EVERYONE the rights/chance to train your own AI model, by collecting the raw data source easily! ➔ The rights of Raw Data Equality ➔ The AI age requires Open Data/Open Web for people to counter counter the Giant Techs. Idea: Open Data for Everyone’s AI Thank you !0 码力 | 30 页 | 2.53 MB | 1 年前3Rust与算法 - 谢波
什么是抽象数据类型? 为什么需要抽象数据类型? 时空复杂度 • 时间复杂度更被看重 • 时间和空间复杂度不是对立的,可以协同 时间和空间复杂度 复杂度计算 • 大O标记法(数量级近似) • 用 AI 来估计 算步骤、算存储 Rust 基本数据结构复杂度 线性数据结构 非线性数据结构 总体来看,时间复杂度没有超过 O(n) 的! Rust 实现数据结构 • 栈 • 链表 • Vec0 码力 | 28 页 | 3.52 MB | 1 年前3ClickHouse: настоящее и будущее
инкрементальная агрегация в оперативке • Выполнение запросов с использованием GPU • Интеграция с ML & AI. Обработка графов • Batch jobs • Data Hub Support For Semistructured Data 27 JSO data type:0 码力 | 32 页 | 2.62 MB | 1 年前3Zadig 面向开发者的云原生 DevOps 平台
、 开 发 者 体 验 增 强 2023 年 面向生态伙伴开放场景 面向开发者提供 IDE 插件 / 自测环境 通用工作流广泛链接生态赋能开发者 企业解决方案和最佳实践内置 发布 AI 增强解决方案 企 业 开 放 性 、 A I 能 力 增 强 产品发展历程 高频极速迭代: Zadig 开源 29 个月共迭代 21 个版本 “ ” 开发者常处于 今天发版、明早升级0 码力 | 59 页 | 81.43 MB | 1 年前3
共 6 条
- 1