AI 已经进入每个应用,但基础运行方式错位
import { CirrayEdge } from 'cirrayedge-ai';
const ai = new CirrayEdge();
await ai.loadModel('model.bin');
const result = await ai.run(input);
应用立即拥有本地 AI 能力,摆脱云服务依赖
PyTorch -> Web Runtime (转换工具)
API(个人为主)
SDK(企业为主)
过去做不了,现在刚刚能做
| 领域 | 趋势 |
|---|---|
| 云 AI 服务 | 成本高,瓶颈明显 |
| Edge AI | 快速增长 |
| 浏览器 AI | 新蓝海 |
| 收费方式 | 客户 |
|---|---|
| 企业 SDK 授权 | Saas 客户 |
| 私有模型部署方案 | 金融、医疗 |
| 模型转换/优化服务 | AI 公司 |
| Edge AI 解决方案 | 硬件厂商 |
| 类型 | 代表 | 局限 |
|---|---|---|
| 云推理 | OpenAI/Anthropic | 成本高、依赖网络 |
| GPU加速 | TensorRT | 面向服务器 |
| JS推理 | WebLLM | 性能受限 |
| CirrayEdge AI | Web 原生 Runtime | 为浏览器而生 |