首页 / AI 浏览器对话

💬 AI 浏览器对话

基于 WebGPU 在浏览器本地运行 LLM,无需服务器,数据不出本机。首次使用需下载模型(500MB–1.2GB),之后会缓存。

🧠 模型选择
🎭 角色预设
自定义角色设定(system prompt):
💡 基于 @mlc-ai/web-llm。模型权重通过本站 /hf-proxy/ 反向代理转发至 hf-mirror.com(国内镜像),库文件走 jsDelivr CDN。所有推理在浏览器本地完成,对话数据不离开本机。
📊 模型能力与硬件参考
  • 桌面 Chrome/Edge + 独立显卡:推荐 Llama 3.2 1B,推理速度 30-60 tokens/s。
  • 桌面/笔记本 + 集显(M 芯片/Intel Iris):推荐 Qwen 2.5 0.5B,速度 20-40 tokens/s。
  • 内存 ≤ 8GB 设备:推荐 SmolLM2 360M,避免内存不足。
  • 模型能力:0.5B-1B 量化小模型擅长简单对话、角色扮演;复杂推理、长文生成、代码能力有限。