Skip to content

ken-dev/aidemo

 
 

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

2 Commits
 
 
 
 
 
 
 
 

Repository files navigation

AI Demo - LLM推理算子可视化

这个项目提供了LLM(大语言模型)推理过程中各种算子的交互式可视化演示。

项目内容

1. LLM推理算子可视化 (llm_inference_operators.html)

包含14个核心算子的动画演示:

  1. Token Embedding - 词嵌入
  2. Positional Encoding - 位置编码
  3. Standard Attention - 标准注意力机制
  4. Multi-Head Attention - 多头注意力
  5. KV Cache - 键值缓存
  6. RoPE - 旋转位置编码
  7. Flash Attention - Flash注意力优化
  8. LayerNorm & RMSNorm - 层归一化
  9. FFN & GLU - 前馈网络与门控单元
  10. Softmax & Temperature - Softmax与温度控制
  11. Sampling Strategies - 采样策略
  12. Quantization - 量化技术
  13. Speculative Decoding - 推测解码
  14. Complete LLM Pipeline - 完整推理流程

每个动画都包含:

  • 交互式控制(开始/暂停/重置)
  • 可调参数
  • 实时数据流可视化
  • 详细的步骤说明

2. CNN演示 (demo_cnn.html)

卷积神经网络的可视化演示

如何使用

  1. 克隆仓库:
git clone https://github.com/friendmine/aidemo.git
  1. 在浏览器中打开HTML文件:
  • llm_inference_operators.html - LLM推理算子演示
  • demo_cnn.html - CNN演示

特性

  • 纯HTML/CSS/JavaScript实现,无需后端服务
  • 响应式设计,适配不同屏幕尺寸
  • 平滑的动画效果
  • 教育友好,适合学习和教学

贡献

欢迎提交Issue和Pull Request!

许可

MIT License

About

No description, website, or topics provided.

Resources

Stars

Watchers

Forks

Releases

No releases published

Packages

 
 
 

Contributors

Languages

  • HTML 100.0%